全球人工智能治理必须采取哪些措施

纽约——尽管人工智能数十年来一直在悄悄地给予我们帮助，并且近年来进展加速，但人们将会铭记2023年“大爆炸”时刻的到来。随着生成型人工智能的出现，这项技术在公众意识中取得了突破，它正在塑造公众舆论，影响投资和经济活动，引发地缘政治竞争，并改变从教育到医疗再到艺术等各项人类活动。每周都会出现一些全新的惊人进展。人工智能不仅没有消失，变革反而正在加速推进。

随着全新监管举措和论坛的推出，政策的制定也同样一日千里。但尽管七国集团、欧盟和美国正在推进的努力令人鼓舞，但却没有哪项能够普遍代表全球公共利益。事实上，由于人工智能开发仅限于少数国家屈指可数的首席执行官和市场主体推动，治理讨论中一直没有出现特别是来自全球南方国家的多数民众声音。

人工智能所带来的独特挑战要求各国采取协调一致的全球治理方法，而联合国是唯一具备组织上述对策的包容性合法团体。要想充分发挥人工智能的潜力并降低其风险，我们就必须正确治理人工智能。有鉴于此，我们成立了旨在为解决全球治理赤字问题提供分析和建议的联合国人工智能高级别咨询机构。该机构由来自世界各地的38人构成，充分体现了地理、性别、学科背景以及年龄等方面的多样性，同时还借鉴了政府、民间、社会、私营部门和学术界的专业技能。

进入该咨询机构的执行委员会令我们感到万分荣幸。今天，我们发布了上述团体的中期报告，并就锚定人工智能治理和应对若干相关挑战提出了五项原则。

首先，每项风险均需制定相应的解决方案，因为风险在不同的全球环境中表现也各有差异。但这意味着要承认，如何会因具体设计、应用（滥用）和治理选择而出现危害权利和自由的问题。未能建设性地运用人工智能（我们称之为运用缺失）可能会不必要地加剧现有的问题和不平等。

其次，由于人工智能可以作为经济、科学和社会发展的工具，且其已经在协助人们日常生活中发挥作用，因此，必须以公共利益为出发点来开展治理活动。这意味着要牢记与公平、可持续性、及社会和个人福祉相关的目标，此外，还要注意更大范围的结构性问题，如竞争性市场和健康的创新生态系统。

Winter Sale: Save 40% on a new PS subscription

Winter Sale: Save 40% on a new PS subscription

At a time of escalating global turmoil, there is an urgent need for incisive, informed analysis of the issues and questions driving the news – just what PS has always provided.

Subscribe to Digital or Digital Plus now to secure your discount.

Subscribe Now

第三，要协调不同地区的新兴监管框架，以有效应对人工智能的全球治理挑战。第四，应同时推进人工智能治理及维护代理权、保护个人数据隐私和安全。最后，治理工作应以 联合国宪章、国际人权法和其他已达成广泛全球共识的国际承诺（如可持续发展目标）为基础加以推进。

在人工智能大背景下，需要克服某些顽固的挑战才能完成上述原则的确立。海量算力、数据——当然——还有特定的人类才能构成建设人工智能的根基。全球治理必须思考如何发展并确保以上三种技术的普及。尤其是对全球南方国家而言，全球治理还必须解决支撑人工智能生态系统的基础建设能力——如提供可靠服务的宽带和电力体系。

我们还要为应对人工智能开发、部署或使用可能产生的已知和未知的风险而付出更多努力。人工智能风险是一个备受争议的话题。尽管有人关注终极人类末日场景，但另一些人则更担心其当前所带来的损失问题；但认定无人管理的人工智能风险不可接受却几乎没有分歧。

高效治理需要以确凿证据为前提。我们预见到，需要评估人工智能的状态及其发展路线，从而为民众和政府的政策和监管提供稳固的前提。与此同时，以评估人工智能社会影响——从工作岗位流失到国家安全威胁——为目的的分析观测站可以协助决策者及时追踪到人工智能在线下带来的巨大变革。国际社会需要完善自我监管能力，包括监测和应对潜在的稳定破坏事件（类似于主要银行在面对金融危机时所要采取的措施），并推动问责制乃至执法行动的落实。

以上仅仅是我们正在推动的一部分建议。这些政策应当仅仅是保底，而不是最高目的。最重要的是，我们要借助这些政策，为促使更多人说出他们希望看到什么样的人工智能治理而抛砖引玉。

我们需要建设全新的结构和护栏，以协助所有人在人工智能的发展过程中茁壮成长，从而充分发挥人工智能的全球潜力。人工智能的安全、公平和负责任的发展实际关乎到每个人的利益。无所作为的风险不可忽视。我们认为，没有高效的全球人工智能治理，我们就无法处理这项技术在现在和未来几代人的时间内为所有国家、社区和个人所带来的重大机遇和风险问题。

Ian Bremmer, Carme Artigas, James Manyika和Marietje Schaake 均为联合国高级别人工智能咨询机构执行委员会委员。