事关人工智能的未来，全球科技人士在上海寻找这一问题的答案

摘要：强化人工智能的全球治理，已经到了必须重视的关键时刻。

2024世界人工智能大会暨人工智能全球治理高级别会议7月4日在上海开幕。“全球治理”的关键词，引发业界广泛关注。

当前，人工智能技术的快速发展，为人类社会发展带来了诸多红利，同时也出现了不少风险挑战。如何在全球范围内通过协同共治，实现人工智能发展与安全并重，成为各方亟需对话与合作的重大课题。

喜忧参半的新技术

很多后世广为采用的技术，在出现之初都曾受到抵制。古腾堡印刷术发明后，就有欧洲知识阶层竭力反对，认为印刷技术将带来大量粗制滥造的印刷品，从而败坏文本。纺织机出现后，大批因此失业的纺织工人发起抵制运动，甚至捣毁机器。火车初入清朝，有反对者称“铁路一开，则中国之车夫贩竖将无以谋衣食，恐小民失其生计，必滋事端”。

但纵观技术发展史，对新技术的怀疑者大多是受它们影响的人群，而极少是技术的发明者、研究者。如果说有例外的话，可能要数原子弹。爱因斯坦、奥本海默等原子弹的先驱都对这项发明产生了深深的忧虑，呼吁各界共同反对使用这项致命武器。

当下，人工智能就引发了它的创造者——全球科技界的担忧，或者更准确地说是喜忧参半，因为它有明显造福人类的特性，但也有难以回避的风险和不确定性。包括马斯克在内的多名科技界知名人士曾发表公开信，呼吁六个月内暂停研发人工智能技术。

对人工智能的担忧首先来源于它在某些方面超越人类的卓越表现。例如人工智能程序AlphaZero能够战胜人类最优秀的国际象棋选手，它的战术出人意料，有些走子模式人类心智甚至无法完全理解。世界冠军卡斯帕罗夫在观察和分析了AlphaZero的棋局后说：“AlphaZero彻底动摇了国际象棋的根基。”当人工智能不断探索国际象棋的极限，那些穷其一生方才精通此术的人类棋手能做的，却只有观察和学习。下棋，只是人工智能小试牛刀的游戏。它在人类引以为豪的思维疆域里，还在不断地挑战边界。

更令人忧虑的是，人们尚无法索解人工智能的智能从何而来。人工智能的核心技术——深度学习常常被称为“黑盒子”，意思是说，虽然它的代码、参数、训练方法是公开透明的，但人们仍然难以追踪、理解和预测它们如何从特定的输入生成特定的输出。不仅是普通人、使用者无法理解，即使那些书写人工智能代码的程序员也无法预测。

人工智能既有强大的潜能，又有巨大的不确定性。面对这项攸关全人类命运的新技术，世界各国基本达成共识，必须对话合作，构建开放、公正、有效的治理机制，促进人工智能技术造福于人类。

逐渐清晰的治理思路

去年10月，中国提出《全球人工智能治理倡议》，并于7月1日在第七十八届联合国大会上协商一致通过。在中国和全球其他国家的持续探索下，人工智能治理的思路也逐渐清晰。

一方面，强化人工智能的全球治理，已经到了必须重视的关键时刻。

监管改善了商品、基础设施和社会。正是因为有了监管，汽车才有了安全带和安全气囊，我们才不用担心牛奶会被污染，建筑物才会建造得方便所有人使用。明智的监管可以确保人工智能被人类负责任地使用。

一个反面的案例是互联网。互联网诞生在一个强调自由发展、弱化监管的年代，事后我们才知道，互联网的设计本可以做得更好，考虑得更周全。比如，早些决定如何处理隐私和匿名问题，也许就能减少“钓鱼”和“人肉”。

清华大学人工智能国际治理研究院院长薛澜介绍，最近有研究表明，在经济发展、社会发展和环境可持续发展三大领域中，人工智能会对134个具体目标产生促进作用，但也可能对59个具体目标产生阻碍作用。

这说明，只有尽快深入全球各个领域研究治理办法，才能推动人工智能健康发展，尽可能地让它收益最大化，同时把风险降到最低。

上海人工智能实验室主任、首席科学家周伯文在本届大会上向大家展示了一张坐标图——横轴是人工智能技术能力的提升，纵轴是人工智能的安全维度，理想的路线是人工智能沿着45度的直线安全与性能平衡发展，而现在的实际路线则是一条长期低于45度的波动曲线，显然发展是失衡的，安全技术滞后于性能提升。据他介绍，目前99%的算力用于模型预训练，只有不到1%用于安全对齐。

发展的失衡，也就造成了数据泄露、技术滥用和算法歧视等一系列问题，更凸显了人工智能全球治理的必要性和紧迫性。

另一方面，想要搞好人工智能治理，必须利益攸关方共同参与。

新思科技总裁兼首席执行官盖思新在本届大会演讲中表示：“人工智能创新的步伐必须谨慎平衡其负责任发展的需求，而实现这种平衡的最佳方式就是全球协作。全球协作能够使全世界人民从人工智能带来的巨大进步中受益，同时确保这些创新能力得到负责任的实践。”

在图灵奖得主姚期智看来，安全治理正在成为一个学术交叉新领域，包括AI、密码学、政治、法律、企业等多领域需要合作。

也就是说，除非各国政府、众多人工智能公司甚至世界公众都参与进来，否则任何解决方案都不可能成功。

以各国间的合作为例，在政府合作层面，中国在《全球人工智能治理倡议》里强调广泛与公平，提出各国无论大小、强弱，无论社会制度如何，都有平等发展和利用人工智能的权利；强调要建立更加广泛的人工智能合作机制，共同推动人工智能治理进程。

这种全球合作是有先例可循的。例如，第二次世界大战结束时，核武器引发了人们对如何使用新技术的深深恐惧和不确定性。作为回应，81个国家一致通过了国际原子能机构的章程，开发安全、可靠、和平的核技术。还有一些全球合作模式，如国际民用航空组织，更为柔和，它不太注重执行，成员国制定自己的法律，但接受一个全球性机构的咨询。

如今，为了建立有效合作机制共同应对人工智能带来的全球性问题，人们来到上海寻找答案。5日，一场以“人工智能新进展与社会科学的未来”为主题的论坛将在世界人工智能大会召开。在上海市社会科学界联合会召集下，各界将从社会科学的整体性高度出发，展望人工智能与社会发展的交互影响，并发布人工智能全球治理年度研究项目。

4日的大会开幕式上，上海向全球发布了《人工智能全球治理上海宣言》。显然，主动而强大的中国智慧，正尝试着引领人工智能驶向更加有序、安全的未来。