清华大学苏世民书院院长、人工智能国际治理研究院院长薛澜：AI的可怕在于“未知的未知”，发展和治理应“双轮”并行

每经记者：文巧 每经编辑：兰素英

北京时间6月25日～27日，世界经济论坛第十五届新领军者年会在辽宁大连举行。在会议现场，清华大学苏世民书院院长、人工智能国际治理研究院院长薛澜教授接受了《每日经济新闻》记者（以下简称NBD）的独家专访。

薛澜教授认为，开发人工智能（AI）系统不能简单认为越强大越好，AI风险存在“未知的未知”（Unknown unknowns），而这才是最可怕的。因此，AI发展和治理这两个“轮子”必须共同推进。

谈及AI替代人类工作这一话题时，薛澜教授表示，这一次（AI浪潮）可能真的不一样，在相当一段时间内有可能替代的工作更多，创造的新工作相比没有那么多。因此要从政策方面帮助被替代的行业从业者转岗，而社会也要考虑如何创造新的就业机会。

薛澜教授 图片来源：每经记者 张宏摄

从系统角度优化，可缩小AI发展差距

NBD：您如何评价中国当前AI发展的现状？中美在AI领域的竞争非常激烈，您怎么看待中美之间的发展差距？

薛澜：从全球角度来看，AI技术发展非常快。大模型确实是日新月异，各种各样的模型正不断（涌现）出来。总体来讲，中国一直是跟着全世界前沿的步伐在往前推进。当然，我们可能因为算力的限制有一定的差距，但（我们）能始终跟上，这已经是非常了不起的。至于算力问题，我们国家也在努力通过各种方式来解决。

现在，有一些专家认为，算力固然重要，但除了芯片之外，整个系统的很多环节可以进一步优化，很多企业也在这方面努力。这样，尽管算力有差距，但如果系统做到最好，差距也会进一步缩小。

NBD：对于AI的治理，各国和地区有哪些共识与不同？

薛澜：在基本原则上，各国共识是大同小异的，比如AI向善、趋利避害。

但是，各国的具体措施千差万别，主要是因为：第一，各国AI发展水平、应用场景和公众对技术的接受程度有差别；第二，各国在价值观念、文化和历史上也有差异。因此，具体的治理政策和措施上应该有很大的不同。

图片来源：视觉中国-VCG41N1472123004

AI的发展与治理应“双轮”并行

NBD：您认为AI给社会治理带来的最大风险是什么？与历史上其他新技术如核能、互联网、生物技术等相比，风险有什么差异？

薛澜：从本质上讲，AI带来的风险和以前这些技术的风险是相似的，即可能对人类最基本的生存问题带来威胁，例如核武器战争、生物医学滥用等带来的风险，而AI亦是如此。

AI技术发展的特点是特别快，一旦到了一定阶段，技术突飞猛进，影响范围和程度将前所未有。日常生活中，很多服务和产品背后都有AI技术的应用，其泛在程度也是前所未有的。

应对风险确实非常困难，因为它带来的风险可能现在还不知道。技术应用一般需要一段时间，其风险才会显现出来。

NBD：也就是说，发展与谨慎对待是并行的。

薛澜：对。我们在风险治理里边经常提到的一点是“Unknown unknowns”，也就是“未知的未知”，这才是最可怕的。

NBD：您曾谈及，在跟国际专家讨论AI发展时，提到过几条“红线”，能具体讲讲吗？

薛澜：今年三月份，我们在北京开了一个关于AI安全的研讨会，很多技术和治理专家共同讨论了AI要避免进入的一些红线。例如，如果AI系统会产生欺骗行为，就要特别小心，远离它。

类似的问题提了四五条，说到底，不能简单认为AI系统越强大越好。我们担心“未知的未知”，所以需要解决这个问题。

NBD：那么，越安全越好吗？

薛澜：当然，绝对的安全也是很难做到的，除非我们就不发展了！但也有专家认为，不发展才是最大的不安全。所有的科技发展必然存在潜在风险，所以我们始终得是发展和治理两个轮子共同去推进。

AI替代人类工作，怎么办？

NBD：许多人担心，AI会替代大量人类工作岗位，您怎么看？

薛澜：对，这是一个确实需要关注的问题。至少从目前来看，AI的能力越来越强，很多与知识生产、应用和传播相关的行业可能都会受到影响，尤其是传统的白领工作。这是一个事实。

以前，我们认为技术创新会替代一些工作，但也会创造新的工作。但这一次，我认为可能真的不一样，在相当一段时间内有可能（AI）替代的工作更多，创造的新工作相比没有那么多。

NBD：您觉得替代的工作主要是传统的劳力型工作，还是有创造力的工作？

薛澜：目前来看，很多脑力劳动的工作会受到影响。虽然现在主要替代的是重复性强的脑力工作，但随着AI系统越来越强大，复杂的脑力工作也可能被替代。举例来讲，过去法官可能需要有助手去整理很多文件资料，现在AI可以轻松应对。

NBD：从政策上，我们应该如何保证就业不受负面影响？

薛澜：首先要监测和观察AI技术对就业的影响，掌握事实情况。其次，要及时提供更多培训，帮助被替代的行业从业者转岗，承担新的工作。因为（AI）可能创造了许多就业机会，但我们过去不知道有这样的需求。同时，社会也要考虑如何创造新的就业机会，并采取多元化的就业和生活方式。