诺奖邀请｜Hinton：为何说接下来十年AI将颠覆人类社会运行方式

人工智能历史

人类长久以来的主要局限在于体力，而工业革命已经成功打破了这一束缚。如今，智力成为了我们的新限制，而人工智能（AI）正逐步消除这一障碍。深度学习的理念源自于大脑的工作机制。尽管我们尚未完全揭开大脑运作的神秘面纱，但已有诸多认知。大脑中，无数的神经元通过连接彼此交互。学习过程会使这些连接的强度发生变化。神经元通过发放脉冲信号向其他神经元传递信息，其关键作用在于决定何时发送信号。神经元依据从其他神经元接收到的输入强度决定是否发放信号，而输入强度则取决于连接的权重。学习的精髓就在于调整这些连接的强度。

上世纪80年代，反向传播（backpropagation）方法应运而生，用于调整连接强度。尽管当时效果显著，但我们未曾预见，当配备海量数据和强大计算能力时，其效能会如此显著地提升。如今，大型聊天机器人借助反向传播来调整计算机模拟的神经网络中的连接权重，这正是深度学习的核心所在。例如，若要构建一个识别鸟类的神经网络，其初始层或许能识别边缘，随后的层级则逐步识别边缘的组合，如鸟喙、鸟头等，最终通过多层复杂的特征检测，判定图像是否为鸟类。

自20世纪50年代以来，AI的发展主要遵循两条路径：基于逻辑的方法和基于生物学的方法。逻辑方法模仿逻辑推理，而生物学方法则模仿大脑中的神经网络。最初的半个世纪里，逻辑方法备受推崇，但成效有限。自2009年起，基于神经网络的生物学方法逐渐展现出巨大优势。2012年，神经网络在物体识别领域取得突破性进展，极大地推动了AI的发展。这一成功的背后得益于三大要素：首先是强大的计算能力，如NVIDIA芯片；其次是互联网提供的海量数据；最后是技术上的革新，如2017年Google推出的Transformer技术，使语言模型的表现更为出色。这些进展激发了人们对神经网络的浓厚兴趣，尤其是ChatGPT的发布，展示了神经网络在理解和回答问题方面的巨大潜力。

人工智能广泛应用

人工智能（AI）的应用将渗透至各行各业，尤其在某些领域的影响尤为显著。在医疗领域，AI医生的能力远超普通医生：不仅能参考海量病例，还能结合患者的基因组和完整病史数据进行诊断。此外，AI在医学图像解读方面也表现出色。在复杂诊断中，AI与医生的结合能大幅提升诊断的准确率。目前，北美每年约有20万人因误诊而丧生，而AI的应用有望显著减少这一数字。

AI在诸多领域带来了显著的效率提升。在教育领域，私人导师的辅导效果通常是普通课堂教学的两倍。而AI让每个人都能拥有私人导师，从而大幅提高学习效率，尤其是对孩子的教育。这一变革将对教育体系产生深远影响，尽管可能对大学带来一定挑战。

AI在数据驱动的任何领域都能发挥重要作用。以一家采矿公司为例，我的一位邻居开发了一个AI系统，该系统能利用公司现有的海量数据（如挖掘矿井所需时间的数据，总量达100亿个数据点）快速回答问题。例如，若承包商声称能在某时间内完成任务，AI系统能迅速评估其实现的可能性。过去，要获得这样的答案，通常需要聘请大型咨询公司撰写报告，耗时数周。而现在，通过AI系统，仅需几秒钟就能得到答案。这种效率提升在拥有海量数据的任何行业中都可能实现。

AI还能帮助人们解决日常生活中的问题。我曾遇到一个小困扰：小屋里出现了蚂蚁。我向GPT-4求助，它提供了可能的蚂蚁种类及应对方法，这让我受益匪浅。这种体验就像拥有一个博学且耐心的朋友随时待命，帮忙解决各种问题。当然，AI偶尔会“出错”——即给出错误的回答，但这与人类犯错本质上并无二致。实际上，这种偶发的“出错”正是AI接近人类行为的一个体现。人类在记叙或描述过去时，也常包含虚构成分。这种现象被称为“虚构”，是人类记忆的自然缺陷。事实上，人类一直在“混淆”信息。观察人们回忆很久以前的事情，他们通常对细节充满信心，但实际情况是他们经常记错。这使得人类的记忆在某种程度上与大型聊天机器人类似，因为这些模型也会出现混淆。

人工智能未来10年

预测未来，尤其是在快速变化的时代，总是充满挑战。若要预测10年后的景象，回顾10年前的情况或许是个不错的方法。例如，10年前，无人能预见到GPT-4或谷歌的聊天机器人“Gemini”这样的技术出现。同样，在未来的10年里，我们也将见证超出当前预期的创新和突破，这些变化将比人们设想的更加惊人。

若仅展望几年，变化可能并不明显，但在10年的时间跨度内，AI的能力将发生翻天覆地的变化。AI革命的重要性和历史意义可能超越以往的技术革命。以工业革命为例，当时人类的体力不再是主要限制。而在AI革命中，智力也可能不再受限，这将从根本上改变社会的运行方式。这种影响的深远程度或许难以想象，但它注定将成为文明史上一个关键的里程碑。

过去，挖沟需要依靠人力，尽管可以借助动物或风车、水车等工具，但人类的体力至关重要。然而，工业革命使人类的体力变得不再重要。如今，人类的智力起着关键作用。但当AI变得远超人类聪明时，人类的智慧也将像工业革命后的人类体力一样，逐渐失去其重要性。

从历史角度看，技术的进步一直在逐步消除人类的限制。很长一段时间里，体力是人类的主要限制。而如今，智力成为了我们的主要限制。AI的出现和发展将最终打破这一限制。如果有人问：“是否有任何例子表明，一个更聪明的事物被一个不太聪明的事物控制？”答案几乎没有。我只知道一个例子，那就是母亲和婴儿的关系。进化让婴儿能在一定程度上控制母亲，这是物种生存的重要策略。然而，即便如此，母亲和婴儿的智力水平仍然相差不大。

对于未来，当AI的智力超过人类时，我们是否还能保持对其的控制，这是一个未知数。一些人，如我的朋友Yann LeCun，认为我们无需过于担心。他们相信，既然AI是由我们创造的，那么它们将始终按照我们的意愿行事。但这种乐观态度能否持续，还需时间验证。我并不认为AI会始终按照我们的意愿行事。我认为我们没有足够的理由对此感到自信。作为物质对象，人类并没有什么无法被计算机复制的特质。从长远来看，计算机可以拥有我们所有的情感。我不认为人类有什么特别之处，只是非常复杂而已。这种复杂性来源于漫长的进化过程。虽然人类对彼此来说非常特别，但从本质上讲，没有什么是机器无法模拟的。

人工智能的风险

关于AI的风险，人们常提及它可能会夺走工作。这确实是AI带来的众多风险之一。我们需要清晰区分这些风险，因为不同的风险需要不同的解决方案。毫无疑问，AI将取代许多工作，如律师助理和为律师进行研究的人员。这些工作中的很多部分，AI已经能够更高效地完成，因此所需的律师助理将大幅减少。对于许多普通的办公室工作也是如此。例如，我的一位亲戚在卫生服务机构工作，以前她需要25分钟来回复一封投诉信。现在，她只需将信件输入ChatGPT，系统就会生成回复，她只需检查一下并发送出去，这仅需5分钟。因此，这类岗位的需求减少了五倍。尽管AI会创造许多新的工作机会，但目前尚不清楚这些新工作能否弥补AI取代的大量普通办公室工作的缺口。这是一个严峻的问题：那些失去工作的普通人将何去何从？我认为，这是政府需要关注和解决的问题。

在短期内，我最担忧的是网络攻击和AI降低生物武器制造门槛的风险。例如，去年网络钓鱼攻击增加了1200%，这主要归因于聊天机器人被用于发起更精确的攻击。我也担心AI被用于制造新型病原体，目前对此几乎没有任何有效的控制。

从中期来看，我非常担忧失业问题以及自主致命武器的开发。在未来两到三年内，我们可能会看到这些武器投入使用，这是非常危险的。目前，各大国防部门都在积极研发它们。令人担忧的是，现有的AI法规通常不适用于军事用途。例如，欧洲的相关法规明确规定不适用于AI的军事应用。政府对自我监管持犹豫态度，而自主致命武器一旦被使用，其可怕之处将昭然若揭。

从长远来看，我最担忧的是AI会变得比人类更聪明，并最终接管人类。类似化学武器的《日内瓦公约》只有在看到这些武器带来的巨大灾难后，才可能出台。历史证明，这些协议是有效的，例如在乌克兰冲突中化学武器没有被使用。但我们必须付出惨痛代价，才能真正认识到这些武器的危险性。我们需要随着技术的快速发展，在安全领域投入更多精力。而能够拥有资源来完成这一任务的，只有大公司。因此，政府需要施加压力，促使大公司在安全方面采取更多行动。确保AI安全需要大量的计算能力和熟练的技术人才。为了留住这些技术娴熟的科学家，必须为他们提供一个可以自由研究的环境。以加拿大为例，尽管其经济规模不大，但在AI领域取得了显著成就。这得益于对基础科学研究的支持政策。像我、Yoshua Bengio和Rich Sutton这样的顶尖AI研究人员选择在加拿大工作，部分原因是社会制度的吸引力，但更重要的是其对基础科学研究的资助。因此，支持基础科学研究是留住优秀研究人员的关键。此外，支持高效的计算能力也是不可或缺的一环