马斯克：人类即将迎来由AI制造的“过剩时代”

© Growtika, unsplash.com

本文转自：北京德国文化中心歌德学院

人工智能具备独自解决复杂问题的潜能，但根据阿德里安·罗贝（Adrian Lobe）的观点，在一个“取消了问题的世界”，传统的政治协商过程将失去意义。我们是否愿意以牺牲自由为代价来换取更多的自由？

人工智能正在以令人惊异的速度突飞猛进。AI系统可以做到像莫奈那样作画，像贝多芬那样作曲，或者像海明威那样来写作，在围棋、象棋、扑克等游戏领域也比人类更胜一筹，甚至已经达到可以诊断皮肤癌和发明新药的水平。几周前，普林斯顿大学的物理学家们借助AI成功解决了核聚变研究中的一个关键问题。而问题在于，当所有问题都被“解决”之后，人类还能做什么？他会成为青年马克思所畅想的那种在吊床上悠闲度日的人，在社交网络上追逐自己的热爱，还是会感到自己是个一无所用的废柴？

早在2019年，微软创始人比尔·盖茨就在一篇博客里对这一“目标困境”做过描述：“当我们解决了饥饿、疾病等重大问题，所有人都生活在一个比以往更加和谐的世界，那会是怎样的情形？接下来人类将会追逐怎样的目标？哪些挑战将会激发我们的灵感和好胜心？”与同行埃隆·马斯克和山姆·阿特曼（Sam Altman）所持的那种带有几分末日危机感的论调相反，盖茨担忧的并不是机器人暴动，而是关乎人类生存的意义危机：即所谓“目标的匮乏。”——果真有这么糟糕吗？

一切交给AI，人类只需躺平

对此，哲学家和物理学家尼克·勃斯特罗姆（Nick Bostrom）给出了否定的回答。在新出版的《深度乌托邦》一书中，勃斯特罗姆勾勒出一种未来社会的理想图景：技术帮助人类摆脱了尘世上的一切桎梏。劳动？家务？教育？——统统交由机器去解决！在勃斯特罗姆所称的“后工具时代”，人类的诸般努力将失去其原有的意义和目标，自此以后任何人都不用在图书馆里挑灯夜战或是为了应付考试埋头苦读，因为人们可以把知识直接下载至自己的身体，或是通过“大脑编辑”来实现自我更新。在一个后劳动社会，文凭、资格认证、工作坊等等将无一例外化为鸡肋。

就连人的自我提升也将由技术接管（至于经由技术装备的自我是否已属于数字分身的范畴，勃斯特罗姆在书中则未置一词），因为人人都可以借助基因疗法和医用纳米机器人来保持“完美身型”，谁也无需在健身房里挥汗如雨，或者为了降至标准体重而忍受饥饿的折磨，更无需自掏腰包去度假疗养，因为一粒小小的药丸就足以让人摆脱疲劳。再也没有什么理由去学习、教育和健身——只要躺平即可。

在勃斯特罗姆看来，取消各种以目标为导向的活动并不意味着自由的丧失，反而还能给人带来更多的自由。在这位哲学家眼中，社会的全部不幸就在于人类总喜欢跟在一堆目标后面穷追不舍。而如果有朝一日人们无事可做，那么无拘无束的休闲文化就会在一瞬间内变幻出千百万种可能的活动方式：堆沙堡，阅读，追剧……等等等等。

© janko ferlic, unsplash.com

未来的公共讨论：算法式民主？

“自由最多的所在乃是虚空”，勃斯特罗姆在书中写道。日常劳动的自动化并不必然导致无聊和消极，进而将人抛入意义危机的深渊，相反却会激发出生命的意义：当一个人不再背负着毕生的愿望清单疲于奔命时，他的人生必将充满意义。

勃斯特罗姆的论证并没有跳出众所周知的乌托邦叙事，然而对这个问题中真正值得探讨的一点，即一个“取消了问题的世界”（此为该书标题）里颇具危害性的政治真空，他却语焉不详。科技解决主义认为，人类可以像解方程一样，通过各种APP来解决贫穷、暴力、疾病等一系列政治问题，这一假说固然是对问题的过度简化，而盖茨和勃斯特罗姆带有功利主义色彩的观点或也失于狭隘，因为即使是在劳动社会中，也同样存在非功利性的行为，譬如学校里的互助小组或是各种休闲娱乐活动，等等。但政治系统也会遭遇同样的“目标难题”：当AI模拟完成了一切可能的辩论，从而彻底取消了政治争论的目的，又会是一种怎样的局面？

假设一款AI能够根据网络上的海量查询请求和回复计算出整个社会的帕累托最优，此时人们还需要通过政党或工会来结成利益联盟吗？假设在未来的某一天，一款通用人工智能（AGI）能够“解决”诸如退休保险计算公式一类的复杂问题，那么由不同政府部门组成的官僚体系或者专家委员会是否可以就地解散？届时选举的目的何在？在一个后工具社会里，选举这回事甚至可能没有任何意义，因为算法式预选已经把结果范围尽可能缩小，以至于最终的人选几乎已被锁定。

“自动调温”的社会治理

如今，将（价值）决策委托给软件代理人的做法可谓方兴未艾：亚马逊每天向我们推荐各种各样的书籍，脸书为我们推送个性化的新闻，ChatGPT凭借维基百科浩如烟海的数据资源为我们解释巴以冲突的来龙去脉……既然AI可以帮助人们做出消费决策或至少能对此施加影响，那为什么不可以通过它来选举呢？或许如此一来选民意愿还能得到更精准的反映，因为有时候就连选民自己也搞不清楚他们想要的是什么。

为什么不可以直接让AI来执政？数据实时更新的AI或许可以通过自动化的反馈闭环来实现公共治理，如同一台完美运行的自动调温器。通过一种抢先式管理，可以在政治诉求尚未表达和未成为政治议题前对其加以预测，并将结果输入虚拟系统。形成政治意愿的过程也将随之变得过时，因为AI可以根据人们的政治偏好一键得出所需答案。人们无需再像以往那样通过旷日持久的协商来平衡各方利益，只需借助AI就能轻而易举地达成妥协。然而问题是，当AI”解决”了所有的政治问题，公民这个角色岂不变得多余？如果世界上没有了饥饿、贫穷和战争，所有人都过上了幸福美满的生活，什么是政治问题又由谁来定义？

© google deepmind, unsplash.com

闲暇VS决策自由？

如果某个完美国家宣称其不假公民之手便建立起一个理想社会，那么这样的政治乌托邦难免不令人生疑：在这里，贫穷的消除不是通过经济形式在不同个体间的合理安排以及财富的再分配，而是基于社会产品的绝对过剩。当疫苗储备足够充足，且AI发明出了一种新型疫苗，其蛋白质结构与计算机模型模拟出的新一代病毒变异体相一致，人们也就用不着再为谁应该优先接种或究竟哪些人属于易感人群而争论不休了。

当埃隆·马斯克和他年轻的技术团队宣称，人类将迎来一个由AI制造的“过剩时代”时，这其中也隐含了一种极端的去政治化观念，因为几乎一切政治问题都能被归结为社会分配方面的矛盾，而当分配冲突不再产生时，它也就不再是一个需要讨论或是加以“解决”的问题。在一个公共讨论被釜底抽薪的去政治化系统中，再也无需担心任何有问题的操作方式会招致批评。这显示了技术官僚主义造福机制捉襟见肘的效用范围，它以拯救世界的名义剥夺了公民的行动力。委托软件代理的情形越多，社会系统所受的限定就越多，行动空间也会随之窄化。在数字乌托邦，个体将把大量的闲暇时光用在给机器输入数据上，但他拥有的（决策）自由却少得可怜。

阿德里亚·罗贝（Adrian Lobe）：自由撰稿人、作家，曾先后在蒂宾根大学、海德堡大学和巴黎政治学院攻读政治学和法学，曾有幸聆听社会学家布鲁诺·拉图尔（Bruno Latour）的“盖娅”理论系列讲座。2019年他在C.H.Beck出版的《存储和惩罚》（Speichern und Strafen）一书引起了诸多关注。

作者：阿德里安·罗贝（Adrian Lobe）

原标题：《AI是否预示着政治的终结？》

翻译：史竞舟

本文经Philosophie Magazin授权翻译转载。文章仅代表作者观点。

原文链接：https://www.philomag.de/artikel/wie-ki-das-ende-des-politischen-einlaeuten-koennte

凹凸镜DOC

ID：pjw-documentary

微博|豆瓣|知乎：@凹凸镜DOC

推广|合作|转载 加微信☞zhanglaodong

投稿| aotujingdoc@163.com

放映|影迷群 加微信☞aotujingdoc

用影像和文字关心普通人的生活