作者 | 陈嘉映
Chatgpt爆火后,有关AI的热点新闻持续不断。即使我们无法得知尖端企业内暗流涌动的内幕,但也能感觉到第三次技术浪潮正在进行,未来汹涌而来。
“科学家们的工作是可以预测出将来会出现汽车,人文学者们的工作则是在汽车出现之前,预测出堵车。”
本文选自学者陈嘉映老师7年前关于AI的演讲,时至今日,仍能有所警示。在技术主宰人类的时代,人性会如何变化,会失去什么、得到什么?本文的预言有相当的说服力。
今天的主题是人工智能。这个题目,我没做过研究,但翁菱指定我发言,我就说说我的零零星星的思考,抛砖引玉吧。
最近这些年,最火热的技术好像是两种:生物工程技术和人工智能技术。这两大门类的技术都很了得,不仅将大规模改变世界的面貌,而且将改变人自身。我常说,这是两面夹击,人工智能要把机器变得越来越像人,生物工程要把人变得越来越像机器。
生物工程技术和人工智能技术,两厢相比,我估计,生物工程技术带来的变化会更根本。据说,生物工程技术不用多久就能够让人长生不老。在很多人看来,长生不老是所有愿望里最大的愿望——无论什么愿望,都得人活着才能实现。但推开一步想,人终有一死,才会去努力实现愿望,真若永无死日,那还急什么?今天、明天或任何一天,所有的日子都一样。人想多活几天,人有这个愿望大概是事实。不过,长寿作为一种可欲的东西,在各种文化里地位不同,好像在咱们中国摆的位置最高,在古希腊,极流行的观念是人过完了青壮年就该去死了。我其实挺怀疑人是不是真的都愿意长生不老。看着一群活蹦乱跳的孩子,大家都开心,看着年轻人旺盛生长,大家都开心,我们老年人要是都不让出地方,孩子和青年往哪儿长呢?
不过,今天的主题是人工智能,还是回到这个题目上来。我们街上的老百姓,说到人工智能,首先想到的大概是科幻电影里的电脑人。电脑真能变成人吗?
人工智能进步飞快,在很多特定方面已远远强于人类。但我以为,电脑不会成为人。人工智能跟人的智能有根本的区别。人类智能是有机体的智能,所以,人类智能连着意识,连着欲望和感觉等等。我们需要有智能才能制做衣裳,才能生火,而这智能是跟感知连在一起的。我们知冷知热,感知到降温了,于是要添加衣服或生火。我们之所以感知到降温了,那因为我们是恒温动物。温度计可以测量温度,但它不感知冷热。我们感知这个世界,因为我们是有机体,有血有肉,有各种各样的欲望。所谓智能,并不只在脑力里,智能体现在手和脚上,体现在人的方方面面,比如,体现在说话的声调里。
总之,计算能力这种“智能”跟人类智能不是一回事。人的智能跟感知连在一起,感知跟欲望连在一起,欲望跟血肉连在一起。智能在人身上很突出,但它仍然是人这个有机体的一个方面。
所以,我倒不像有些人那样担心电脑人有朝一日会统治人类。他们说,人工智能的威胁与原子弹的威胁不同类,原子弹的危险是毁灭人类,电脑人的危险是另一种,它们将超过人类,成为一个“更高”的群体,成为人类的统治者。可机器为什么要控制人类呢?人要控制别人,因为他要利用别人,人对人工智能毫无用处,他干吗要控制人类呢?人要控制别人,因为他害怕,人工智能没有fear,他干吗要控制人类呢?电脑人控制人类,那只是科幻电影的遐想。
但机器人能不能发展出感觉、欲望、感情呢?就说自保这种欲望吧。就我们人类之为动物而言,自保是一种基本的欲望,有了这种欲望,就会生出其他多种多样的欲望,例如,口渴了要喝水,肚子饿了要吃饭,受到侵害要奋起反抗。
也许,有朝一日,我们会为电脑也设置自保的程序。有了这个基本的程序,它也许会自己生成其他程序,电池缺电了它就设法充电,受到侵害就奋起反抗,等等。这的确是可能的。但我们仍然不可能为电脑设置总体的自保程序。或这么说,总体上的自保根本不是设置出来的,对有机体来说,自保是构成性的,是有机体的定义的一部分,不需要设置。而对电脑来说就不是这样,自保不是它的一部分,所谓给电脑设置自保的程序,指的本来就是设置一系列缺电了就设法充电之类的程序。
我们也许可以承认,按照我们今天所理解的欲望,电脑人不会产生这样的东西。那我们能不能重新定义欲望?我们不可能单单重新定义欲望,为此,我们需要重新定义感知、感情、理解、理想、精神,一句话,我们需要重新定义人。
我并不是在主张有一种亘古不变的人性。今人的人性不是一万年前智人的人性。在那时的智人看来,今人的人性已经面目全非。不过,人性的改变和技术造就的改变不是同种类型的改变——人性的改变不是设计出来的。(历史上不止一次有政治家和思想家企图通过设计来改变人性,但他们无一例外都失败了。)简单说,人性的改变坐落在人性的连续性之中,这样的改变我们称作生长。对这种连续性的变化,调整定义是有意义的,但对人工智能,干吗非要用它来重新定义人呢?
我不怎么担心电脑会变成人,变成一种超级人类,然后来统治人。但我倒相信,人工智能技术会大规模地改变现有的人类,最后变得面目皆非。
技术当然不是今天才有的。不过,今天的技术不同于以往的技术。粗略说来,人类技术经历了三个大阶段。最初,技术是工匠们琢磨出来的。后来,十八、十九世纪以来,技术是科学技术——现代技术不再是匠人摸索出来的,而是基于科学原理发明出来的。工业革命依赖的是这样的技术。
人工智能代表的是第三波技术发展。这一波与前两波的主要区别在于它做的是“脑力劳动”。人的能力可以粗分为体力和脑力。工业革命引入了一系列新能源、新机器,它们把很多体力劳动接过去了。人工智能将把很多脑力劳动接过去。人们预料,人工智能将比工业革命给社会带来更剧烈的改变。因为体力本来就不是人的特长,脑力才是,柏拉图在《普罗泰戈拉篇》里就说过,人没有翅膀四足尖牙,胜过动物的只在于才智。要是脑力也用不着人了,人还能干什么呢?
脑力和体力的区分有时有点儿误导。刚才我说,智能并不只在脑力里,我们一投手一投足,动手动脚,都体现智能。这意味着,所谓脑力劳动不只是脑子的劳动,人类的一切活动,都有脑力在内。结果,人工智能有可能把几乎所有劳动都接过去。
人类发明各种技术,本来就因为技术可以代替人类劳动。但也有人担心,人工智能技术只有少数精英能够掌握,大多数人参与不到其中。一方面,他们的劳动将越来越“不值钱”。另一方面,他们的生活将越来越依赖于少数精英的发明。社会结构因此会发生巨大变化,只有少数人是有用的,大多数人变成了“无用阶级”。
我们也许觉得这是杞人忧天,不劳动了,还可以玩嘛。我们可以把世上的事情分成我爱干的和我不爱干的,有了电脑人,我们就可以把我们不爱干的事情派他去干,然后把时间省下来做我们爱干的那些事,比如说打球、听音乐会、谈恋爱。谈恋爱我就不派电脑人去,这么好的事派它去干吗啊?
我们是可以区分哪些事是我们不得不做,哪些事是我们乐意做的,但是这种区分挺有限的。比如说带孩子,换尿布不爱干,逗孩子笑爱干。但你不给孩子换尿布,逗孩子玩就没那么乐。好玩的事情怎么跟有点儿苦有点儿累的事情连在一起,我们弄不大清楚,但我们大致知道,你为孩子付出了很多辛苦,你跟他的相处就会有一些不同的品质。等到把不爱干的事情都交给机器人以后,剩下的爱干的事情的性质也会改变,你作为一个人的品质总体上也会改变。
我们劳作得很辛苦,难免有时会希望别人做这些工作我们来享受劳动成果。不过,如伯纳德·威廉斯指出的,人并不是只要享受的生物,我们不仅希望获得结果,我们也希望这些结果是亲力亲为的结果。马克思认为,劳动创造了人,劳动是人的基本需求。劳动与享受割裂开来,劳动由机器完成,人单单享受结果,人的定义就改变了。
我们实际上正在经历这个过程。我们对世界的感知越来越集中到结果这一端。我们住在楼房里,不知道楼房是怎样盖起来的,打开餐盒,里面是大米饭,但我们没见过水稻长在地里是什么样子的。我们通过各种屏幕看到海底世界、太空、非洲的动物,世界各地的骚乱,但没有哪样事情是我们亲历的,没有哪样东西是我们亲力亲为的结果。不断进步的技术把人类劳动一项一项接过去了,我们不必经历劳动的艰辛就能够享受劳动的成果,这让技术乐观主义者欢欣鼓舞——技术把苦活累活难活都干了,我们享受成果,有何不好?但事情还有另一面,那就是,我们只享受结果,不再能感知产生结果的过程。仅仅感受结果是薄瘠的感受,而我们的感受正在变得越来越薄。
现在哲学界讨论人类智能和人工智能的区别,很大一部分集中在人具有意识这一点上,而所谓意识,被说成是主观体验,是跟什么东西都不相连的qualia。人不再是欲望、劳作和结果之间的联系,人变成VR游戏室里一堆主观体验,当然,人的定义就变掉了。
人工智能发展起来,不仅社会结构会发生很大变化,人自身也会发生很大变化。技术不只是我们可加以利用的东西,技术改变我们自身。有一些改变是明显的。我们习惯了GPS定位,我们的方位感就可能退化。等我们习惯了让电子设备来采集关于自己身体的数据,我们对自己身体的感知很可能变得越来越迟钝。技术改变我们与世界相处的方式,随着与世界相处方式的改变,我们自己也在改变。
我不认为人工智能会演变为一种新人类,但人工智能倒是很可能把人变成新人类。
技术进步会改善人类生活,同时使未来面对更大风险。可我说的好像都是风险那一面。这并不奇怪。有人把知识人的任务设想为指导社会发展。我倒觉得,知识人从来没有成功地指导过社会的发展。社会自行发展。知识人的任务与其说是指导社会,毋宁说在于指出这个发展过程中的危险。是啊,社会自行发展,这可不一定是朝着良好的方向发展。
海德格尔就是这样看的,他说,技术是这个时代的存在天命,技术发展,你喜欢也罢不喜欢也罢,技术仍将征服世界。是啊,人能够控制其他人,控制异端思想,唯独控制不了技术的发展。如果有一天,人类只享受结果,产生的结果的过程都交给人工智能去施行了,真到了心想事成那一天,那么我们就不得不说,技术主宰了人。
借助技术,我们把过程和结果分离开来,我们只要得到结果就好了。这一点,在人工智能那里最为突出。
去年,AlphaGo战胜了李世石。有意思的不是人工智能赢了——这只是早晚的事儿。我觉得最有意思的是,AlphaGo的设计者并不知道它是靠什么理路赢下来的。我跟围棋高手下棋,不论他多高,我们两个都是在用同样的“围棋语言”思考。而AlphaGo依靠的根本不是我们的思维方式,而是一种我们无法理解的思维方式——如果还叫它思维的话。
人们从各个角度思考人工智能,怎么提高人工智能的水平,人工智能会怎样改变我们的社会,改变我们自己,等等。我自己的兴趣则在另外一个方面。
我更关心的是我们已有的东西,想要更恰当地理解我们已有的东西。比如,通过对人工智能的了解,更恰当地理解人类自己的智能。按现在流行的看法,人工智能的发展让我们看到,智能的本质是计算。我的看法正相反,通过围棋程序的发展,我们能够看得更加清楚,人类智能的本质并不是计算,而是对话,是互相理解。下棋是一种对话——围棋也叫“手谈”。实际上,人的所有智能都是一种对话,哪怕我是一个人在思考。我独自证明了费马大定理,最后一刻我说,我明白了;我明白了什么?我看到了过程与结论之间的联系。因此,我明白了,我也可以让别人明白。然而,我们并不知道在AlphaGo那里,过程和结论之间是个什么联系。在我看,这才是人类智能和人工智能的本质区别。
▼今日推荐关注
特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.