(图源:CFP/供图)
李佩珊/文
作为2002年诺贝尔经济学奖得主,丹尼尔·卡尼曼(Daniel Kahneman)从不自认为经济学家。这位纯粹而卓越的心理学家从未转行,也从没有上过一门经济学课程,是位彻彻底底的经济学“门外汉”。然而,他和同为心理学家的研究伙伴阿莫斯·特沃斯基(Amos Tversky)所开创的“展望理论”(Prospect theory)挑战了经济学“理性人”决策的假设,为打开行为经济学的大门奠定了基础。
卡尼曼或许也是著作最为畅销的诺贝尔经济学奖得主之一。他于2011年出版的获得了美国国家科学院图书奖《思考,快与慢》一书,在全球销售了数百万册。这并不是一本流于简略的大众书籍,他着迷于分析人类决策过程中错误是如何发生的,而他基于大量实验和材料得出的洞见——大众的直觉思考充满了偏见,无疑是在忤逆着大众思想的潮流。
丹尼尔·卡尼曼是位悲观的质疑者,童年时作为犹太儿童在沦陷区的经历给予了他这抹生命的底色。但在另一方面,他也是一位行动力相当强的生意人,开创了咨询公司TGG集团,专注于将行为科学和数据分析应用于咨询领域。
近日卡尼曼出版了《噪音:人类判断的缺陷》(Noise:A Flaw in Human Judgment)一书,我们可以在其中同时找到他这两部分的存在和成果。他将对于人类判断错误产生原因的研究从“偏见”推进至了“噪音”,即“应该相同的判断中的可变性”这一更容易被忽视的因素。卡尼曼保持了他一贯的悲观论调,认为人类难以战胜噪音,呼吁采用“决策卫生”这样的预防性措施来减少噪音。同时,他对于未来用算法完全消除噪音的可能性抱有相当高的期待,将之称为唯一可以完全消除噪声的方法。
事实上,算法、数据、行为科学早已交织和缠绕在一起。不管是在前几年发生的关于操控美国大选的剑桥分析(Cambridge Analytica)数据门事件中,还是不久前Netflix纪录片《监控资本主义》所揭示的社交网络用户成瘾问题中,我们都可以寻觅到这种交织和缠绕的存在。《噪音》以外,我们又该如何理解这样的现实?
从偏见到噪音
在《思考,快与慢》中,卡尼曼指出了“偏见”(bias)的存在。这基于他将人类的思考模式所分为的“快”和“慢”两个系统,即依赖直觉、无意识的“系统一”,和自主控制、有意识的“系统二”。这两者本该协同合作,但大脑出于惰性,往往直接选择了“系统一”的判断,这导致了人类的决策容易陷入“偏见”之中。
在这本书中,卡尼曼收入了他关于偏见最著名(也最有争议)的解释——“琳达实验”,来解释系统一是如何将无法立即找到答案的复杂问题进行简单化,形成了偏见。在“琳达实验”中,卡尼曼要求受试者想象一位名为琳达的女学生,将之描述为“31岁、单身、坦率活泼、在学生时代十分关心不平等和社会公正议题”。在他为判断琳达身份提供的几个选项中,其中一项为“琳达是一位银行职员”,另外一项则为“琳达是一位银行职员,并是位女性主义者”。绝大多数受试者出现了“合取谬误”(从概率上后者是前者的子集),选择了后一项选项,这是因为他们用“琳达是否是女性主义者”这个简单的问题偷换了“琳达是否是一位女性主义银行职员”的复杂问题。
但偏见不是卡尼曼对人类思考判断过程的研究之路的终点,时隔十年之后,他出版了《噪音:人类判断的缺陷》一书,来介绍“噪音”(Noise)对人类判断广泛而损害重大的影响。“实际上,偏见被高估了,这是以牺牲本该对噪音的重视为代价的。”卡尼曼在新书中写道。《思考,快与慢》的超级畅销点燃了人们重视偏见的热情,但他认为现在已经到了人们应该认识噪音这个普遍而重要问题的时候了。
卡尼曼将“噪音”定义为“应该相同的判断中的可变性”。他在人类社会中发现了大量存在的噪音,在医学界、法律界、经济界这些需要大量判断和预测的领域,他发现专家们的判断经常会大相径庭,更糟糕的是,他们经常会因为诸如天气或者心情给出不同的判断。
虽然都存在于判断过程中,噪音和偏见实质上是两类错误:正如“琳达实验”显示的,偏见本质上是一种导向于一致性错误的因果方式,而噪音则是一种数值散乱的统计方式。
卡尼曼在《噪音》中用一个相当简洁易懂的“体重秤”的例子来解释偏见和噪音的区别。如果你每天都在体重秤上秤一次体重,每次体重秤都将你的体重高估了两磅,那就是偏见(bias);而如果体重秤每次显示出来的体重数总是不一致,在第一天增加了一磅,在第二天却减少了一磅,在第三天又增加了三磅,这就产生了噪音(noise)。
“大量的噪音是个昂贵的问题。”卡尼曼在书中写道。他引入了MSE(均方差)来测量“噪度”,并将之称为“噪音审计”。他发现一家保险公司的核保人们在制定保费时有着高达55%的噪度,一家资产管理公司的对股票估值的噪度则达到了41%。这令公司的高管们瞠目结舌,他们原以为员工们的判断最多只有10%左右的偏差。过度报价和低价合同给这家保险公司带来了高达数亿美元的噪音成本。
此外,卡尼曼认为噪音带来了大量的不公平。由于在法律界、教育界和政府中大量噪音的存在,不公平的现象广为存在。在他主持的一项法律界的噪音审计中,208名美国联邦法官面对着同样的由16个简化问题描述的犯罪,给出了平均为7年的刑期,但是法官之间给出刑期的平均差异超过了3年——这是非常巨大的噪音。“这将判决变成了抽签”,卡尼曼指出这样的“抽签”也会发生在入学申请、竞赛评分这样需求公平的重大时刻,甚至会关系到人们的生死:想想看,一个患有重症的人通过了申请,获得了社会保障残疾福利,而一个人却什么也得不到。噪音会给社会带来难以承受的不公平,“处境相似的人受到不同的对待是不公平的,专业判断被视为不一致的系统会失去可信度”。
如何减少被忽视的噪音:“决策卫生”
噪音已经对社会造成了如此大的损害,为何至今从没有被重视过?
卡尼曼认为,人们并不是对噪音视而不见,而是习惯性地忽视噪音——他将噪音比喻为“地下室的漏洞”。
他将人们没有意识到噪音这一“地下室的漏洞”的原因,指向了对“分歧”的逃避。“人们对不同意见往往会有不适感。”卡尼曼指出,大部分组织喜欢共识与和谐,而不是异议和冲突。现有的管理程序似乎往往是为了尽量减少实际分歧的发生频率而设计的:当分歧发生时,就将其解释掉。
卡尼曼分享了一个真实的故事来证实组织是如何纵容噪音来避免分歧的。明尼苏达大学的心理学教授内森·坤塞尔(Nathan Kuncel)帮助一所大学审查其招生决策的过程。这所大学会让第一位招生官阅读申请文件并打分后,将文件移交给下一位招生官。虽然这保证了每份申请都有两位招生官审核,但第一位招生官留下的分数显然会影响到第二位招生官。因此,这位心理学教授建议,最好在移交文件时掩盖住第一位招生官的打分。但学校的回答是:“这就是我们曾经的做法,但这导致了如此多的分歧,于是我们选择了现在的审核系统。”
发现分歧,或者说发现噪音并意识到其存在,虽然令人不快,但是对于解决成本和不公平的问题大有好处。当然,最重要的问题仍是,人类是否可以做些什么,来尽量消除决策过程中的噪音?
对待噪音这个难以预测、容易被忽视的敌人,卡尼曼建议我们吸取医疗中预防性卫生措施的经验,在错误发生之前预防一系列不明确的潜在错误。他将这种方法称之为“决策卫生”。就像是洗手一样,“决策卫生”程序可以帮助我们在决策过程中提高减少噪音的可能性。
卡尼曼提出的决策卫生的“第一原则”是:判断的目标是准确性,而不是个人表达。人们之间的个体差异和判断人格的不同,导致了不同的人对同一问题往往有不同的看法,卡尼曼将之称为“稳定模式噪音”,这是社会中广泛存在的系统性噪音的相当重要的组成部分。卡尼曼认为其不得不指向一个不受欢迎却又不可避免的结论:“判断不是你表达个性的地方。”
对决策卫生第一原则的根本而彻底的应用是,用规则或算法取代判断,“算法评估可以保证消除噪声——事实上,它是唯一可以完全消除噪声的方法。”即使目前算法仍不太可能在重要决策的最后阶段取代人类的判断,但他认为适当地使用算法来减少决策对于专业人士的依赖是大有裨益的,比如,限制法官的自由裁量权或促进医生诊断的同质性。
他也倡导人们通过“抵制不成熟的直觉”的原则来进行“决策卫生”,特别是对于专业人士而言。专业人士往往会根据过去的经验做出非常快速的判断(“系统一”的快思考),这不仅仅是噪音,也是偏见的主要来源。正如他在《思考,快与慢》中描述过的,出于直觉的快思考意味着可以快速得到判断完成的内在信号,这让决策者对他们的判断充满信心。这也正是决策者难以抛弃快速思考的即时奖励,而选择更束缚和更痛苦的规则、算法的关键原因。卡尼曼认为,人们终究要学会延迟满足,“直觉不应该被禁止,但应该被告知、约束和延迟。”他鼓励人们对证据进行平衡和仔细的考虑,进而再利用直观参与到判断中。
基于这一原则,他建议对信息进行排序,让无关紧要可能产生偏见的信息不被专业人士所获得。例如,让检查人员不知道嫌疑人的其他信息(想想看之前的“琳达实验”,你就知道这有多必要)。
“把判断分成几个独立的任务”是另外一项“决策卫生”原则。具体说来,卡尼曼建议人们在具体的决策过程中,将问题再一次分解为几个方面和特征,并对每个方面和特征进行独立评估,直到每一项评估完成前,不要进行全局判断,“通过将判断分解为一系列较小的任务,可以减少过度一致性”。
卡尼曼认为谷歌(Google)的“结构化面试”是我们了解“把判断分成几个独立的任务”这一原则的很好案例。在谷歌的招聘过程中,“应聘者是否合格”这个问题被分解为四个方面评估:“一般认知能力、领导力、企业文化适应性和岗位相关技能知识”,并进一步细化为更小的组成部分。应聘者的长相和爱好等等无关因素,无论是积极还是消极,都不会被列入考核范围。
在按照这一原则行事时,我们也有必要设置多个判断者,并从他们那分别获得独立的判断,然后再考虑汇总这些判断。事实上,卡尼曼认为谷歌的“结构化面试”远远比其他公司成功,是因为谷歌严格执行了一条并非所有公司都遵守的规则:公司确保面试官们在相互沟通之前,已经单独对候选人进行了评分。
“执行决策卫生很可能吃力不讨好。”卡尼曼延续着他一贯的悲观论调。噪音作为看不见的敌人,打败了它也只能获得看不见的胜利。但“决策卫生”仍旧至关重要——身处新冠疫情时代,我们注定能相当理解这一点。正如在人类彻底战胜疫情之前,“戴口罩”永远是我们所能采取的最有效的措施。
《噪音》之外:
算法、数据和行为科学
“当线性的人遭遇指数级增长的技术时,AI终将胜出,这是很清楚的事情。”卡尼曼在最近的一次采访中如是说道。这位悲观的心理学家如今对人工智能抱持着相当高的兴趣和信心。他甚至表示,如果自己重新出生,人工智能、数据分析将取代心理学成为他最想从事的领域。
事实上,如今算法、数据、行为科学早已交织和缠绕在一起:行为科学成为操纵人类行为的科学依据,而数据和算法则提供了可行性和资源支撑。
行为科学是如何成为操纵人心的利器的?《思考,快与慢》被列入美国情报人员的必读书目并不是坊间空谈。行为经济学家将卡尼曼在《思考,快与慢》中指出的“偏见”称为“认知偏差”,这可以被潜在的操纵者利用,通过塑造信念来影响我们的决策轨迹。比如,利用“锚定效应”影响人们对成本或者收益的评估价格,或是暗示大多数人的决策结果以使我们不知不觉中屈从。
过去人们相信这种操纵可以相当积极。深受卡尼曼影响的行为经济学家理查德·塞勒(Richard Thaler)的“轻推理论”(Nudge theory)指出,“轻推”可以用一种可预测的方式改变人们的行为,但不是命令、也不禁止任何选择或者提供显著的经济激励。取而代之的是,轻推改变了人们决策的环境,当人们再次使用系统一,也就是直觉进行决策时,最终的选择将会变得积极和理想。
“轻推”最著名的例子是,奥巴马政府的白宫信息与管制事务办公室主任凯斯·桑斯坦(Cass Sunstein)让计算机将数百万美国企业和政府的员工自动录入到某个退休计划,但保留人们自愿退出的权利。《大空头》的作者迈克尔·刘易斯(Michael Monroe Lewis)曾称赞这种来做公益事业的方式就像是一种“魔法”,“如同月光悄悄爬进窗户一样,在人们沉睡之际偷偷潜入千家万户,改变了他们的生活。”
当大数据、算法和行为科学相遇时,事情有了更巨大的改变。大数据为行为科学提供了庞大的资源库,我们无时无地不在留下的数字痕迹被算法收集汇编成档,暴露了我们的购买行为、财务状况、升学就业、人口统计信息。同时,我们的决策弱点和决策偏好也从中显露无疑,通过了解我们决策容易受到影响的偏见模式,就意味着可以通过行为科学的指导更轻易地影响乃至指导我们的决策。
哈佛商学院荣休教授肖莎娜·朱伯夫(Shoshana Zuboff)在其著作《监视资本主义时代:在权力的新疆域为人类未来而战》(The Age of Surveillance Capitalism : The Fight for aHuman Future at the New Frontier of Power)中指出这一切发展成为了“监视资本主义”,这个新概念因为Netflix的同名纪录片而广受谈论。朱伯夫指出监视资本家(Surveillance capitalists)“把确定性卖给想要确切得知我们在做什么的商业客户”,并为了使客户满意,他们会尽力确保来自大数据和算法的预测成真——通过行为干预来“调和、牧养并形塑我们”,从而取得最大可能的商业成功。
也因此,行为科学被科技公司们认为有相当广大的商业化前景,并被驱动走向商业化。卡尼曼在《噪音》中所提到的其身为创始人的咨询公司TGG集团,旨在通过“发掘埋没在大数据中的信息”来“减少决策中的噪音”。卡尼曼曾开设的关于认知的高级讲习班吸引了相当多的科技巨头的参加,例如谷歌创始人拉里·佩奇、谢尔盖·布林和Facebook首任总裁肖恩·帕克等等。
行为科学帮助科技公司制定了更精准的战略,让科技公司无声无息地操纵用户的决策成为可能——正如Facebook所经历的相当多次的“数据门”所揭露的。
早在2014年,Facebook的数据科学团队被披露在2012年和康奈尔大学和加州大学旧金山分校的研究人员共同对在不知情的情况下的70万名Facebook用户进行了情绪启动试验,研究如果操纵用户的动态消息内容,发布内容的积极性或消极性会否受到影响。大众普遍表示无法接受,但Facebook辩称这没有超过服务协议的范围。
2018年,剑桥分析(Cambridge Analytica)数据门爆发,英国咨询公司剑桥分析被前员工揭露,在未经数百万Facebook用户的同意下收集了他们的数据,并用这些数据为特朗普在2016年的总统竞选活动提供了分析协助,并涉嫌干扰了英国脱欧公投,这引发了民众排山倒海式的反对。Facebook不得不进行道歉,首席执行官马克·扎克伯格经历了美国国会作证程序。在2019年,Facebook因侵犯隐私被联邦贸易委员会罚款50亿美元。这仍抵不住民意汹涌,“删除脸书”(#Delete Facebook)运动如今仍旧没有停止。
显然,从“轻推”到“监控资本主义”,人们对于行为科学的阴暗面有了更多的怀疑。事实上,目前的行为科学更像是《黑客帝国》中红色药丸和蓝色药丸的混合体,选择权在使用它的人的手中。在《噪音》之外,这或许更是行为科学和我们现实生活更贴近也更需要了解的那一部分。
特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.