Ins 上一家名为 Ethos 的餐厅,号称能尝到贝索斯的调酒,却被证实全部由 AI 生成。
作者 | Xin Ling
编辑| 郑玄
近日,Instagram 上一家名为 Ethos 的餐厅火了。 这家餐厅在网页上的展示非常「高大上」: 食物精美,用餐环境一流,还有名流大佬为你调酒。 凭借这些展示,Ethos 得到了成千上万个网友的点赞和追捧,在 Instagram 上吸引了 7.2 万名粉丝,成为奥斯汀排名第一的餐厅。
这看起来很正常,直到被 a16z 投资人贾斯汀·摩尔指出:这家「餐厅」根本不存在,Ethos 在 instagram 上发布的食客自拍、留言、厨师介绍以及餐厅介绍全部由 AI 生成。
目前尚不知道这场闹剧的始作俑者,也就无法探究其背后动机到底是出于一场社会实验、恶搞,还是存有更多的经济、利益目的。但这件事依然给公众敲响了警钟:从 DeepFake 色情门、到明星 AI 换脸、雷军骂人事件,以及刚刚结束的美国大选期间层出不穷的 AI 生成假图片、假新闻……
生成式 AI 快速发展的当下,AI 造假正在以各种各样无法预料的形式占领社交媒体。相比于过去移花接木式的假新闻,AI 生成的内容更加真实,普通人更加难以分辨,同时造假成本和门槛却更低。而要维持社交平台的真实性,需要社交平台做更多的工作。
01
一家不存在的餐厅
Ethos 是 instagram 上一家餐厅的账号。点开账号,里面的食物极具创意且十分诱人。芝士蛋糕上铺着流淌着新鲜蜂蜜的蜂巢,焦脆的洋葱圈外环印着滕瓦尔语撰写的「one ring to rule them all」,仿佛中土世界的至尊魔戒。还有各种奇妙造型的美食,比如把奶酪片和生菜扎成一袭抹胸裙,草莓做的糖果小屋,恐龙形态的「牛角包」。
图片来源:Ethos 餐厅 instgram 账号
账号里不仅有精致而富有巧思的食物,用餐环境也很神奇。根据介绍,餐厅提供「泡澡寿司」服务,食客竟然可以一边泡澡一边吃水上漂来的寿司,而厨师会和食客一起在泡在巨大的浴缸里,亲手制作每一件寿司。帖子下面还有对此的「真实」评论:「上周我们不得不缩短 omakase 时间,因为有人在寿司热水浴缸里弄脏了自己。管理人员很通情达理,还免费给我们送了一杯香槟。」
图片来源:Ethos 餐厅 instgram 账号
这家神奇的餐厅人脉还非常强大。有一篇帖子是关于亚马逊首席执行官杰夫·贝佐斯在酒吧提供鸡尾酒服务。图片介绍称因为餐厅厨师和贝佐斯恰好是朋友,所以来到这家餐厅食客,将有机会品尝到贝佐斯亲自调制的鸡尾酒。
图片来源:Ethos 餐厅 instgram 账号
Ethos 凭借别具匠心的食物和服务,在 ins 上逐渐积累起 7.2w 粉丝的关注。良好的用户留言与反馈,则让其成为奥斯汀排名第一的餐厅。
正当网友惊叹于这家餐厅之奇特时,硅谷风险投资公司 Andreessen Horowitz 的合伙人贾斯汀·摩尔 (Justine Moore) 看穿了真相,在社交媒体上发布了她的发现:这家名为 Ethos 的餐厅自称是一家位于德克萨斯州奥斯汀的高档餐厅,餐厅社交媒体帐户拥有数万名关注者,并且带有蓝色认证标记。然而,事实上,这家餐厅并不存在,网站上的所有信息都是由人工智能生成的。目前还不清楚是谁在运营 Ethos 账号。
图片来源:「X」截图
在相关平台上为餐厅美化图片、刷好评,这事并不新鲜。在生成式 AI 技术的时代到来之前,商家雇水军刷评论或者好评返现就能实现。如今随着技术升级,不仅 p 图、刷评论都省了,甚至「创造」一家餐厅可以直接通过 AI 完成。
生成式 AI 作为一项技术并没有好坏之分,在帮助我们更好地创作时会给人们带来乐趣,如果使用不当,则会使我们的创造能力得到退化,甚至造成恶劣的社会影响。
02
技术滥用,平台有责
AI 技术的发展已经让我们的生活迈入到了「生成」时代。视频生成的头部创业公 Runway 的 CEO Cristóbal Valenzuela 在最近的一封公开信中对此阐述道:「就像相机改变了我们捕捉现实的方式,AI 也正在改变我们创造现实的方式。」
Cristóbal Valenzuela 站在 AI 创作的角度,对未来的内容和媒体作出了美好的畅想:「模拟世界,让内容能够实时自我塑造,才能消解创造与分发之间的界限。这不仅是构建全新媒体景观的基础,也将从根本上重新定义媒体:它既是互动的、生成性的、个性化的,同时又是共享和普遍的。」
这里要厘清一个概念,Cristóbal Valenzuela 所传达的,是说生成式 AI 的使用可以帮助人们更好的创作,而不是替代创作本身。
例如 Runway 一直在推动生成式 AI 创意的边界,其推出的 Gen-3 Alpha,能够从简单的提示词生成高质量视频。这就把创作者从需要使用各种复杂的制作工具中解放出来,大大降低人们创作的门槛,真正释放人们讲好故事的创意能力。
因此,AI 替代的是「生成」部分,而不是「创作」部分。如果意图在创作部分使用 AI,会造成过分依赖 AI,令人在创意上产生惰性,同时也抹杀了「人」在内容创作中自然带来的温度与情绪。
例如美团外卖最近上线的「附近在吃」功能里,用户可以用图文形式发布自己购买过的外卖订单,帮助其他用户发现优质的商品和商家。发布过程中,「附近在吃」提供了「AI 帮你写」功能,让用户可以使用 AI 技术一键生成文案。这一功能,虽然看似降低了用户的创作门槛,但是在实际体验中,让创作过程完全消失,内容的社交真实感也因此大打折扣。
因此,平台需要在恰当的环节为人们提供 AI 技术能力的帮助,而不是粗暴的让 AI 帮助造假。
此外,对于那些出于某种目的,在平台上使用并传播 AI 造假内容的行为,平台也负有去伪存真的鉴别与清理责任。本文提到的这家不存在的餐厅只是一条漏网之鱼。在今年的美国大选期间,Facebook 平台上虚假图片的传播产生了更恶劣的影响。
在刚刚结束的美国大选,Facebook、Instagram 等社交媒体作为党派发表政见、吸引选民投票的重要平台,成为 AI 生成图片泛滥之地。极客公园最近发布的文章「比飓风更可怕的,是一张 AI 生成图片」中就提到,在碎片化的社交媒体平台,政客们随意使用 AI 生成的照片来宣传政见,攻击对手。感性的印象取代客观事实,「造谣一张嘴,辟谣跑断腿」的传播学原理在 AI 时代更猛烈地回响着。
川普救灾(假)。图片来源:PolitiFact
灾难中的小女孩(假)的大量转发,引起网友对某政党救灾不力的不满情绪|图片来源:X
美国 Pew Research 最近的一项调查发现,66% 的美国人表示,他们「至少有时」会遇到被篡改或者完全虚构的内容;63% 的人表示,捏造或更改的图像或视频会导致人们对于时事的「认知混乱」。
在 AI 生成内容的时代,内容的真实性和可信度受到了极大的挑战。对于这些社交平台来说,用户对平台的信任是其最大的资产。如果平台不引导大家往正确方向去使用,放纵虚假信息的传播,当用户有一天对平台失去信任的时候,平台将被反噬,变得毫无价值。
03
平台:已经行动,仍需努力
事实上,针对日益泛滥的 AI 内容,Meta 这样的平台企业已经开始采取行动。
Meta 的最高政策主管曾在今年二月表示,该公司将在未来几个月开始使用一套内置在文件中的隐形标记,检测和标记其他公司的人工智能服务生成的图像。
Meta 全球事务总裁 Nick Clegg 在一篇博客文章中写道,公司将对发布在 Facebook、Instagram 和 Threads 服务上的任何带有标记的内容应用这些标签,以向用户表明,这些图像——在很多情况下类似于真实照片——实际上是数字创作。
Clegg 表示,一旦新系统启动并运行,Meta 将对 OpenAI、微软、Adobe、Midtravel、Shutterstock 和谷歌运营的服务上创建的图像进行同样的处理。
值得注意的是,该行动开始于今年二月份,这家名叫 Ethos 的餐厅一直在 instagram 上火到了十月份才被揭破身份,而美国大选期间 Facebook 上的假图片也没有被第一时间识别清理。
Meta 在上周刚刚发布的财报中多次强调,公司本季度社交「应用家族」部分的广告收入增长 19%,主要归功于 AI 技术的应用。很显然,AI 为 Meta 带来可观的收入,但是在为用户提供足够清朗的社交环境方面,Meta 仍需努力。
*头图来源:Instagram
本文为极客公园原创文章,转载请联系极客君微信 geekparkGO
极客一问
你是怎样识别社交媒体上的内容
是否为 AI 生成的?
雷军还真去拧螺丝了,还顺便打了个盹,王腾贴心喊话老板别着凉!
点赞关注极客公园视频号,
特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.