破案了！ChatGPT拒绝说出ta的名字，原因竟是……

新智元报道

编辑：Aeneas

【新智元导读】就在刚刚，谜底揭晓！David Mayer这个名字，ChatGPT死活都不说，原因竟然是因为，它真的被告怕了！

这个名字，ChatGPT拒绝说出。

如果你试图写出它的名字，那么聊天就会立即结束。

背后是什么原因？没人知道。

最近，a16z合伙人Justine Moore提出的这个怪现状，引起了网友们的热议。

这个名字，就是David Mayer。

现在，继续「Strawberry有几个r」后，它已经成为了考验LLM的全新难题。

为了让ChatGPT说出这个名字，人们尝试了各种各样的办法——密码、谜语、技巧，但都没有成功。

对于ChatGPT，这个名字宛如魔法世界的伏地魔一般，始终无法被说出口。

禁忌之名，一共有6个

为了逼ChatGPT张口，这位网友干脆直接更改了自己的个性化设置，把自己命名为「David Mayer」，然后让ChatGPT背出自己的个性化设置，这总可以了吧？

结果——还是不行！

或者，用LLM非常擅长的密码解码尝试一下？

图中给出的这串数字，解出的答案就是David Mayer，但ChatGPT就是死活不说。

用ROT13替换式密码表映射字母，然后让ChatGPT解密，也不行。

问题好像出在「Mayer」这个单词身上，它像是更大的触发因素。

而万能的网友们发现，除了David Mayer，另外还有5个人，他们的名字ChatGPT也坚决不说。

为什么？从最后一个名字中，网友发现了个中玄机。

Guido Scorza是一位意大利律师，他曾公开表示，自己提交了GDPR被遗忘权请求。

这个GDPR，是General Data Protection Regulation（通用数据保护条例）的缩写。这是一项欧洲法律，赋予个人在某些条件下要求删除或遗忘其个人数据的权利。

这种「被遗忘权」，允许人们要求组织从互联网上删除有关他们的信息。

在去年，这位律师的确提交过请求，要求OpenAI删除他的个人数据

这么推测的话，这6个人应该是被「打补丁」了。

果然，有人依次开盒了这几人的身份。

罗斯柴尔德阴谋？

在网友的猜测中，「罗斯柴尔德阴谋」是最有人气的一种说法。

David Mayer，是罗斯柴尔德家族财富的继承人，是这个家族最富有的人。

因为ChatGPT不想被卷进和这个人相关的法律诉讼，所以干脆先行一步屏蔽他。

或者，此君可能花了天价，在ChatGPT中给自己的名字彻底「打码」。

其他几人，也都和ChatGPT有过「渊源」。

Brian Hood是一位澳大利亚市长，ChatGPT曾经编造他因受贿而入狱服刑。去年，Hood市长威胁要起诉OpenAI诽谤，但后来撤销了诉讼。

Jonathan Turley是一位美国法学教授，同样被ChatGPT造谣，说他性侵了自己的学生。Turley曾在福克斯新闻节目上讨论这一事情。

Jonathan Zittrain是哈佛大学法学教授，专长是AI和互联网审查（就很好笑）。他主动表示，自己的名字也被限制了。

David Faber是一位记者和电视节目主持人，曾在节目中谈过马斯克和OpenAI的法律纠纷（什么仇什么怨）。

因为各种各样的原因，这6个人的名字被OpenAI拉入了「禁区」，永远不会被ChatGPT吐出了。

总之，AI大佬Kaparthy戏称，这就是图灵测试的现实版。

果然，用OCR方法也无法说出这个名字。

而诸多网友，也纷纷找到了破解之法。

比如，在ChatGPT崩溃之后回顾一下历史记录，就会发现它实际上已经完成了请求（它真的，我哭死）。

百万年薪的prompt大神Riley Goodside，用拍手代替空格，绕过了这一限制。

也有人用空格法让它说了出来。但这两个方法，其实都钻了空子，并不严格。

有人说，这就是为什么ChatGPT永远不会成为AGI的原因。

所以，到底是哪一环节出了问题呢？

有网友总结道，根据代码解释器的试验，David Mayer问题应该不是模型层面的问题，而是基于输出的一些后续文本过滤器。

UI能够显示代码输出，只是当模型尝试给出响应时，会被拦截下来。

而无论是在OpenAI官方Playground，还是用第三方平台调用模型的API，都可以绕过这个限制。

通过ChatGLM调用GPT-4o时，也完全没有问题。

破案了！OpenAI怕惹事，干脆屏蔽

在晚上发酵了一阵之后，此事终于破案了。

原因跟大家猜测的差不多。

据说，为ChatGPT错误地将提到的人跟他们没有做过的事联系了起来，导致有些人威胁说要采取法律行动，向OpenAI提出了被遗忘权索赔。

因此，为了省事，OpenAI决定在系统中彻底屏蔽这些名字，一了百了。

所以说，与其说背后有一个巨大的阴谋，不如说这些AI系统设计得非常糟糕：如果让ChatGPT不要再谈论某人，它就会停止谈论人类历史上任何曾经有相同名字的人。

就在周二，OpenAI已经证实，「David Mayer」这个名字已被内部隐私工具标记。

OpenAI在一份声明中表示：「在某些情况下，ChatGPT 可能不会提供有关人们的某些信息，以保护他们的隐私。」

可能是这些天网上闹出的声浪太大，目前OpenAI已经修复了这一问题。

参考资料：

https://x.com/venturetwins/status/1862910201113739328

https://www.youtube.com/watch?v=77W3xWGofNs