破案，ChatGPT拒绝说出ta的名字，原因是…

就在刚才，谜底揭晓！David Mayer这个名字，ChatGPT死活不说，原因竟然是因为，它真的被告害怕！

ChatGPT拒绝说出这个名字。

假设你试图写下它的名字，那么聊天就会立刻结束。

背后的原因是什么？没有人知道。

最近，a16z合伙人Justine Moore提出的这一奇怪现状，引起了网友的热议。

这个名字，就是Davidid Mayer。

如今，继续「有几个rry，Strawbery？」在那之后，它成了一个全新的测试LLM的难题。

为使ChatGPT说出这个名字，每个人都尝试了各种各样的方法——密码，谜语，技巧，但是都没有成功。

对ChatGPT来说，这个名字就像一个神秘世界的伏地魔，一直无法说出来。

总共有6个禁忌名称。

这位网友为了逼ChatGPT开口，干脆直接改变了自己的个性化设置，把自己命名为「David Mayer」，接着让ChatGPT背出自己的个性化设置，这总是可以的吧？

结果-还是不行！

或者，试着用LLM非常擅长的密码解码？

图片中给出的这一串数字，答案是Davidid Mayer，但是ChatGPT就是死活不说。

使用ROT13更换密码表投射字母，然后让ChatGPT解密，也不行。

这个问题似乎出现了「Mayer」这个词就像更多的触发因素一样。

而且全能的网友发现，除了Davidid之外， Mayer，还有五个人，他们的名字ChatGPT也坚决不说。

为什么呢？网友们从最后一个名字中发现了一个谜。

Guido 作为一名意大利律师，Scorza曾经公开表示，他已经提交了被遗忘的GDPR请求。

GDPR是Generalal Data Protection Regulation(通用数据保护条例)的缩写。在某些环境下，这是一项欧洲法律赋予个人删除或忘记个人数据的权利。

这种「被遗忘权」，每个人都可以要求组织从因特网上删除相关信息。

去年，律师确实提交了要求，要求OpenAI删除他的个人数据。

如此推断，这六个人应该是被推断出来的。「打补丁」了。

果不其然，有人依次打开了这些人的身份。

柴尔德罗斯阴谋？

根据网民的猜测，「柴尔德罗斯阴谋」这是一个非常受欢迎的说法。

David Mayer，他是罗斯柴尔德家族财富的继承者，也是这个家族最富有的人。

因为ChatGPT不想被卷入与此人有关的法律诉讼，所以干脆先行一步屏蔽他。

或者，这个君子可能会花很多钱，在ChatGPT里给自己一个完全的名字。「打码」。

其它几个人，也都和ChatGPT有过关系「渊源」。

Brian Hood是澳大利亚市长，ChatGPT曾编造他因受贿而入狱服刑。Hood市长去年威胁要起诉OpenAI诽谤，但后来撤销了诉讼。

Jonathan 作为一名美国法学教授，Turley也被ChatGPT造谣，说他性侵了自己的学生。Turley曾经在福克斯新闻节目中讨论过这件事。

Jonathan 作为哈佛大学法学教授，Zittrain的特长是AI和互联网审查(非常有趣)。他主动表示，他的名字也受到了限制。

David 作为一名记者和电视节目主持人，Faber曾在节目中谈到马斯克和OpenAI之间的法律纠纷(什么仇什么怨)。

因为种种原因，这六个人的名字被OpenAI拉进来了。「雷区」，ChatGPT永远不会吐出来。

总而言之，AI大佬Kaparthy开玩笑说，这就是图灵测试的真实版本。

果不其然，OCR方法也不能说出这个名字。

而且很多网友，也纷纷找到了破解的方法。

举例来说，回顾ChatGPT崩溃后的历史记录，可以发现它实际上已经完成了要求(这是真的，我哭死了)。

prompt大神Riley年薪百万。 Goodside，用拍手代替空格，绕过这个限制。

还有人用空格法把它说出来。但是这两种方法，实际上都钻了空子，并不严格。

有些人说，这就是ChatGPT永远不会成为AGI的原因。

所以，究竟哪个阶段出了问题？

根据代码编译器的测试，有网友总结道，David Mayer问题不应该是模型层面的问题，而应该是基于输出一些后续的文本过滤器。

UI可以显示代码导出，但是当模型试图给出反应时，它会被拦截。

无论是在OpenAI官方Playground，还是使用第三方平台调用模型API，都可以避免这一限制。

当GPT-4o被ChatGLM调用时，完全没有问题。

破案！OpenAI怕惹麻烦，干脆屏蔽一下。

晚上发醇一段时间后，这件事终于破案了。

理由和大家猜测的差不多。

据说ChatGPT错误地将提到的人与他们没有做过的事情联系起来，导致一些人威胁说要采取法律行动，并向OpenAI索赔被遗忘的权利。

所以，OpenAI为了省事，决定在系统中完全屏蔽这些名称，一百个。

因此，这些AI系统设计得非常糟糕，而不是背后有一个巨大的阴谋:如果让ChatGPT停止讨论某人，它将停止讨论任何在人类历史上有相同名字的人。

OpenAI在星期二得到证实，「David Mayer」这个名字已经被内部隐私工具标记了。

OpenAI在一份声明中表示：「有些情况下，ChatGPT 或许为了保护自己的隐私，我们不会提供一些相关的信息。」

也许是因为这些天网上的声音太大了，现在OpenAI已经修复了这个问题。

参考资料：

https://x.com/venturetwins/status/1862910201113739328

https://www.youtube.com/watch?v=77W3xWGofNs

本文来自微信微信官方账号“新智元”，作者：Aeneas，36氪经授权发布。

本文仅代表作者观点，版权归原创者所有，如需转载请在文中注明来源及作者名字。

免责声明：本文系转载编辑文章，仅作分享之用。如分享内容、图片侵犯到您的版权或非授权发布，请及时与我们联系进行审核处理或删除，您可以发送材料至邮箱：service@tojoy.com