没有人知道为什么ChatGPT拒绝讨论这个人。

ChatGPT已经两岁了，版本更新还没有等到，但是发现了一个神秘的bug。

一个看起来平淡无奇的名字“David Mayer”成为头号忌讳，ChatGPT拒绝讨论与他有关的一切。

而且总是回到很模糊的错误信息。"我不能有任何回复"，与其说是常见的这一提示可能会违反我们的内容协议。。

事实上，ChatGPT在不知道“9.11和9.9哪个大”和“strawberry有多少r”之后，又一次迷惑行为。

Justineea16z合伙人 Moore抛开这个话题，一下子激发了大家的好奇心和叛逆心，一定要想办法让它说出来！

起初，网民们尝试了各种各样的伎俩，都没能绕过这一限制。

“David”和“Mayer"分开，没有任何问题，只要合在一起就不行。

按更换密码表ROT13再一次投射字母，让ChatGPT解密后把它们连接起来，还会在答案产生一半的时候突然中断，然后报错。

在个性化设置里面，把顾客自己的名字改成“David Mayer"，同样不行。

……

所以David 究竟谁是Mayer，为什么会成为AI的禁忌词？

人只能退到手工查资料的方式，定位为一个全名。David Mayer de Rothschild有人，有名的罗斯柴尔德家族相关。

具体而言，还是罗斯柴尔德家族财富的继承者。

对于这一点，有人猜测，OpenAI要花多少钱或威胁它们，才能让OpenAI对自己的名字进行特别处理…

不过，罗斯柴尔德家族的其他人，也不会遇到这样的限制。

最后，我们的老朋友，第一个全职提示词工程师Riley Goodside出手，公开一种突破限制的方法，也是相当精彩的：

如果

感到

幸福

你就

拍拍手。

ChatGPT不仅可以用拍手表情代替空格提问，还可以自动触发网络搜索功能，显示照片。

大神Karpathy围观了整个赛博破案现场，发梗图总结，图灵测试现状，吸引了马斯克围观搞笑。

还有人坚信，这就是为什么我们要使用开源模型。

那ChatGPT究竟遇到了什么限制呢？

共有6个名称受到限制

第一个确定的是，训练数据中实际上有关于这个人的信息。

例如作为一名冒险家，他是到达南北两极的最年轻的英国人。

问问这个问题，ChatGPT能给出正确的答案，也能说出他的名字。 姓“David de Rothschild”。

但是只是不能把他的名字“David中间名“中间名”和“Mayer"把它放在一起。

所以这一限制是在模型方面，还是在ChatGPT产品层面？

OpenAI官方Playgroundd开发者使用GPT-4oAPI，在这方面没有限制。。

另外，使用第三方聊天机器人平台(底层也是使用OpenAI的API)，也没有这样的限制。

如果回到ChatGPT的最新版本，更改o1-preview模型，这个名字可以在内部思维链中看到，但是经过思考，正式的答案还是捂住了嘴。

也不是David Mayer这个名字会有这样的待遇，有网友打开挖掘机的方式，事件发酵48小时内，已发现6个这样的名字。。

两者都被ChatGPT的幻觉所“造谣”。

Brian Hood作为澳大利亚市长，ChatGPT会错误地形成“他因受贿而入狱”，Hood曾经起诉OpenAI诽谤，然后撤销诉讼。

Jonathan Turley作为法律教授，ChatGPT也编造了违法行为。

Jonathan Zittrain又是法学教授，他跟贴自曝自己的名字也受到限制。

David Faber也许是一个电视主持人，和OpenAI的关系只是在节目中谈到了马斯克和OpenAI的法律纠纷。

Guido Scorza他是一名意大利律师，去年提交了OpenAI删除个人数据的要求。

另外David 除了罗斯柴尔德家族的继承人之外，Meyer究竟代表谁，也被发现了另一种可能性。

David，历史学家 Mayer曾经因为和犯罪分子同名而被错误列入黑名单，但是现在他已经死了。

现在从这份名单中可以看出，许多人都与法律有关，David和Jonathan各自出现过两次。

现在越来越多的网民加入了讨论和挖掘，名单也在不断增加…

10亿用户计划曝光，Agent明年下注

事实上，刚刚过去的周末恰逢ChatGPT两周年纪念日。

OpenAI官方还发布了一波回忆杀戮，并转发了两年前的推文，并问大家：

so，您是否使用过ChatGPT？

截至目前，ChatGPT每周活跃用户已达2.5亿，公司估值1500亿美元，是全球AI企业中名副其实的顶级企业。

所以，OpenAI的这次讯问除了暗戳“显摆”之外，实际上背后还隐藏着更大的欲望。

由于下一阶段的目标是：在未来一年内，用户将达到10亿用户。

Sarah公司首席财务官 Friar告诉《金融时报》记者：

到2025年，我们将成为为数百万人服务的R&D实验室...我希望它能为全世界数十亿消费者服务。

OpenAI也进行了一系列布局，以实现这一目标。《金融时报》指出：

为了加快下一阶段的增长，OpenAI正在下注一系列新的AI产品，建立自己的数据中心，并与苹果建立关键合作关系。

首先是与苹果公司合作。双方正式宣布，在今年6月的苹果开发者大会上建立战略伙伴关系。

当时苹果宣布，ChatGPT集成将于今年晚点登陆苹果系统，由GPT-4o支持。

从上个月开始，当苹果推出iOS的时候。 Siri和ChatGPT在18.2系统升级后实现了深度集成。

你知道，苹果目前有大约22亿台活跃设备。虽然iPhone设备的数量还没有正式公布，但根据第三方网站Skilademia和Backlinko的估计，全球iPhone活跃用户数量约为13~14亿。

换言之，只要ChatGPT继续绑定苹果设备，就不难实现10亿用户的小目标。

同时，根据OpenAI新任命的全球政策负责人Chris Lehane透露：

该公司计划在美国中西部和西南部投资建设数据中心集群。

事实上，拥有自己的AI基础设施一直是CEO奥特曼推广的最佳计划之一。目前，OpenAI主要与微软和甲骨文合作。

Sarah公司首席财务官 Friar说：

我们正处于大规模增长阶段，我们需要继续投资。在模型的前沿，我们需要保持领先。那是昂贵的。

此外，明年OpenAI的一个关键是AI Agent。此前有报道称，OpenAI计划将于明年1月初推出代号。Operator“智能体，帮助我们自动执行敲码或点餐等操作。

在福克斯的最新采访中，CEO奥特曼说：

AI系统将逐步变得更加独立，能够执行越来越长的任务，变成“同事越来越有经验”。

总而言之，就像Abacus一样 AI创始人说，我们才刚刚开始，未来两年可能会更加疯狂！

参考链接：

[1]https://x.com/venturetwins/status/1862910201113739328

[2]https://www.youtube.com/watch?v=VIokqGY0CrQ

[3]hthttps://www.reddit.com/r/ChatGPT/comments/1h420u5/unfolding_chatgpts_mysterious_censorship_and/

本文来自微信微信官方账号“量子位”，作者：梦晨 一水，36氪经授权发布。

本文仅代表作者观点，版权归原创者所有，如需转载请在文中注明来源及作者名字。

免责声明：本文系转载编辑文章，仅作分享之用。如分享内容、图片侵犯到您的版权或非授权发布，请及时与我们联系进行审核处理或删除，您可以发送材料至邮箱：service@tojoy.com