Sora 2数手指失误,奥特曼成AI玩梗对象,OpenAI发展引担忧

10-03 06:30

奥特曼遭遇大型社死现场。强大的Sora 2,竟连手指都数不明白。

网友@fofrAI用提示词“a man counts out loud from 1 to 10, using his fingers and holding them up as he goes.(一名男子一边举起手指,一边大声数着从 1 到 10)”测试Sora 2。视频开头男人表现正常,但随后就露馅了,嘴里喊着 2、3、5,手上却比划着 4 根手指。而且视频里还让奥特曼出镜,可数手指游戏依旧失败。

Sora 2生成的视频中,男人能正确数数,但手指展示和数字并不完全对应。这并非该博主首次用此提示词测试视频生成模型。早在今年 5 月,他就用同样的提示词测试过Veo3,结果Veo3不仅手指比划不对,数字还只数到 3。后来博主润色提示词为“a man counts out loud from 1 to 10, "1, 2, 3, 4, 6, 7, 8, 9, 10", he counts using his fingers and holds them up as he goes.(一名男子大声从 1 数到 10,「1、2、3、4、6、7、8、9、10」,他一边数,一边举起手指)”,测试仍以失败告终。

此前史密斯吃意大利面是AI视频生成模型的出圈测试案例,如今数手指成了新基准。有人认为视频模型数不明白手指,或许是提示词表述模糊。于是网友给出更具体的提示词:“a man considers each digit(finger) of both of his hands as representing a number, starting from his right hand thumb as representing "one" and the pinky of his left hand as "ten", he begins at the beginning, on the digit (finger) representing "one' and systematically and meticulously advances through the counting out loud as he raises and display each digit (finger) that corresponds with his verbal and logical count.(一个人将双手的每个手指视为一个数字,从右手拇指代表「1」,左手小指代表「10」开始,从代表「1」的数字开始,系统而细致地大声数数,同时举起并展示与他的口头和逻辑计数相对应的每个数字)”。然而用这个新提示词分别测试Sora2和Veo3,还是失败了。

除了数手指,网友还开发出各种测试。比如模拟水倒入玻璃杯的场景、玻璃折射测试,还有魔术师将水倒入玻璃杯中,然后拿起玻璃杯并将其倒置,水不会流出。Sora 2 能轻松模拟水倒入玻璃杯的过程,包括反射、涟漪、折射,但也有瑕疵。比如模拟光的折射现象时,向杯中倒水,朝左的箭头变成朝右,箭头还少了一点;在经典魔术场景中,杯中水像溅出来一样,水中气泡生成也不合理。

被玩坏的奥特曼

OpenAI CEO奥特曼成了Sora2的第一批“受害者”。自从OpenAI推出类似TikTok的新社交媒体应用Sora,随便一划就能刷到各类奥特曼小短剧。在这些AI生成的视频中,奥特曼精神状态不佳,要么又蹦又跳、放声高歌、打哈欠、自恋欣赏自己的美貌、给自己剃光头、画烟熏妆、在马桶里唱 rap、跑到英伟达门口喊着「I need more GPUs」、模仿鸡排哥在中国街头炸鸡排,要么Cosplay小猫。有人怀疑OpenAI只用奥特曼的视频训练Sora2,因为这些视频完美展示了奥特曼的声音和举止。

就连奥特曼本人都在发帖称,观看动态中自己的表情包,感觉并没有想象中奇怪。也有网友表示,看了这些奇怪的AI视频,反倒更喜欢奥特曼了。

除了奥特曼,皮卡丘的处境也不好,还引发了将皮卡丘放入每部电影的新趋势,比如《拯救大兵皮卡丘》《皮卡丘之教父》《泰坦尼克号皮卡丘版》等。有意思的是,OpenAI宣称重视版权保护,但网友用Sora2生成了一个略带讽刺的视频:奥特曼站在宝可梦的田野里,皮卡丘、妙蛙种子还有一只卡哇伊大脚怪正在草地上嬉戏玩耍,奥特曼看着镜头说:「希望任天堂不要起诉我们。」

OpenAI研究员的担忧

网络上大量AI生成的深度伪造视频引起了网友不满,一些OpenAI现任和前任研究员也对Sora应用的发布是否符合OpenAI作为非营利组织的使命感到矛盾。

OpenAI预训练研究员John Hallman表示:“基于AI的动态很可怕。不可否认,当我第一次得知我们要发布Sora 2时,我感到有些担忧。不过,我认为团队在设计一个积极的体验方面已经尽力而为……我们会尽最大努力确保AI帮助人类,而不是伤害人类。”

另一位OpenAI研究员兼哈佛教授Boaz Barak回复道:“我也有同样的担忧和兴奋。Sora 2在技术上令人惊叹,但现在就庆幸自己避开了其他社交媒体应用和深度伪造的陷阱还为时过早。”

人工智能政策研究员Miles Brundage认为,“有很多合理的理由让我们担心视频生成技术,但是将视频生成与整体混为一谈是一个错误。”

前OpenAI研究员Rohan Pandey借此机会宣传了他的新创公司Periodic Labs,他说:“如果你不想建造一个无休止的AI TikTok垃圾机器,而是希望开发加速基础科学的AI……来加入我们,加入Periodic Labs。”

OpenAI是全球增长最快的消费科技公司,也是一家有崇高非营利使命的前沿AI实验室。有些前OpenAI员工认为,虽然它运营消费性业务,但这些业务也能支持其使命,例如通过ChatGPT资助AI研究,并将技术广泛传播。奥特曼也在X上发帖解释了公司为AI社交媒体应用分配大量资金和计算能力的原因。

“我们确实需要资金来构建能够进行科学研究的人工智能,而且我们几乎所有的研究精力都集中在通用人工智能上,”奥特曼说,“同时向人们展示酷炫的新技术/产品,让他们开心,并希望在满足所有计算需求的同时还能赚到一些钱,这也是一件好事。”

“当我们推出ChatGPT时,有很多人问‘谁需要这个?AGI在哪里?’但实际上,公司最优发展轨迹的现实是复杂的。”

技术发展总是有两面性,OpenAI能否在不重蹈前人覆辙的情况下发展Sora仍有待观察。最后,由于Sora2采用邀请制,昨天文章评论区搞了邀请码接力,读者很积极,新邀请码还在持续接力中,有需要的朋友可以去置顶评论区找码。为让更多人有机会体验,请收到邀请码的朋友点击Sora页面左边栏的invite friends,将新码复制到评论区接力。感谢大家,祝大家双节快乐!

参考链接:

https://x.com/fofrAI/status/1973345533147349238

https://techcrunch.com/2025/10/01/openais-new-social-app-is-filled-with-terrifying-sam-altman-deepfakes/

https://techcrunch.com/2025/10/01/openai-staff-grapples-with-the-companys-social-media-push/

本文来自微信公众号 “机器之心”(ID:almosthuman2014),作者:杨文,36氪经授权发布。

本文仅代表作者观点,版权归原创者所有,如需转载请在文中注明来源及作者名字。

免责声明:本文系转载编辑文章,仅作分享之用。如分享内容、图片侵犯到您的版权或非授权发布,请及时与我们联系进行审核处理或删除,您可以发送材料至邮箱:service@tojoy.com