19天内,马斯克建成了世界上最强的AI集群,10万元H100「液冷怪物」将要觉醒
凌晨4:大洋彼岸最大的超算训练集群20开始轰鸣。

「420」同时也是马斯克最喜欢玩的梗,代表着自由,不受约束,反传统。
经常使用马斯克「420」适用于他的产品定价,企业会议时间和星舰一发射时间等。
网民们还在评论区调侃马斯克超绝仪式感,不到4。:20不开工。
马斯克在最近的采访中透露了更多关于新建超算和xAI模型的进展:
- Grok 2上个月完成了训练,大概用了15K。 H100
- Grok 2将于下个月发布,与GPT-4相当。- Grok 3新建10万元液冷H100超算,开始训练。- 估计Grok 三将于12月发布,「届时将成为世界上最强大的人工智能。」

100,000元液冷H100,19天完成施工
值得注意的是,这个世界上最大的超算集群,大就是拥有10万元的H100,或者是液冷的那种。
H10010万元是什么概念?
从价格上看,H100 作为AI的关键组成部分,GPU和硅谷的热门产品,据估计每件成本在3-4万美元之间,10万元H100就是一笔40亿元的大订单。
和美国的TOP一样 5大学机器学习博士曾经发帖说,实验室H100的数量是0,要用GPU就得靠抢。
在采访中,李飞飞还表示,斯坦福的自然语言处理小组只有64个A100块。 GPU。
而且马斯克一出手就是十万元,这个数字让评论区垂涎三尺。

计算率方面,计算率约为25000块A100的20倍,用于训练GPT4的OpenAI。
在功耗方面,只要保持这个超级计算中心的运行,所需的总功率就会达到70MW,相当于一个普通电厂的装机容量,可以满足20万人的能源供应。
今年五月,马斯克曾经说过,希望在2025年秋天之前建成。「超算工厂」。
现在看来,为了加快非常集群的建设,他选择购买现代H100。 GPU,与其等待Blackwell的B100和B200,不如等待新一代的H200或其他即将推出的Blackwell。 GPU。
尽管市场预测Nvidia的新Blackwell数据中心GPU将于2024年底前上市,但马斯克显然没有耐心等待。
目前AI军备竞赛越来越火爆,唯快不破,谁能尽快推出商品就能迅速占领市场。
作为一家创业公司,xAI在与其他巨头的战斗中更是先声夺人。
在此之前,马斯克和甲骨文的数百亿订单已经崩溃。马斯克不喜欢甲骨文太慢,认为对方没有以可行的速度建立计算集群。
而且甲骨文认为xAI建超算选址无法承受电力需求,随着100亿订单的谈判破裂, 关于扩大当前合作的可能性,xAI和甲骨文暂停了。
XAI只能在田纳西州孟菲斯市建设自己的人工智能数据中心。与甲骨文的合作破裂意味着xAI必须通过10万元H100建立自己的数据中心,以摆脱甲骨文等云提供商能力的限制。
同时,马斯克本人也表示,xAI拥有世界上最强的AI训练集群,可谓遥遥领先。
全球最强的Grok-3开训,年底开训。
最近一次马斯克采访中,披露了一些关于建立超算的细节。
根据大孟菲斯商会(Greater Memphis Chamber)主席Ted 根据Townsend的说法,马斯克决定在孟菲斯建造一台新的xAI超级计算机,只花了大约一个星期。
Townsend表示,经过三月份几天的旋风谈判,马斯克和他的团队选择了田纳西州,这里有足够的电力和快速建设的能力。
并且,只用了19天就建成了超算中心,马斯克还在推文中称赞了球队的优秀工作。
Supermicro还为xAI提供了大部分硬件支持,其CEO Charles 在马斯克的推文下,Liang也发表了评论,称赞了团队的执行能力。

这么大的训练集群,目的就是训练Grok 3。
本月初,马斯克宣布将于8月底推出Grok。 二是在Grok-2尚未发布的情况下,马斯克还透露了Grok-3的一些细节,这是Grok最强模型。 3造势。
今年四月,马斯克接受了Nicolaicolai 在接受Tangen采访时说,Grok 大约需要20,000张H100来练习。
Grok 3将于年底发布,可以预见,Grok基于10万个GPU训练。 在性能方面将比Grok 2走上一段楼梯。
这样一个巨大的超级计算中心,自然需要大量的人才和技术支持,马斯克继续在推特上招募圣贤,将所有的数据优势、人才优势和计算率优势扩展到极致。
参考资料:
https://x.com/elonmusk/status/1815325410667749760
https://x.com/tsarnick/status/1815493761486708993
本文来自微信微信官方账号“新智元”,作者:新智元,36氪经授权发布。
本文仅代表作者观点,版权归原创者所有,如需转载请在文中注明来源及作者名字。
免责声明:本文系转载编辑文章,仅作分享之用。如分享内容、图片侵犯到您的版权或非授权发布,请及时与我们联系进行审核处理或删除,您可以发送材料至邮箱:service@tojoy.com




