摆脱依赖英伟达！OpenAI首次转变为使用谷歌芯片

07-03 08:22

电子爱好者网报道(文章 / 最近，据知情人士透露，李弯弯)，OpenAI 近来开始租赁谷歌的张量控制部件。（TPU），为旗下 ChatGPT 等待热门产品提供计算支持。这个举动不仅仅是意味着 OpenAI 非英伟达芯片的第一次实质性使用表明，它正在逐渐摆脱对英伟达芯片的深度依赖，并在计算率布局上迈出重要战略调整的一步。

OpenAI 依靠英伟达 GPU 的算力支持

随着人工智能的飞速发展，OpenAI 作为行业的领导者，对计算能力的需求呈现出爆发式增长。以 OpenAI 以推出的模型为例，当推出的参数大小达到 1750 亿的 GPT - 3 在模型中，训练所消耗的计算率相当于 30 万颗 CPU 一年四季不间断运行。这一指数级计算能力需求增加， 2024 谷歌每年都有新的高度 Gemini、百度文心一言 4.0 与上一代相比，多模态大模型的计算能力需求更高。 5 - 8 倍数，单模训练费用超过千万美元。

以前，英伟达的 GPU 一直是 OpenAI 模型训练和推理计算的核心依赖。英伟达 GPU 凭借其强大的性能， AI 该行业占据主导地位，成为许多科技企业的主导地位 AI 研究开发的首选。OpenAI 作为英伟达 GPU 长期以来，通过与微软和甲骨文的合作，获得了英伟达芯片，用于模型训练和布局。

英伟达数据中心级别 GPU 尽管性能优异，但在高负荷运行场景中也面临着许多问题。事实上，实际使用寿命一般是 1 到 3 2008年，高强度的工作负荷会加速芯片的老化，超高功耗压力也会直接缩短芯片的使用寿命，而且随着使用寿命的增加，故障率也会上升。随着 AI 随着技术的稳定发展和模型复杂性的不断提高，OpenAI 在寻找更具性价比和可持续性的算率解决方案的同时，对计算能力的需求也越来越迫切。

谷歌 AI 表现出与英伟达达相媲美的芯片 B200 芯片实力

此次 OpenAI 租赁谷歌 TPU，毫无疑问，这是对算率布局的一次重大尝试。第七代谷歌在年度云会议上正式发布。 TPU —— Ironwood，堪称 AI “性能怪物”在芯片领域。这个是专门为推理设计的 AI 加速器，是谷歌迄今为止最具性能和可扩展性的定制。 AI 芯片。与 2018 第一代年度发布 TPU 相比，Ironwood 推理性能提高了惊人的推理性能 3600 倍，效率提高了 29 倍，这种性能飞跃使它足以与英伟达相提并论。 B200 芯片相当，甚至在许多方面略胜一筹。

Ironwood 在多个关键指标上表现突出。与第六代相比，功耗效率 TPU Trillium，完成了 2 倍增，比第一代更好 Cloud TPU 高出近 30 两倍，谷歌的液体冷却解决方案和ic设计的优化，进而不断复杂。 AI 在工作负荷下，可以保持高达标准风冷两倍的性能。

高带宽内存（HBM）容量上，Ironwood 配备高达的芯片 192GB 的显存，是 Trillium 的 6 两倍，可以处理更多的模型和数据，减少频繁数据传输的需要，从而提高性能。HBM 提高了带宽 7.2Tbps，是 Trillium 的 4.5 两倍，极高的带宽保证了快速的数据访问， AI 常见的内存密集型工作负荷尤为重要。

芯片间互连（ICI）增加了带宽，增加了双向带宽。 1.2Tbps，是 Trillium 的 1.5 倍数，这类芯片之间的通信速度更快，有利于大规模高效的分布式训练和推理。

对于谷歌 Cloud 客户，Ironwood 可根据 AI 提供两种工作负载要求的规格—— 256 芯片或 9216 芯片。每一个独立的芯片峰值算率达到当延伸到每一个4614TFLOPs时， pod 9216 一个芯片，总共达到 42.5Exaflop，它的计算率是世界上最大的超级计算机 El Capitan 的 24 倍以上。

总结

OpenAI 租赁谷歌 AI 芯片这个举动，不管是对的， OpenAI 自己，还是对整个人 AI 芯片市场，都有着深远的意义。对 OpenAI 这将有助于它摆脱对单个芯片供应商和数据中心的高度依赖，在计算率布局上获得更多的灵活性和自主性，降低计算率成本，为业务的持续发展提供有力支撑。对于 AI 谷歌芯片市场 TPU 凭借其强大的性能和成本优势，有望打破英伟达 GPU 一个主导地位，促进市场竞争多样化，促进市场竞争， AI 不断创新和发展芯片技术。

阅读更多热门文章

加关注星标我们

把我们设为星标，不要错过每一次更新！