英伟达和软银联合打造日本最强大的AI超级计算。

2024-11-14

敲重点:


  • 软银将利用英伟达Blackwell打造日本顶级人工智能超级计算机,为多项主权AI项目服务,并公布Grace Blackwell计划。
  • NVIDIA AI Aerial帮助软银创造了世界首个即时5G。 AI-RAN,为电信行业带来数十亿新的收益机会。
  • 软银与英伟达AI携手 Enterprise,同创AI市场,满足日本当地安全AI计算的需要。


11月13日,英伟达和软银在日本举行的2024年AI峰会上发布了一系列合作计划,旨在加快日本AI主权项目的发展( Sovereign AI,也就是说,国家级AI基础设施的发展,加强了英伟达在全球领先的技术水平,为全球电信行业带来了数十亿美元的新收入。


在主题演讲中,英伟达创始人兼首席执行官黄仁勋透露,软银正在利用Blackwell平台搭建日本最强大的AI超级计算机,并计划在未来升级到Gracell。 Blackwell平台。


与此同时,英伟达宣布,软银已经成功使用NVIDIA。 AI Aerial平台已经完成了世界上第一个AI与5G电信网络相结合的实验,这将为通信运营商开辟数十亿美元的新收入渠道。


另外,英伟达和软银也宣布,NVIDIA将借助NVIDIA AI Enterprise软件创造了一个市场,以满足日本本地安全AI计算的需求。这项新服务将支持AI培训、边缘推理等功能,帮助软银成为日本AI网格的核心,为各行业、客户和企业创造、分发和使用人工智能服务。


黄仁勋表示,与软银的合作将推动日本进入AI科技革命,推动电信、交通、机器人、医疗卫生等行业新增长。


软银总裁兼首席执行官宫川润一则强调,全球正在加速AI的选择,以促进社会发展,软银与英伟达的长期合作将有助于这一转型。AI-RAN解决方案凭借强大的AI基础设施和创新的分布式AI-RAN解决方案“AITRAS”,软银将重塑5G网络,加快全球创新步伐。


软银将首次接收Blackwellll


软银将接收世界上第一台英伟DGX 该系统将成为B200系统的新NVIDIA系统 DGX 构建SuperPOD超级计算机的关键模块。


软银准备使用这个由Blackwell驱动的DGX。 SuperPOD,不但可以促进自身的AIR&D和AI相关业务,还可以支持日本各大学、科研机构和企业的AI需求。


预计完成后,软银的DGX SuperPOD将成为日本性能最好的超级计算系统。它配备了NVIDIA AI NVIDIAEnterprise软件 Quantum-2 InfiniBand网络,非常适合开发大语言模型。


除了DGX SuperPOD,软银还计划了另一台超级计算机,它致力于高计算密集型任务。基于NVIDIA计划的计算机初步计划 Grace 建立Blackwell平台,整合NVIDIA GB200 NVL72多节点,液体冷却,机架级系统,NVIDIA Blackwell NVIDIAGPU和高效的Arm架构 Grace 完美的CPU融合。


AI-RAN实现了新的里程碑


软银与英伟达紧密合作,实现了技术里程碑——开发了一种新型的电信网络,可以兼顾AI和5G的工作负荷,在业内被称为AI无线接入网络。(AI-RAN)。这种创新基础设施受到电信行业生态系统的青睐,因为它帮助运营商将基站从成本负担转变为AI创收资源。


在日本神奈川县的户外实验中,软银验证了基于英伟达加速的AI-RAN方案已经达到了运营商级别的5G性能,AI推理任务可以顺利运行,同时利用网络的剩余容量。


传统的电信网络是为了应对高峰而设计的,但平均利用率只有三分之一。预计AI-RAN的一般计算能力可以给电信公司一个机会,将剩余的三分之二的容量转化为AI推理服务,实现商业化。


根据英伟达和软银估计,通信运营商每投入1美元资本支出新的AI-RAN基础设施,预计将获得约5美元的AI推理收入。考虑到运营成本和资本支出,软银预测每增加一台AI-RAN服务器,其基础设施的最高回报率可达219%。


本文来源于“腾讯科技”,编译:金鹿,36氪经授权发布。


本文仅代表作者观点,版权归原创者所有,如需转载请在文中注明来源及作者名字。

免责声明:本文系转载编辑文章,仅作分享之用。如分享内容、图片侵犯到您的版权或非授权发布,请及时与我们联系进行审核处理或删除,您可以发送材料至邮箱:service@tojoy.com