华为推出DeepSeek训练/推一体机,国产芯片迎来新机遇?

06-12 11:51
AI一体机终于被DS火了?

DeepSeek的热潮终于带来了AI一体机产品?这种具有“中国特色”的AI硬件能否为国产芯片的普及增添一把火?


二月十六日,根据“华为数据存储”微信官方账号消息,华为DCS 针对DeepSeek的本地部署,AI解决方案推出了FusionCubeekDS版本。 深度适应DeepSeekV3&R1及蒸馏模型的A3000训/推超融合一体机,支持私有化部署。



配置清单显示,FusionCubeDS版本 有三种类型的A3000训练/推超融合一体机,即Ultra(满血版)、Pro(蒸馏版)和 Lite(蒸馏轻量版)。


在这些版本中,DeepSeek-R1版可以完美适应。、V3671B模型,两个华为Atlas800las800las 响应速度为671B的A2: 1911 token/s 。而且蒸馏版配有一个Atlas800las 适配DeepSeek R1-Distill-Qwen-32B、Llama-蒸馏模型,如70B,响应速度 70B: 3300 token/s,32B: 4940 token/s。



Atlas800l 华为推出的鲲鹏920A2 昇腾 AI处理器的AI推理服务器用于深度学习模型开发和AI推理服务场景。目前用于公司机房部署和大规模数据中心集群部署,面向公共云、互联网、运营商、政府、交通、金融、大学、电力等领域。


在软件方面,DS版本训练/推超融合一体机采用大模型训练、推理和应用开发的华为ModelEnginee AI平台,该平台基于升腾AI芯片,通过优化推理框架和MoE存算协同,提供动态转换和全局统一缓存,实现推理高并发、低延迟。二月六日,华为宣布,ModelEngine平台全面支持DeepSeek大模型R1&V3和蒸馏系列模型的本地部署和优化,开发者可以通过该平台实现上述DeepSeek大模型的“一键部署”。


最近,DeepSeek在线计算能力严重不足,带火了大模型本地部署的需要,许多厂商开始销售各种AI一体机产品。


2月5日,联想和国内AI芯片制造商沐曦联合发布了基于DeepSeek的公告。 选择ThinkStation的大型一体机解决方案 依托PX工作站,配备了沐曦曦N260 GPU。


2月14日,中科曙光还发布了全国制造的DeepSeek超一体机。该一体机选用全国制造技术路线,选用国产X86 支持全精度、半精度混合训练和推理的CPU和国产GPGPU加速卡。



DS超融合一体机,中科曙光


中科曙光一体机在模型适配方面也完全适应了DeepSeek系列模型,例如DeepSeek。 V3、DeepSeek SeekR1和Deep Janus Pro,还支持全系列量化蒸馏版本。与此同时,QWen2.5、LLama3.2、同时,ChatGLM等主流大型模型也完全适应,满足不同业务场景的需要。


中科曙光微信官方账号的文章,毫不犹豫地称这台一体机为“国货之光”,将为政府和企业的数字化、智能化转型按下“加速键”。


事实上,AI一体机并不是最近才出现的新事物。在中国市场,将软硬件包装在一起的“一体机”一直有着独特的生存空间,因为大量公司不愿意为简单的软件和计算率付费,或者因为数据安全等因素专注于本地部署硬件。


相比之下,尽管英伟达还推出了Jetson系列硬件集成平台,但它主要用于机器人和嵌入式边缘计算等场景,而不是推理一般的大模型。


然而,随着大模型推理成本的降低和C端用户需求的增加,英伟达也将目光投向了个人市场。今年早些时候,英伟达推出了个人超级计算机。Project DIGITS”,这款产品配备了英伟达全新GB10非常芯片,最高可提供1。 AI性能PFLOPS主要用于AI大模型的原型设计、微调和运行。



Project DIGITS(左下方的纸箱物件)被称为世界上最小的可运行物品。 200B 参数模型的 AI 超级计算机。英伟达官网


英伟达说,GB10非常芯片使Project 只要使用标准电源插头,DIGITS就可以提供强大的性能。借助 Project DIGITS,用户可利用自己的桌面系统开发和运行模型推理,并在加速云或数据中心基础设施上无缝布署模型。与此同时,用户还可以通过英伟达技术将两个Project DIGITS AI超级计算机连接在一起,运行的参数模型高达4050亿。


FusionCube华为版 目前还不清楚A3000和中科曙光DS超融合一体机的价格,而英伟达面向个人的消费级Project DIGITS的实际售价约为3000美元,今年晚些时候上市。


本文来自微信微信官方账号“观网财经”,作者:万小棍,36氪经授权发布。


本文仅代表作者观点,版权归原创者所有,如需转载请在文中注明来源及作者名字。

免责声明:本文系转载编辑文章,仅作分享之用。如分享内容、图片侵犯到您的版权或非授权发布,请及时与我们联系进行审核处理或删除,您可以发送材料至邮箱:service@tojoy.com