离线与记忆:大模型进化的关键转折

07-28 06:39
下一代通用人工智能的基石在于大模型记忆机制。


今年的WAIC依旧热闹非凡。


闷热的上海、拥挤的展台以及众多的AI大模型,这些是历年WAIC的常见景象,但今年有所不同。


今年的WAIC有一个明显的趋势:参展企业和逛展用户对大模型概念已不再盲目追捧,取而代之的是大家都在问:“有没有落地案例?”


经过三年的市场教育,用户对反复的“模型刷榜”感到厌烦。特别是2025年以来,DeepSeek的出现让一大批AI“明星项目”受挫,创业者和投资人都很着急。


不过,有一家上海AI大模型创企却不慌。


据36氪了解,这家创企已将模型技术卖到世界各地,业务覆盖非洲、中东、欧美、东南亚、俄罗斯等地。


它主打“离线智能”,把离线大模型的部署门槛降低到“千元机”水平,使非旗舰款甚至入门款的AIPC、手机、无人机、机器人等都能在离线状态下实时进行AI运算。在网络不稳定的欧、非、俄、中东等地,这是非常迫切的需求。


这家公司宣传很低调,很少对外做公关和大规模宣传。他们团队内部有句话:“我们不装‘高大上’,我们去‘打穿华强北’。”


普通人听着像自谦,业内人却会震惊。深圳华强北是全球科技电子竞争最激烈的地方,是“一天开模、三天量产”的奇迹之地,也是众多电子科技产业“水下独角兽”的诞生地。


这家创企叫RockAI(上海岩芯数智),在WAIC 2025期间,我们有机会和它深入交流。



01. 神秘的“水下独角兽”


RockAI成立于2023年6月,是A股上市公司岩山科技的控股子公司。其核心产品是国内首个非Attention机制的Yan架构通用大模型系列,能让高算力的AI大模型在低功耗设备上离线部署,无需联网即可实时运算。


RockAI实现的离线智能,不是简单地对大模型进行蒸馏、剪裁,而是从底层架构进行创新,与OpenAI、Meta、DeepSeek等大模型公司的路线不同。


在本届WAIC上,RockAI推出了最新一代Yan 2.0 Preview大模型,将多模态能力拓展到视频领域,并引入基于神经网络的记忆单元,使模型具备自主学习能力。


低功耗、高性能、离线智能、非Transformer,这些是RockAI的显著特点,也是客户选择它的原因。


02. 离线智能


今年3月的MWC(巴塞罗那世界移动通信大会)上,部署RockAI大模型的AIPC产品展出,反响热烈。欧美、非洲、俄罗斯等地的经销商当场表达销售意向,友商也好奇询问:“这个价格居然能做到离线?”


实际上,海外用户对AIPC的离线需求很强烈。



比如,RockAI的智能会议助手很受海外用户欢迎,能在线上会议中进行实时文字转录、翻译、记录和总结。


很多海外企业有严格的数据安全制度,商业会议数据不允许上传云端处理,这时离线的智能会议助手就很有用。


此外,网络设施不稳定也是海外用户的困扰。国内设备到海外常因网络昂贵、不稳定、易掉线而“水土不服”。


在国内,很多品牌商和ODM厂商也希望大模型本地化,实现产品差异化升级。


 


过去,人脸识别、语音识别等AI功能是旗舰产品专属,如今随着产业链创新,这些功能已成为“千元机”标配,甚至应用到离线的家电上,拓展了设备智能边界。


这是前沿技术发展的必然,大模型也不例外。


目前,搭载RockAI模型的设备出货量已具规模,客户包括消费电子品牌方、ODM厂商等,还有很多华强北的厂商寻求合作。



社交媒体上有各类“AI入侵华强北”的讨论。


03. 大模型的记忆力


如今,“百模大战”基本结束,很多明星创业项目急于转型或上市,而RockAI的大模型已畅销全球。其积累的技术资源和工程化经验使其在大模型赛道脱颖而出,成为低调却不可忽视的“水下独角兽”。


RockAI的目标不止于设备智能化。


它追求的是通用人工智能(AGI),记忆是Yan 2.0 Preview的核心。展示的机器狗体现了大模型的“记忆”能力。


传统大模型依赖外挂式调用知识,而搭载Yan 2.0 Preview的机器狗将记忆融入模型参数,实现了“长期记忆”和个性化理解。这种记忆会随用户交互进化,让设备成为用户思维的延伸。


 


端侧部署保障了隐私,提高了响应速度和数据安全。未来的设备将成为有感知、记忆和学习能力的“数字大脑”。


人类智能源于经验积累和记忆演化,大模型要成为“智能体”,也需具备类人记忆能力。只有记住用户偏好和过往交互,模型才能提供个性化服务。


RockAI认为,当设备具备记忆和自主学习能力,将形成分布式智能网络,催生“群体智能”,这是迈向通用人工智能的关键。


结语:分水岭上的大模型


现在谈AGI还为时尚早,大模型已到行业分水岭。一方面,“百模大战”结束,很多明星项目陷入困境,行业面临洗牌。


另一方面,设备商、品牌商和用户对大模型有大量真实需求和未满足的落地场景。


2017年,华为、苹果、三星推出手机AI芯片,将人工智能大战从云侧拉到离线端,开启全民AI热潮。


2025年,在行业焦虑中“逆势增长”的RockAI,或许预示了行业的发展方向。


本文仅代表作者观点,版权归原创者所有,如需转载请在文中注明来源及作者名字。

免责声明:本文系转载编辑文章,仅作分享之用。如分享内容、图片侵犯到您的版权或非授权发布,请及时与我们联系进行审核处理或删除,您可以发送材料至邮箱:service@tojoy.com