SaaS的“大模型焦虑”

2024-06-15

AI 在转型升级中,行业 Know-how 依旧是 SaaS 制造商可靠的堡垒。


文 | 张保文


大型落地的另一面, SaaS 的 AI 化升级。


与大模型双向奔赴,SaaS 制造商如何走出“大模型焦虑”,找到“ AI 自信"?


01


“大模型焦虑”


"所有的软件,都值得用大模型重做"。


2022 年末,ChatGPT 火爆的红色,也把不少 To B 从业者引入了一种“大模型焦虑”。


两三个月后,第一波焦虑慢慢缓解。因为我们发现当时的大语言模型更像是一种偏见。 C 终端“大玩具”,加上大语言模型幻觉、隐私安全、落地场景等限制,距离真实。 To B 生产工具,还有点远。


随着 OpenAI 开放 API 接口,Meta、谷歌推出了大语言开源模型和大语言模型应用开发工具。 LangChain 随着大语言模型的兴起, B 终端商业化路径,逐步明确:


第一,开源降低了大语言模型技术应用的门槛。例如,SaaS 在开源大语言模型的基础上,厂商可以对自己的行业模型进行实践和微调,帮助客户解决特定业务场景中的问题;另外,LangChain 等 Agent 平台和工具,也是 SaaS 制造商的创新和业务探索提供了许多便利。


兼职行力创始人 CEO 林华荣一直非常重视大语言模型技术的进程。“开源大语言模型只是变化的开始,真正让它成为 To B 这个行业兴奋起来,应该是 LangChain 这是可以实现的 Agent 概念框架的出现。每个人都开始意识到:AI 已能被业务场景需求所控制。”


从林华荣的角度来看,通过类似 LangChain 加上开源框架 RAG 技术(检索增强生成),大语言模型通过插件知识库(向量数据库)很好地解决了大语言模型必须经过训练才能使用的问题。这也让很多 SaaS 从业者十分激动,至少找到了一个大语言模型落地最直观的场景:公司内部知识库的智能问答。


"大型语言模型可以私有部署,企业数据可以私有向量化,是大型语言模型技术。 To B 场景落地的重大转折点。”


不管 SaaS 制造商,或者企业客户,在培训大语言模型时,都比较担心数据安全和知识产权保护问题:把自己的数据喂给大语言模型,如果训练结果被对手抄袭了怎么办?


与传统硬盘不同,大语言模型技术模拟了人类的神经网络模式,其数据存储和管理难以精确控制。所以,林华荣认为,对于企业来说,通过“培训”实现“私有智慧大脑”存在一些误解。


首先,在训练大语言模型掌握了具体知识后,要求大语言模型对信息进行一些有针对性的保密,有点像内部人员交流时的“我告诉你一个秘密,不要告诉别人”。事实上,很难真正保密。


其次,大语言模型的输出类似于人类的表达方式。在大多数情况下,没有所谓的“正确答案”。如果没有一些知识边界的约束,就会产生不可控的“幻觉”,也就是我们常说的“一本正经的废话”。


最重要的是,公司知识本身有持续的快速迭代。如果你想改变旧知识,你不能像以前那样通过“删除”或“修改”硬盘信息来实现。新旧知识会像人的记忆一样叠加,容易混淆,也会带来“幻觉”。


基于上述分析,林华荣认为“企业知识通过知识向量化植入私有向量数据库,这些向量数据库可以在自己的云或本地服务器上部署,类似于过去。 SaaS 对于企业私有数据提供的混合部署,可以很好地处理大语言模型落地的隐私安全问题;同时,通过 Agent 在不同的场景下,平台可以限制大语言模型,在指定的知识范围内,通过做出选择答案,可以更有效地解决大语言模型。 To B 场景幻觉产生问题。"


Gartner 技术成熟度曲线描述:每一项新技术都会经历技术萌芽、欲望膨胀、泡沫破裂、稳步攀升、技术成熟的周期,也会伴随着一些“短期高估”和“长期低估”的错误判断。


从长期看,AI 潮水是不可逆的,应该看见。 AI 转型升级的战略意义;从短期来看,如何“ AI ",运用 AI 升级自己的品牌,很多 SaaS 厂家还处于摸索阶段,应避免因为 FOMO(错过恐惧症),盲目投入或转化。


向 AI 在转型升级过程中,行业 Know-how 依旧是 SaaS 制造商可靠的堡垒。


在经历了短期的焦虑之后,林华荣对大语言模型的浪潮充满了信心。“这种大语言模型技术的核心理念在于。 AIGC ,也就是说,大语言模型技术正在通过大语言模型将公司的隐藏经验导出为可用的显性知识或服务来重塑我们的产品。所以我们今天不但不焦虑,而且由于我们在知识管理轨道上的问题 Know-how 积累,反而对未来的市场更有信心。"


02


“落地之痛”


根据牛透社的调查,目前国内大语言模型 To B 现场落地,仍处于探索与试点阶段,主要包括智能客户服务、企业培训、AI 采访、营销客户获取、数据分析、法律咨询、产品研发等场景;另外,还有一些偏差 AI 低代码、平台、工具等赛道,AI Agent、RAG flow 等。


目前,安全合规、准确性、可控性、便捷性、规模化等挑战都面临着语言模型商业化的发展。


安全合规:这是企业经营无法触及的“红线”。大语言模型的商业化也必须符合国家法律法规,确保信息安全和内容合规;此外,一些行业的特定要求,如金融和政府行业,会要求大语言模型的私有部署。


准确性:生成数据不准确,文案效果不理想,胡说八道...幻觉问题仍然是大语言模型。 To B 一个重要的场景着陆” BUG "。我们还发现,一些制造商正在探索通过探索。 Function Calling(函数调用)、RAG为了加强生成内容的实时性和准确性,(检索增强生成)等技术。


可控性:安全性和可控性是决定 To B 产品使用的一个重要因素。如何解决安全性和可控性?除了合规性和准确性要求,权限设置也很重要。以知识管理场景为例。如何根据不同的权限目标,在不同的场景中导出正确的知识,设置动态权限是非常重要的。否则只适用于浅层场景,不能落地在所有员工使用的场景中,会影响业务价值。


便捷性:"在我们公司,Prompt 写得最好的,不是产品经理,也不是技术,而是测试工程师。有一些。 SaaS 制造商为客户提供 Prompt 当你发现客户不能使用工具时,你甚至不知道如何使用自己的人员。在这种情况下,它可以面向普通用户,无需编写代码即可构建业务应用。 Prompt 工具很重要。


规模化:大型语言模型技术,必须在某一行业、某一类客户中普惠,让大多数人可以使用,才能真正实现规模化。由于成本、实施能力、技术稳定等因素的限制, SaaS 商品与大语言模型技术相结合后,只能为极少数高客户提供单价服务,还不能全面推广。


另外,咨询、数据治理等生态服务也是必不可少的。SaaS 厂商要和 AI 通过“大模型”,生态制造商和客户共同创造规范化解决方案 “服务”,可以更好的闭环。


当语言模型落地时,怎样定义大语言模型的能力边界(优势)?


数据分析、客户洞察等一些高频、高标准、海量数据的场景,不仅适用于传统的数字技术,而且很容易结合大语言模型的优势。以 Chat BI 例如,结合大语言模型的自然语言处理和数据分析能力,可以大大提高对话风格 BI 的能力,使 BI 商品更容易被需求场景深度使用;此外,大语言模型在自然语言交互、推理能力、学习效果、执行力等方面的优势。,可以扩大和打通一些智能阶段,甚至可以重新定义一些工作流程和职位。举例来说,在语言模型能力的加持下,客户服务部门可以实现从服务中心到销售中心的升级。


林华荣说,管理软件出身的人很容易习惯性地使用软件来提高管理和控制的准确性。然而,如果只使用大语言模型技术的准确性,很可能会限制大语言模型的优势和能力:"我们要把大语言模型当作‘人’,而非工具,这是一种很重要的思考方式。"


在企业级大语言模型产品的实施和交付中,大语言模型也需要被理解为“人”,而不是局限于数据培训、微调等技术服务,具有控制大语言模型的能力,使其能够被企业使用。林华荣将大语言模型的实施归纳为三个主要任务:提示词工程,Agent 工艺设计,行业 Konw-how 植入。核心目标是要将行业 Konw-how 转化成掌控 AI 帮助客户实现业务结果的能力。


03


“升级之路”


在大模型浪潮下,公司 AI 转变,不再是一道选择题,而是一道生存题。


在和一部分 SaaS 在厂家的交流中,我们发现生产和研究的效率是目前的“ SaaS AI “一个重要的落地场景。


比如,一家 SaaS 公司产品负责人表示,从今年开始, 2 到目前为止,所有的R&D人员都必须采用大模型开发,否则他们将被要求离开公司。现在公司 AI 敲击代码占用 60%的R&D效率有了很大的提高。


除提高生产研究和经营效率外,SaaS 制造商还在积极探索商品与大语言模型技术的结合。


林华荣说,这里的一个难点在于大语言模型和传统管理软件的输出价值,这是两个不同的层次。“管理软件属于处理控制系统,而大语言模型技术则取代了人类知识的高负荷工作。这就是为什么有很多 SaaS 制造商一直很难找到大语言模型和自己的产品。 原因是‘化学变化点’。"


由于这种差异,大语言模型技术与国内大多数企业管理系统的结合,仍处于体验升级阶段,尚未深入管理业务的关键。SaaS 公司的 AI 升级,也分为两条路线(或两个阶段):


一为体验升级之路。也就是说,让原来的能力,能更好的被 AI 控制和驱动。这个适合现在的大多数 SaaS,特别是一些复杂的管理软件 SaaS 厂商升级之路。


二为重塑商品之路。即利用 AI 能力,做一个全新的产品。适用于更多创意工具、知识管理、智能客户服务等。 AIGC 有关跑道 SaaS 厂商升级之路。


相比之下,体验升级之路,更容易落地,但是 SaaS 在这条路上,厂商有些多少? FOMO(错过恐惧症)因素:有些是由大语言模型驱动的,必须卷起来;还有一些是想在蓝海中找到新的语言模型机会。


这有点像从燃油车到电动车的转型:本来只是一辆车,现在还要装冰箱和彩电...核心产品和价值链没有变化,更多的是卷起来的感觉(同样的价格水平更有感觉),很容易陷入“炫耀技能陷阱”。:为一点感觉改善,去增加语言模型,最后叫好不叫座。


想象一下:用大语言模型点外卖,订机票,真的比用大语言模型更好吗? APP 更快捷?SaaS 厂商在交互体验升级方面的投入,是否真的能提高客户的单价和续费率?


目前重塑商品之路,主要集中在目前。 AIGC 高相关赛道。


以职业力量为例,林华荣提到,过去职业力量产品主要面向中大客户,这些企业都有比较完善的知识培训体系。在此基础上,职业力量可以帮助客户解决让培训更有效的问题,从而快速提高人的效率;但由于中小企业通常没有完善的知识培训体系,过去职业力量并不是中小企业的客户群体:并非不想做,而是做不到,由于这种情况经常将软件交付做成咨询案例交付。


大语言模型技术出来后,职行力推出了基于职行力的模型。 AIGC 智能化陪练系统。这更像是一种快速有效的“专用药”,而不是以前的产品。可以更快、更高效、更低成本地满足中小企业客户在业务培训上的需求,而不是通过长期系统的治疗(建立培训体系,推动体系落地),直接为每个员工配备一个贴身的“专科医生”(提供咨询、指导、教学服务的专业教练),这就是传统产品与大语言模型能力相结合后产生的“化学变化”。


结合上述两条路线,SaaS 目前,厂商对语言模型方向的探索主要在于改善产品互动体验,提高R&D和运营效率:比如在现有产品中增加特色,提高互动体验,或者在一些单一功能的突破中体现出来,并没有与业务紧密结合。从长远来看,随着大语言模型的对立 To B 需求场景渗透, SaaS 在大语言模型的帮助下,制造商可能需要考虑如何重构产品和服务。换句话说,体验升级之路,最终将走向重塑商品之路。


无论哪条路线,大语言模型技术, To B 这个行业带来了新的生态融合。


最近,国内大型语言模型厂商,逐步从“拼参数”转变为“争生态”。SaaS 制造商也可以从中明显感受到大厂态度的变化:过去与大语言模型制造商讨论 API 合作,对方也许不太理会;现在各跑道头部 SaaS 制造商,经常会收到许多大型制造商的检测邀请。归根结底,大型制造商的商业化破局,关键还在于应用生态:ISV 合作伙伴的质量和数量,决定了大型厂商的市场渗透能力或长期优势,在国内通用大语言模型“价格战”背后,这也是一个逻辑。


但是也有一部分 SaaS 制造商,看到了 AI 生态学面临的难题:AI Agent 平台、AI 原来的应用,会不会影响到原来的应用? SaaS 的地位?


林华荣认为, SaaS 厂家的 AI 升级有点类似于从燃油车升级到电动车的过程。让汽车厂商自己做电池,或者生产车载彩电和冰箱,显然是不现实的。更合适的方法是找到一个专门的门的电池制造商和电器制造商合作。要做到这一点,燃油汽车制造商首先要做的就是将原来的平台升级到电动平台,可以装载电池和电机,可以连接冰箱、彩电等各种电器。


对于 SaaS 厂商来说,重点还是要保持开放,与专业的大型语言模型制造商,Agent 厂家合作,让自己可以被自己 AI 驱动,融入 AI 生态中。


04


结语


目前,语言模型的商业化还面临着安全合规性、准确性、可控性、便利性、规模化等诸多挑战。如何降低大语言模型技术的服务成本,完成闭环是关键。


SaaS 的 AI 升级,目前主要有两条路线:一是体验升级之路:即让原来的能力更好地被提升 AI 控制和驱动;二是重塑商品的道路: AI 能力,创造全新的产品。伴随着大语言模型。 To B 需求场景的渗透,体验升级之路,最终将走向重塑商品之路。


大型时代,行业 Know-how 依旧是 SaaS 制造商可靠的堡垒。尤其是资本退潮后,SaaS 制造商创造盈利模式,最终还是要回归核心竞争力,积极融入 AI 生态学。与卷价相比,卷专业价值更大。


- 精选文章 -


本文仅代表作者观点,版权归原创者所有,如需转载请在文中注明来源及作者名字。

免责声明:本文系转载编辑文章,仅作分享之用。如分享内容、图片侵犯到您的版权或非授权发布,请及时与我们联系进行审核处理或删除,您可以发送材料至邮箱:service@tojoy.com