大语言模型：LLM的高级应用「工具插件」

在 AI 如今，大型模型如火如荼，如何充分发挥？ LLM 潜力，成为业界关注的焦点。这篇文章将带你深入探索 LLM 高级应用-工具插件，揭示它们如何扩展？ LLM 能力边界，处理实际应用中的痛点。就像工匠需要使用优秀的工具来创造传世作品一样，LLM 为了在工作场所发挥最大的价值，还需要使用工具和插件。

之前有一段时间，网上对于 AI 大模型比较 9.9 和 9.11 这个大问题，引起了一波人们的关注。 AI 大型模型的质疑。

当你了解 LLM 原理之后，就明白了背后的原因是因为 LLM 由于自身没有数学能力，只能进行文本预测。

所以在使用的时候 LLM 在构建应用程序时，LLM 当自己没有某种能力的时候，该怎么办？

此时，就涉及到工具的使用。例如，当客户和您的智能客户服务咨询订单信息时，您需要 LLM 能够借助 sql 句子查询您的数据库，然后回复客户等。

现在市场上的大部分都是 LLM 所提供的工具服务，主要分为 2 类型：工具函数，以及插件工具。工具函数：用户可以根据自己的项目需要，通过定制函数来扩展一系列能力。

插件：开发者可以根据自己的需求使用。 API 服务构建插件，可上架至 GPTSstore 第三方使用中等。

虽然这 2 有许多方法非常相似，但毕竟是不同的发展定位。工具函数，更像是 LLM 这个平台提供了一种扩展，而这种扩展能力只能由用户自己来开发，而不能向外推广。

而类似于 GPTs 插件工具，是一种生态构建，插件开发后可自行使用，也可上架至上架。 GPTstore 中国第三方使用。在中国，虽然没有插件市场，但它构成了一个类似纽扣的智能体市场，倡导 Agent 也就是服务思想。

无论是工具函数、插件还是智能体平台，都在不断扩大 LLM 虽然现在的能力边界， GPTs 发展并不理想，但从长远发展的角度来看， 3 因为它的定位不同，所以市场潜力很大。

目前 GPT Store 仅对 Plus 会员开放，因为智能体同质化严重，客户槽多，短时间内可能很难发展，所以在这里我们先不考虑插件的方式。

我们以 kimi 举例来说明它的函数工具。若不太麻烦，可以直接查看官方 API 文档：https://platform.moonshot.cn/docs/api/tool_use

使用工具时，kimi 一方面支持定制函数工具，另一方面也提供最常用的内置工具进行网络搜索。 ( $web_search ) ，但这种内置的网络搜索工具函数除外 Tokens 除了消耗之外，还需要再次收取调用费，价格是 ￥0.03/ 次。

这里主要介绍一下，Kimi 国内其它自定义函数工具， LLM 提供的函数工具基本相同。整个过程如下

上面的图片是官方给出的一张时序图，如果不懂技术的合作伙伴，可以直接看下面的图片，逻辑是一样的。

然后使用工具（Tool Use）具体情况如何实现？下面是一个官方的例子，来感觉如下：

虽然代码有点长，但还是比较容易理解的，现在 kimi 使用工具时，首先要定义好工具。 tools，包含：

函数名称：即调用函数名称；

函数描述：即函数的作用，以及在什么情况下？ LLM 从这个函数开始，这个部分需要不断的调整和测试，尽可能的覆盖所有的函数调用场景。函数参数：即函数参数，LLM 能从用户的提问中提取入参。

在 tools 在中定义函数之后，具体的函数代码实现和函数的调用就在后面。

以上便是 LLM 使用工具，由于篇幅有限，有兴趣的合作伙伴可以直接阅读官方文档，了解更多细节。

还有，有没有一种工具箱可以在开箱时使用？当然可以根据我们的需要调用。现在。 LangChain 许多工具内置在框架内，如图所示：

前提是你必须使用这些工具。 LangChain 框架，而 LangChain 框架，是现阶段的基础 AI 大型应用程序开发最强大的框架，但需要注意的是，LangChain 现在迭代速度很快，这意味着不稳定，在实际业务中，要不是极度依赖 LLM 所以还是建议以此为基础 LLM 平台的 API 建立应用程序就可以了。

好了，今天的分享就到这里，谢谢观看。

发文： 长弓 PM

大家都是产品经理的作者[长弓] PM】，微信公众号：【AI 原创产品经理社】 / 授权 发布于每个人都是产品经理，未经许可，禁止转载。

题图来自 Unsplash，基于 CC0 协议。

本文仅代表作者观点，版权归原创者所有，如需转载请在文中注明来源及作者名字。

免责声明：本文系转载编辑文章，仅作分享之用。如分享内容、图片侵犯到您的版权或非授权发布，请及时与我们联系进行审核处理或删除，您可以发送材料至邮箱：service@tojoy.com