多agent目前来说Prompt依旧是大模型agent的核心实现的重要手段之一。目前业界普遍认为AI Agent技术包括四大核心部分角色定义模块。Agent在此阶段需要和人类一样对任务执行中的背景资料和具体要求保持关注这一环节实质上是构建角色定位的数据集合。记忆模块。其功能是信息的存储与检索分为短期记忆和长期记忆两种形式。短期记忆基本上等同于模型处理的即时上下文长期记忆则通常来源于外部存储如向量数据库。规划模块。它仿照人类处理问题时将复杂问题拆分为多个小问题并逐一击破的策略将复杂任务细化为更易于管理和解决的小任务或小目标。执行模块。它关乎AI Agent与其所处环境的直接互动。这可能涉及到使用应用程序接口、激活其他功能模块或实施具体操作具体执行方式将依据任务的具体需求而定。简单来说AI Agent要学会使用工具。以上模块中都要用到Prompt而结构化Prompt则通过提供模板指令和格式要求帮助AI更准确地捕捉用户的意图。不过目前的agent框架一般都是侧重于prompt与LLM原生的function call功能剩下的就是引入memory模块持久化。总体来说我自己有时候觉得这些多agent框架还是有一些欠缺——极端依赖于如上所述尤其是prompt。多LLM协作为了帮助Agent更好地理解和适应不同环境一种可能的解决方案是创建专门用于理解和适配环境的小模型作为大模型的小脑。阿里的利用Agent思想做工具调用的文章标题为《Small LLMs Are Weak Tool Learners: A Multi-LLM Agent》。其提出的多LLM agent微调框架将工具调用拆解为三个agentPlanner、Caller、Summarizer并结合一个二阶段的微调策略。对比单个LLM表现更为出色性能也更为稳定并且能够超过像ChatGPT、GPT4等闭源模型证明了多agent思路在工具调用上的有效性。URL:https://arxiv.org/abs/2401.07324Codehttps://github.com/X-PLUG/Multi-LLM-Agent微调相比较普遍agent来说该理论有一个很关键的点——微调。目前的agent基本上都是依赖于LLM原生的工具调用能力Agent需要有效的反馈机制来理解环境并调整行为但目前这一点还没有很好的解决。在复杂工具使用场景中仅仅依靠prompt难以达到足够高的成功率。Agent系统需要能够学习和适应如何调用不同的工具来完成任务这涉及到工具调用学习的问题。而该理论会针对工具调用微调增强其能力。该理论采用了全局到局部渐进式微调Global-to-Local Progressive Fine-Tuning简称 GLPFT策略用于有效训练多 LLM 系统它分为两个主要阶段在这个阶段首先对一个基础的大型语言模型LLM backbone进行微调使用的是整个训练数据集而不区分子任务微调的目标是让模型获得对整个工具学习任务的综合理解。经过全局微调后基础 LLM 被训练成能够依次输出理由rationale、动作action和答案answer。全局微调Global Fine-tuning原始的训练数据集被重新组织形成针对每个 LLM 角色规划器、调用者和总结器的特定数据集。接着分别对规划器、调用者和总结器进行进一步的微调以增强它们在各自子任务中的具体能力。在局部微调阶段基础 LLM 被复制成三个独立的模型每个模型专注于一个特定的子任务每个子任务的专家模型规划器、调用者和总结器能够在其专门的任务上进行优化从而提高整体框架的性能。局部微调Local Fine-tuning数据可参考train-example[1]通过特定的微调增强LLM工具调用的学历能力让LLM更理解适配环境从而提出更合理更合适的ReAct。小结结合自己以前使用的多agent框架体验来说的确在agent的应用和设计上总觉得过于依赖prompt虽然这也没错但随之带来的不确定性和稳定性很大。尽管扣子这类平台已经做的不错了很完善的实现了agent的理论但我个人总觉得还是差点通过这次对**多LLM agent微调框架**的理论及实现的摸索个人觉得这是一个很好的方向不仅让LLM的工具调用更稳定而且也在更大程度上实现了多agent理论。最后的最后感谢你们的阅读和喜欢我收藏了很多技术干货可以共享给喜欢我文章的朋友们如果你肯花时间沉下心去学习它们一定能帮到你。因为这个行业不同于其他行业知识体系实在是过于庞大知识更新也非常快。作为一个普通人无法全部学完所以我们在提升技术的时候首先需要明确一个目标然后制定好完整的计划同时找到好的学习方法这样才能更快的提升自己。这份完整版的大模型 AI 学习资料已经上传CSDN朋友们如果需要可以微信扫描下方CSDN官方认证二维码免费领取【保证100%免费】大模型知识脑图为了成为更好的 AI大模型 开发者这里为大家提供了总的路线图。它的用处就在于你可以按照上面的知识点去找对应的学习资源保证自己学得较为全面。经典书籍阅读阅读AI大模型经典书籍可以帮助读者提高技术水平开拓视野掌握核心技术提高解决问题的能力同时也可以借鉴他人的经验。对于想要深入学习AI大模型开发的读者来说阅读经典书籍是非常有必要的。实战案例光学理论是没用的要学会跟着一起敲要动手实操才能将自己的所学运用到实际当中去这时候可以搞点实战案例来学习。面试资料我们学习AI大模型必然是想找到高薪的工作下面这些面试题都是总结当前最新、最热、最高频的面试题并且每道题都有详细的答案面试前刷完这套面试题资料小小offer不在话下640套AI大模型报告合集这套包含640份报告的合集涵盖了AI大模型的理论研究、技术实现、行业应用等多个方面。无论您是科研人员、工程师还是对AI大模型感兴趣的爱好者这套报告合集都将为您提供宝贵的信息和启示。这份完整版的大模型 AI 学习资料已经上传CSDN朋友们如果需要可以微信扫描下方CSDN官方认证二维码免费领取【保证100%免费】