问题回答备注类型项目动机构建销售机器人完成销售任务智能语音销售Agent讲一下项目的实际链路1.用户语音流输入ASR语音转文本按用户的断句将语音信号转换成文本ASR公司自研别人负责智能语音销售Agent2.改写模块将文本改写为高信息语句语音环境口头禅连续无意义字上下文隐形信息显性呈现智能语音销售Agent3.大模型进行意图识别销售阶段识别得到用户意图用户所处销售阶段意图一共110举例不需要询问产品询问打电话目的、投诉、辱骂等等销售阶段一共5个确认用户身份、产品介绍、用户信息收集、APP操作引导、结束通话智能语音销售Agent4.参考话术检索意图销售阶段输入搭建好的向量知识库得到N条参考销售话术事先写好人工审核过合规每个销售话术都附带一段文本说明每个话术应对场景RAG阶段的R智能语音销售Agent5.大模型根据历史上下文意图销售阶段检索结果N条参考销售话术与对应场景。生成回复话术RAG阶段的G智能语音销售Agent6.TTS生成语音流TTS公司自研别人负责智能语音销售Agent最终效果意图识别销售阶段识别准确率98%端到端回答准确率95%业务转化率在七家厂商赛马中稳定排名第一5%-7%大模型都是什么意图识别销售阶段识别模型参数大小为7B同时意图名称销售阶段名称尽可能简短。因为语音端尽可能的减少响应时长话术生成阶段大模型参数大小7B跟13B做了对比验证13B没有明显提升选小的意图识别销售阶段识别一共花费500ms(0.5s)话术生成阶段流失生成以“,”分割发送给TTS。不问就不说智能语音销售Agent大模型怎么训练的一台8张A100显卡型号机器意图识别销售阶段识别话术生成都在一个模型上训练全参数训练3万训练数据2个epoch训练7个小时智能语音销售Agent大模型怎么部署vllm一个模型推理框架框架部署单卡A100部署一个模型服务8卡A100部署8个模型服务智能语音销售Agent讲一下你解决的问题和思路问题prompt提示词的效果提升解决思路提示词是对大模型的指令销售受两个方面影响1.大模型的指令遵循能力是否能理解指令。2.提示词的逻辑是否正确解决方案优先确定提示词逻辑是否正确1.使用提示词模板开头角色申明、逻辑判断说明、输出要求说明、案例参照。其中逻辑判断说明案例参考阶段可以使用RAG知识增强模块、2.使用目前天花板级别的最大最好的大模型验证效果默认大模型指令遵循能力是满足的如果他们都不满足那也没有什么能满足了。不断调整提示词达到最好的效果。3.看效果是否达到要求再考虑模型微调进行模型指令理解能力增强。主要体现技术能力智能语音销售Agent问题大模型生成话术阶段参考话术应该如何使用因为有些回答逻辑需要有业务思维并不符合不了解业务人员的思维逻辑解决思路为每句话术增加设计思路减少大模型的信息缺失让大模型有判断依据解决方案数据收集阶段给业务方提出要求让其同时给出话术应对场景主要体现方案设计能力智能语音销售Agent问题用户相同含义但不同上下文的处理逻辑不同解决思路与一线销售经理取经发现因为对话的上下文销售阶段不同对应不同的解决思路解决方案增加大模型 “销售阶段” 识别为含义阐明增加更多的信息支持主要体现方案设计能力智能语音销售Agent问题意图数量较多受业务影响较大频繁修改后期维护困难解决思路需要一个统一标准避免出现信息不对称导致的业务于技术评判标准解决方案以意图矩阵表为标准其中注明意图名称意图含义意图举例与相似意图区分逻辑意图定义以其为准。涉及到意图增加意图减少意图定义修改都得优先修改意图矩阵才能进行实现。有技术人员作为负责人也就是你维护意图矩阵遇到新需求优先于业务人员达成修改动机一致实现方案一致最终实现并修改意图矩阵主要体现你的业务沟通能力智能语音销售Agent项目动机质检部门需要再T内质检所有销售通话百万量级质检部门无法完成智能销售质检讲一下项目的实际链路1.一通完整通话语音通过ASR语音转文本转换成文本根据声道区分出用户与销售员智能销售质检2.用户侧意图用户侧销售阶段销售员侧销售阶段复用“智能语音销售Agent”中的。销售员意图重新设计。3.整通通话全部识别意图销售阶段4.构建“意图销售阶段”为索引“质检项名称、规则、案例”为内容的向量知识库每句销售话术都进行RAG检索出相关的质检项名称、规则、案例5.拼接提示词大模型经过RAG增强判断此销售话术是否触犯质检项触犯的质检项名称是什么改进表述应该是什么最终效果人机结合方案筛选出万级别通话人工复核召回率100%AI准确率95%。质检部门精力专注于触犯质检项的员工的培训提升上智能销售质检大模型都是什么模型使用的都是大模型API接口不是自己部署的模型智能销售质检讲一下你解决的问题和思路问题质检的要求会更严格因为质检的评判标准是按照通为单位进行统计不是以每句销售话术为单位需要一通所有判断全部正确才能一通通过如何错误都会指数倍放大解决思路不断的提升大模型看到的信息减少大模型在判断质检中的信息缺失解决方案1.销售员意图识别构建更好的分析销售员当前的话术目的针对性得到应该使用哪些质检项。2.分析分类质检项分出高频低难度低频高难度的质检项优先处理高频低难度再处理低频高难度。3.针对低频高难度增加更多的案例提示判断动机解释大模型架构设计的核心思路就是减少大模型的信息缺失智能销售质检项目动机简单的取数有现成的接口复杂的取数需要数据部门承接需求人工写SQL取数耗时消耗人力复杂取数需求大多不可服用智能取数讲一下项目的实际链路1.用户取数问题输入进行分词实体抽取得到专业数据指标智能取数2.专业数据指标知识库检索召回出专业数据指标含义计算公式3.LLM对专业数据指标检索结果用户取数问题新的用户取数问题(专业数据指标含义计算公式)List4.LLM分类对用户取数问题进行复杂度判断是否可以使用当前已有的数据接口进行组合的出结果还是必须触发Text2SQL进行取数也就是一个二分类5.可以使用当前已有数据接口的情况5.必须触发Text2SQL进行取数的情况6.Tooling useLLM生成调用接口入参数调用接口顺序结果结果处理顺序6.RAG检索根据专业数据指标含义计算公式在以划定的多个表中根据表名称表字段表字段内的枚举值得到TopN个备选表格7.按顺序调用处理得到数据结果7.用户查询语句专业数据指标含义计算公式TopN个备选表格组合成promptprompt中限制安全性只做数据查询只在限定表格内LLM生成SQL8.生成SQL审核安全性审核不会产生数据损失构建沙箱环境只做select查询功能性审核SQL语法是否有问题是否能取到数据9.执行SQL得到数据结果8.LLM根据用户取数问题数据结果生成回答10.LLM根据用户取数问题数据结果生成回答智能取数最终效果Text2SQL准确率92%端到端问题解答准确率95%帮助数据部门节省30%工作量智能取数大模型都是什么模型使用的都是大模型API接口不是自己部署的模型智能取数