Page 1 of 1

构建这个流程比我们预期的要容易得多

Posted: Thu Dec 26, 2024 4:50 am
by Reddi1
整体设计 智能体产品案例深度思考和分享(全球顶级公司实践细节,做智能体必读) 图:简化的用户查询过程。


代表“知识共享智能体”,是数十个能够处理用户查询的智能体之一 大家可能已经注意到,我们的流程遵循了检索增强生成(),这是生成式系统中常见的设计模式。



在短短几天内
我们就搭建好了基本框架并使其运行起来: 路由():判断问题是否在处理范围内,是的话将其转发给哪个智能体。


智能体的例子包括:岗位评估、理解公司、帖子要点提取等各种智能体。 检索():这是一个逐步确定详细信息的步骤(召回率导向的步骤),智能体决定调用哪些服务以及如何调用(例如, 、 等)。


生成():这是一个精准度导向的步骤,它筛选检索 约旦 telegram 手机号码列表 到的各种数据,过滤它,并产生最终响应内容。 鉴于“路由”和“检索”的分类性质,微调它们相对顺畅:我们构建了开发测试集,并使用提示词工程和内部模型进行优化。


然而,“生成”则是一个完全不同的故事。
它遵循法则;很快可以达到%的准确度,但剩下的%却耗费了我们大部分人的所有工作时间。


当你的产品期望%以上的答案都非常出色时,即使使用最先进的模型,每一个%的进步也仍然需要大量的工作和创造力。


对我们而言好使的招数是: 固定的三步流程 用小模型干路由检索,用大模型干生成 基于内存数据库的(- () ),直接将响应示例注入到我们的提示词中(穷人版微调)。


(注:是个技术名词,感兴趣的自己再查吧。) 在路由和检索过程中针对每个步骤做特定评估 . 开发速度 我们希望多个团队并行快速推进,因此决定将任务拆分为由不同人员开发的独立智能体(即智能体):岗位评估、理解公司、帖子要点提取等智能体分别由不同团队负责。