ARTICLE · INTELLIGENCE

战地情报 · 详情页

来自尧图项目组的一线实战观察与深度解析

新手程序员必看:一步步走进大模型背后的知识库世界

新手程序员必看:一步步走进大模型背后的知识库世界

本文从关键词检索到Agent,详细介绍了知识库技术的发展脉络和不同阶段的核心能力。文章强调知识系统能力的逐步扩展,而非严格的技术替代顺序,并通过实例说明了如何根据实际问题类型选择合适的技术。理解每种技术所处位置比追逐“最新”技术更重要,建议新手程序员结合实际需求,逐步学习和应用相关知识库技术。

很多人谈知识库,会把一串技术名词排成升级路线:关键词检索、向量检索、RAG、知识图谱、GraphRAG、LLM Wiki、本体论,最后是 Agent。

这条路线有参考价值,但不是严格的技术替代顺序。它更像知识系统逐步增加能力的过程:先能找到资料,再能理解语义和关系,进一步积累可复用的知识,最后在规则约束下执行任务。

不同技术解决的问题并不相同。一个生产系统可能同时保留全文检索、向量检索、知识图谱和业务语义模型;也可能只用其中一两种。理解每种技术处在什么位置,比判断哪种“最新”更重要。

先看全景:知识系统增加了哪些能力?

可以把技术脉络概括为:

关键词检索 → 全文搜索与索引 → 向量检索 → RAG → 混合检索与重排序 → 知识图谱与 GraphRAG → LLM Wiki → 本体论与语义层 → Agent

这并不代表每个系统都要依次经过这些阶段。它表示知识系统在不同方向上扩展能力:

阶段增加的能力典型问题
关键词检索匹配明确词语“文档里有没有这句话?”
全文搜索与索引搜索大规模文本并利用字段筛选“哪些资料包含这些词,且属于这个部门?”
向量检索按语义相似度找文本“没有用同样的词,能否找到相关内容?”
RAG把检索结果交给模型生成回答“能否根据公司资料回答问题并引用依据?”
混合检索与重排序结合多种召回方式,优化候选结果次序“怎样提高召回率和最终上下文相关性?”
知识图谱与 GraphRAG表达实体关系,并沿关系查找信息“这个项目、客户、合同和产品如何关联?”
LLM Wiki把新资料融入可持续更新的知识页面“能否复用之前整理出的跨文档结论?”
本体论与语义层明确业务概念、关系和约束“不同系统里的‘客户’究竟是不是同一个概念?”
Agent让模型调用工具并完成流程“能否查状态、核权限并执行下一步操作?”

这张表是能力地图,不是架构清单。每一层都可能和其他层组合。

  1. 关键词检索:从“记得文件名”到“搜得到词”

最基础的知识库,就是文件和目录。内容主要由人浏览,查找依赖文件名、目录结构和个人记忆。

关键词检索把查找变成了可操作的查询:输入“差旅报销”“合同审批”,系统返回包含这些词的页面或文档。全文搜索引擎进一步使用倒排索引等结构,在大规模文本中高效定位词项,也可以结合标题、时间、作者、部门等字段过滤。

它的优点是结果容易解释:文档为什么命中,通常能指出匹配词语。但词面匹配有边界:

  • 搜“客户流失”,可能找不到写着“用户停止续约”的材料。
  • 同一个词可能在不同文档中含义不同。
  • 关键字写得不对,相关资料就可能被漏掉。

关键词检索适合术语明确、目标清楚的查询,但它不擅长处理表达方式变化和隐含语义。

  1. 向量检索:从匹配词语到匹配语义

向量检索把文本转成向量,再按向量距离寻找语义上相近的内容。用户问“怎么申请出差”,即使资料写的是“差旅审批流程”,也有机会被找出来。

这扩展了搜索能力,但“语义相近”不等于“业务上正确”。比如“客户账号”“签约法人”和“联系人”可能在同一批文档里经常一起出现,向量检索可能把它们都认为相关,却不一定能判断问题具体指哪一种对象。

向量检索解决的是如何召回可能相关的文本,不是如何验证文本是否符合业务规则。

  1. RAG:检索结果进入模型上下文

RAG(Retrieval-Augmented Generation,检索增强生成)把外部检索和大模型生成结合起来:先从资料中检索相关内容,再将这些内容作为上下文交给模型回答。

RAG 让模型能够利用不断更新的私有资料,而不必每次都重新训练模型。但工程效果取决于整条链路:资料解析、切分、索引、召回、排序、上下文构造和答案生成都可能引入问题。

所以,RAG 答错不一定是模型“不会回答”。也可能是:

  • 相关内容没有被检索出来;
  • 切分时丢失了标题、表格结构或上下文;
  • 多份材料彼此冲突,系统没有识别版本;
  • 找到的是相似材料,但不适用于当前部门或场景;
  • 模型把检索到的片段错误地拼接起来。
  1. 混合检索与重排序:改进 RAG 的召回和排序

生产级 RAG 往往不止用一种检索方法。常见做法包括:

  • 关键词或 BM25 检索

擅长精确匹配术语、编号和专有名词。

  • 向量检索

擅长召回语义相近的表达。

  • 元数据过滤

按部门、权限、时间、文档类型等限制范围。

  • 重排序(Reranking)

对初步召回的候选内容再次打分,挑出更适合放进上下文的片段。

  • 查询改写与多路召回

把用户问题转成不同检索表达,扩大候选覆盖面。

这些手段主要改进“找什么、把什么排在前面”。它们很有价值,但仍然不能自动解决定义冲突:一个 CRM 的客户记录和一个合同中的签约主体,是否代表同一个企业实体,不能单靠排序得分决定。

  1. 知识图谱与 GraphRAG:让检索能沿着关系走

知识图谱用实体、属性和关系表示事实。

它适合回答需要结构化关联的问题,例如“这个客户有哪些订单”“某项目涉及哪些产品”。图谱可以来自数据库、业务系统,也可以从文档中抽取。它强调把“对象是什么、对象之间有什么事实关系”显式保存下来。

GraphRAG 则把图结构用于检索增强。以微软的实现为例,它会从文本中抽取实体和关系,构建图并生成社区摘要;查询时可以做面向具体实体的 Local Search,也可以通过社区报告回答全局性问题,同时仍提供基础搜索模式。

图检索扩展了 RAG 的关联能力,但图谱质量决定了它能否给出有用的关联。边的名字也不能自动解释业务含义:“负责”可能表示项目 Owner、技术负责人、财务负责人或法律责任人。若定义含糊,图能提供连接,却未必能提供正确解释。

  1. LLM Wiki:从每次检索重组,到持续整理知识

普通 RAG 通常在每次提问时,从原始资料中重新检索相关片段,再由模型组织答案。LLM Wiki 采用另一种思路:模型读入新资料后,持续更新一组互相链接、可供后续查询的知识页面。

例如,加入一份新报告时,系统可能:

  1. 保留原始报告作为来源;

  2. 写入报告摘要;

  3. 更新相关公司、产品或主题页面;

  4. 检查新材料是否与已有结论冲突;

  5. 更新索引或记录处理日志。

LLM Wiki 的重点是累积整理后的知识,而不只是累积原始文件。Karpathy 对这一模式的描述中,原始来源保持不变,Wiki 页面由模型维护,并通过结构说明文件约定知识库的组织方式和操作流程。

它特别适合个人研究、项目知识整理和规模适中的团队知识积累。不过,持久化的综合页面也会带来新的工程问题:来源能否追溯?旧结论如何更新?冲突由谁裁定?自动写入的错误会不会被后续内容继续引用?因此,LLM Wiki 可以与 RAG 并用:Wiki 提供整理后的知识,RAG 检索原始材料或对应证据。

  1. 本体论与语义层:统一业务概念和关系定义

当知识跨越多个系统和部门,系统可能遇到“同名不同义”和“异名同义”:

  • CRM 的“客户”可能是销售账号;
  • 合同中的“客户”可能是签约法人;
  • 财务系统里的交易对象可能是付款主体;
  • 销售人员口中的客户可能是联系人或商机。

本体论(Ontology)可以用来明确一个领域里的概念、属性、关系及其语义约束。以标准化的 OWL 本体语言为例,它能够定义类、个体、属性及其语义。

在企业系统中,本体或语义层可以约定:

  • 一个订单由哪个角色下单、由谁付款;
  • 哪些关系允许连接哪些对象;
  • 不同来源系统中的字段如何映射到统一概念;
  • 某个事实来自哪个系统、何时有效、由谁确认。

它与知识图谱的关系可以这样理解:

  • 本体或语义模型定义概念和关系应该如何理解。
  • 知识图谱记录具体对象及其事实。

本体论不是知识图谱的升级版,也不是所有 RAG 的必备前置。它适用于业务概念确实跨系统、跨部门,且统一语义能带来足够收益的场景。若只是查公司制度,直接引入一套庞大的本体模型可能得不偿失。

  1. Agent:从回答问题到调用工具和执行流程

Agent 在知识库演进中代表了另一种能力扩展:系统不只提供答案,还可能调用工具、查询业务状态、执行操作。

例如,“帮我处理这笔采购申请”可能涉及:

  1. 识别申请单与申请人;

  2. 查询预算和供应商信息;

  3. 检索采购制度;

  4. 判断审批规则和当前权限;

  5. 调用业务系统推进流程;

  6. 返回执行结果和依据。

这时,知识系统要提供的不只是相关段落,还包括对象身份、状态、关系、数据来源和业务规则。Agent 可以负责理解自然语言、规划步骤和调用工具;知识图谱、语义层、规则引擎和权限系统则提供可查询、可验证的业务上下文。

回答可以容忍一定的不确定性,执行操作则需要更明确的校验。因此,从 RAG 走向 Agent,系统必须更加重视权限、审计、来源和执行前校验。

这条技术路线不是瀑布式升级

前面的路线展示的是知识系统可能增加的能力,不代表企业必须从第一步一路建到最后一步。

实际架构经常是并行组合:

  • 制度问答

全文搜索 + RAG,保留文档权限与引用。

  • 跨文档研究

RAG + LLM Wiki,兼顾来源检索和持续综合。

  • 客户与订单分析

结构化数据 + 知识图谱 + GraphRAG。

  • 跨系统业务 Agent

语义层 + 业务 API + 权限校验 + 审计记录,必要时再结合 RAG。

LLM Wiki 不是 GraphRAG 的前一代或后一代;本体论也不是所有系统在 GraphRAG 后都要添加的模块。它们各自回应不同的工程需求。

怎么判断该引入哪种技术?

可以从问题类型开始,而不是从技术名词开始:

  • 如果用户主要要找明确条款、编号或原文,先做好全文检索和元数据过滤。
  • 如果用户用自然语言提问、资料表达方式不固定,考虑向量检索和 RAG。
  • 如果问题需要从多份资料中关联实体和关系,评估知识图谱或 GraphRAG。
  • 如果知识需要持续整理、跨材料形成可复用页面,尝试 Wiki 式知识编译,并保留来源和更新机制。
  • 如果不同部门和系统对关键业务词定义不一,建立小范围、可治理的语义模型。
  • 如果系统需要执行查询或操作,再增加 Agent、权限控制、业务规则和执行校验。

建议先选一个边界清晰、能衡量效果的场景,再逐步扩展。比如,从“客户—合同—订单”出发,先判断现有检索能否回答实际问题,再决定是否需要图关系、统一概念或 Agent 操作。不要为了技术完整而把每个组件都装上。

结语:知识库从搜索系统,走向可计算的知识基础设施

知识库技术的发展,核心不是一代技术淘汰上一代,而是系统逐渐能处理更复杂的知识问题:

关键词检索找到词,向量检索找到相似表达,RAG让模型利用外部资料,GraphRAG沿关系检索,LLM Wiki持续整理知识,本体论统一业务语义,Agent在规则约束下使用知识完成任务。

对技术人员来说,选型时可以记住三个问题:

  1. 知识以什么形式存在?文档、数据库记录、图结构,还是经过持续整理的页面?

  2. 系统要完成什么任务?搜索、问答、跨实体推理,还是执行流程?

  3. 结果如何验证和治理?来源、权限、版本、冲突和更新机制是否明确?

把这三个问题回答清楚,通常比单纯追逐“最新的知识库架构”更能帮助团队做出合适的技术选择。

大模型的知识又多又杂,到底怎么学?

做这行久了,被问最多的问题就一个:大模型的知识又多又杂,我到底先学啥?翻了一堆资料,看啥都像重点,结果啥都没学进去。今天把我自己一路摸出来的顺序捋一遍,零基础、应届生、转行的都适用。跟着走,至少方向不乱、不瞎忙,学完拿得出手。

第一阶段(10天):初阶应用

这一阶段就一个目标:把大模型真正"玩明白",不是只会聊天那种,而是能调教它、能用代码把大模型和业务接起来。

  • 大模型 AI 能干什么?
  • 大模型是怎样获得「智能」的?
  • 用好 AI 的核心心法
  • 大模型应用业务架构
  • 大模型应用技术架构
  • 代码示例:向 GPT-3.5 灌入新知识
  • 提示工程的意义和核心思想
  • Prompt 典型构成
  • 指令调优方法论
  • 思维链和思维树
  • Prompt 攻击和防范
  • …
第二阶段(30天):高阶应用

这阶段正式进实战,目标很实在:做出两个能拿出手的东西——一个私有知识库,一个 agent 对话机器人。

  • 为什么要做 RAG

  • 搭建一个简单的 ChatPDF

  • 检索的基础概念

  • 什么是向量表示(Embeddings)

  • 向量数据库与向量检索

  • 基于向量检索的 RAG

  • 搭建 RAG 系统的扩展知识

  • 混合检索与 RAG-Fusion 简介

  • 向量模型本地部署

  • …

走完这 30 天,Python 或 JavaScript 背景的基本能独立做一套 RAG 应用,简历上也敢写"大模型应用开发"了。

第三阶段(约20天):动手微调

学到这,你已经开始 “造” 模型了 —— 通过微调,搞出垂直领域的专用小模型。

  • 为什么要做 RAG
  • 什么是模型
  • 什么是模型训练
  • 求解器 & 损失函数简介
  • 小实验2:手写一个简单的神经网络并训练它
  • 什么是训练/预训练/微调/轻量化微调
  • Transformer结构简介
  • 轻量化微调
  • 实验数据集的构建
  • …

恭喜你,如果学到这里,你基本可以找到一份大模型 AI相关的工作,自己也能训练 GPT 了!通过微调,训练自己的垂直大模型,能独立训练开源多模态大模型,掌握更多技术方案。

到此为止,大概2个月的时间。你从 “只会用” 变成 “能造” 的 AI 小子。那么你还想往下探索吗?

想要入局AI大模型赛道、抢占行业红利的朋友,微信扫描下方CSDN官方认证二维码,即可100%免费领取全套学习资料!

第四阶段(20天):商业闭环,部署落地

技术学完,落地才算数。这阶段带你搞明白大模型怎么真正跑起来、用起来。

  • 硬件选型
  • 带你了解全球大模型
  • 使用国产大模型服务
  • 搭建 OpenAI 代理
  • 热身:基于阿里云 PAI 部署 Stable Diffusion
  • 在本地计算机运行大模型
  • 大模型的私有化部署
  • 基于 vLLM 部署大模型
  • 案例:如何优雅地在阿里云私有部署开源大模型
  • 部署一套开源 LLM 项目
  • 内容安全
  • 互联网信息服务算法备案
  • …

想要入坑大模型的朋友,给大家准备了一份2026 年最新 AI 大模型全套学习资料:

1、大模型系统化学习路线

2、大模型学习视频教程

3、大模型学习书籍&电子文档

4、AI大模型最新行业报告

5、大模型项目实战&配套源码

6、2026大模型大厂面试真题

7、为什么要学习大模型?

我国在A大模型领域面临人才短缺,数量与质量均落后于发达国家。2023年,人才缺口已超百万,凸显培养不足。随着AI技术飞速发展,预计到2025年,这一缺口将急剧扩大至400万,严重制约我国AI产业的创新步伐。加强人才培养,优化教育体系,国际合作并进是破解困局、推动AI发展的关键。

8、适合谁学?
  • 传统后端 / Java / 前端开发,想转型 AI 应用
  • 大学生、应届生,想拿更好的 offer
  • 产品经理、运营,想武装职业竞争力
  • 技术负责人,想给团队落地提效

学习是反人性的,但回报是真金白银。技术会更新,赛道会切换,但只要你先动手,机会就永远站在你这边。

9、这些资料真的有用吗?

这份资料由我和鲁为民博士(北京清华大学学士和美国加州理工学院博士)共同整理,现任上海殷泊信息科技CEO,其创立的MoPaaS云平台获Forrester全球’强劲表现者’认证,服务航天科工、国家电网等1000+企业,以第一作者在IEEE Transactions发表论文50+篇,获NASA JPL火星探测系统强化学习专利等35项中美专利。本套AI大模型课程由清华大学-加州理工双料博士、吴文俊人工智能奖得主鲁为民教授领衔研发。

资料内容涵盖了从入门到进阶的各类视频教程和实战项目,无论你是小白还是有些技术基础的技术人员,这份资料都绝对能帮助你提升薪资待遇,转行大模型岗位。

想要入局AI大模型赛道、抢占行业红利的朋友,微信扫描下方CSDN官方认证二维码,即可100%免费领取全套学习资料!

好了,就写到这。路线是死的,人是活的,卡住了随时来问我。觉得有用就点个收藏,别让它进收藏夹吃灰——动起来比啥都强。

RELATED READING

延伸阅读

更多一线实战笔记与深度复盘,助您持续精进