ARTICLE · INTELLIGENCE

战地情报 · 详情页

来自尧图项目组的一线实战观察与深度解析

DeepSeek大语言模型实战:提示词、思维链、知识库与微调选择

DeepSeek大语言模型实战:提示词、思维链、知识库与微调选择

简介:这份《DeepSeek应用手册》面向希望系统掌握DeepSeek使用与相关模型知识的开发者、研究者和进阶用户,内容兼顾应用技巧与模型原理,适合需要提升提问效率、搭建私有知识库的读者。手册围绕R1与V3多模型协同、文件上传与联网搜索、续写/简化/举例/步骤/检查等常用指令展开,并给出分步指导、内容简化和万能提问模板等场景化用法;同时介绍通过API、本地ollama与远程方式构建私有知识库的路径。后半部分梳理模型参数量及max_batch_size等配置项,解释R1与ChatGPT o1/o3在思维链展示上的差异,并说明Qwen与Llama的架构及中文任务特点、蒸馏技术的知识迁移流程。资料为1个docx文档,压缩包约207KB,目录按基础篇的使用技巧、私有数据集和知识原理展开,适合按主题查阅。已有287人学习,可用于快速建立DeepSeek应用与模型认知框架。

1. 从一句「帮我写点东西」说起:DeepSeek 到底是什么

很多人第一次打开 DeepSeek 的对话框,输入一句「帮我写个方案」,得到一大段四平八稳、却哪句都用不上的文字,于是心里给它打个折:不过如此。问题往往不在模型,而在于我们把它当成了许愿池——扔一枚硬币,等一句现成答案。通俗地说,DeepSeek 是一类大语言模型,它的本事是「接着上文往下写」:你给的开头越具体,它接得越准;你给的开头越含糊,它只能往最大众的方向凑。搞懂这一点,后面所有技巧——提问模板、斜杠指令、知识库、微调——都只是同一件事的不同做法:把「上文」喂得更像你真正想要的东西。这也是为什么值得花十分钟把概念理清楚,而不是继续在对话框里碰运气。

2. 为什么它像在「想一下」:思维链到底在做什么

同一个问题,问不同的版本,观感可能完全不同:一个几乎是秒回,另一个先刷出一段「让我想想,先看条件,再看约束……」的推理过程,最后才给结论。这段过程不是装饰,它背后是一套叫思维链的技术。理解它,你就能判断什么任务该交给「慢的那位」,什么任务交给「快的那位」,也就不会在写文案时苦等一段冗长推理,或者在算账时嫌回答太草率。

2.1 一次给答案和分步给答案,差在哪

让人心算 37 乘 48,一口报数十有八九要错;给他一张纸、一支笔,分步算,正确率立刻上来。模型的处境类似:一次性输出结果,等于把全部中间推导压在一个「时间点」上完成,任何一步走偏都没有回头修正的机会;而把问题拆成若干小步骤顺序处理,每一步的输出会成为下一步的输入,误差被切成小块,还能在下游被检验出来。

思维链(CoT)做的正是这件事:不一次出结果,而是把复杂问题分解成多个小步骤,让模型逐步处理。它的价值不只在准确率,还在于「可检查」——中间步骤相当于一张草稿纸,把本来藏在黑匣子里的推理摊开给你看。你能看到它假设了什么、漏了什么、在哪一步开始跑偏。写材料时这种透明度尤其有用:结论错了,你能顺着草稿找到是哪条前提错了,而不是对着一个莫名其妙的答案干瞪眼。

不同的模型在展示上也不同:有的只给一段压缩过的推理摘要,有的会把较完整的思考轨迹铺出来。差别不在「有没有思考」,而在「给不给你看」。看得多,便于排查;看得少,界面清爽。选哪个,取决于你是在做严谨判断,还是只想快点拿到一段能用的文字。

2.2 慢思考与快生成:两个版本怎么配合

把推理型和快速型两个版本摆在一起,很多人第一反应是「哪个更强」。更实用的问法是「哪个先上」。一个比较稳的分工是这样的:先让偏推理的版本做框架分析——把问题拆成几个判断维度、列出风险点、给出取舍标准;再让偏生成的版本按这个框架快速铺内容,因为它写得快、句子顺;最后回到推理版本做一轮校验,看前后是否自相矛盾、有没有漏掉的约束。

打个比方,这像盖房子:一位工程师画图纸、定结构,一支施工队按图砌墙,最后工程师再验收一遍。让施工队自己设计,房子可能歪;让工程师一块砖一块砖地砌,工期又太长。多人协作、把任务拆给不同角色,效率提升往往大于换一个「更强的模型」。

落到具体写法上,框架阶段可以这样问:这个问题涉及哪几个方面,每一方面该怎么判断,容易踩的坑是什么,请按要点列出。铺内容阶段把上一步的要点原样贴回去,要求逐条展开,篇幅和语气说清楚。校验阶段只问一件事:上面的内容里,哪些说法缺乏依据,哪些与前文冲突。三步走完,通常比一次性问「帮我写一篇」得到的稿子可用得多。

提示:框架阶段不要急着要成品。让它先输出判断标准,你确认无误再往下走,返工成本会低很多。

2.3 参数里的 B,以及那串看不懂的配置项

模型名字后面常跟一个「XX B」,这里的 B 指十亿,XX B 就是 XX 乘以十亿个参数。1.5B 是 15 亿参数,7B 是 70 亿,32B 是 320 亿。参数可以粗略理解为模型的「脑容量」:容量大,能装下的语言规律和知识更多,但也不是越大越聪明——训练数据质量、训练方法、任务匹配度都会影响实际表现。同一个家族里,小尺寸版本往往是从大尺寸版本「学」出来的,这点在第 2.4 节说。

除了参数量,本地客户端里还会露出一批配置项,名字看着吓人,其实各自管一件事:

配置项管什么调大的代价
max_seq_len一次能处理的最长输入长度显存吃紧,长文档才需要
max_batch_size一次并行处理多少条样本显存线性上涨
hidden_size隐藏层维度,模型「宽度」由模型决定,一般不改
n_layersTransformer 层数,模型「深度」同上
n_heads注意力头数同上
dropout训练时随机丢弃的比例推理阶段通常设为 0
dtype数值精度,如 float16精度越低越省显存,也越容易失真

一份简化的配置长这样:

# 本地客户端里常见的一组参数(示意,具体取值随模型而定) config = { "max_seq_len": 8192, # 上下文窗口:能一次读进多长的文档 "max_batch_size": 4, # 批大小:一次并行处理几条请求 "dtype": "float16", # 数值精度:越低越省显存,精度损失也越大 "dropout": 0.0, # 推理阶段关闭随机丢弃,保证输出稳定 }

这几项里,普通人真正会动的只有前两个。上下文窗口决定了「能不能把整份合同一次贴进去」,批大小决定了「同时来几个请求会不会卡」。剩下的多半是模型出厂设定,改了不但没收益,还可能让输出变得前言不搭后语。至于分布式训练里的节点数量、当前节点编号,以及矩阵乘法的实现方式这类参数,属于训练和部署工程的范围,日常对话完全用不上,看到可以直接跳过。

2.4 蒸馏:大模型的本事怎么塞进小模型

小尺寸版本为什么也能打?答案之一是蒸馏。这个词借自化学:把混合物加热,提取出更纯、更浓的部分。放到深度学习里,就是把一个大模型的知识和特性,迁移到一个更小、更高效的模型上。

具体三步。第一步训练教师模型:一个又大又复杂的模型,用大量数据和复杂算法喂出来,准确率高、能力强。第二步设计学生模型:结构更简单、层数更少、体积更小,目标是在未来应用里跑得动。第三步做知识迁移,这是关键,也是最容易被误解的地方。

迁移时,教师给学生的不是「标准答案」,而是「带把握程度的答案分布」。通俗地说,老师傅带徒弟,不是只丢一句「选 B」,而是讲清楚「B 有七成把握,C 有两成,因为 C 在这条件下会出问题」。前者叫硬标签,后者叫软目标。软目标里藏着类别之间的相似性信息,学生学到的东西比单纯的正确答案多得多。训练时,学生既要对齐真实标签(分类损失),又要对齐教师的输出分布(蒸馏损失),两个损失一起优化,还要对教师的输出做温度缩放——温度高一点,概率分布更平滑,隐含信息更容易被学生捕捉;温度低一点,分布更集中,只保留最主要的判断。

打个比方,这更接近「把一锅高汤熬浓」:水量少了,鲜味还在。代价当然也有,浓缩总会丢掉一部分层次,所以小模型在极难的任务上仍可能不如教师。但对大多数日常场景——写邮件、改文案、整理表格、做摘要——这点损失换来的是能在普通机器上跑起来,很划算。

3. 提问方式决定答案质量:背景、需求、约束的三段式

同样一个模型,有人用起来像随身顾问,有人用起来像随机生成器。差距往往不在模型,而在输入的那几十个字。这一章讲的都是「怎么把话问对」,它不涉及任何代码,却是整套方法里回报率最高的部分。

3.1 为什么模糊提问必然翻车

「怎么提高英语水平」这句话,缺了三样东西:谁在提高、提高到什么程度、有什么限制。模型不知道回答对象是初一学生还是备考研究生,不知道是要应试还是练口语,也不知道每周能投入几小时。信息缺失时,它只能输出一段覆盖面最广、针对性最弱的话——听起来都对,用起来都不对。

这不是模型偷懒,而是概率机器的必然结果:在信息不足的情况下,最保险的续写就是「平均答案」。你给的上下文越具体,它偏离你真实需求的概率就越低。所以提问的第一步不是想「我要什么」,而是想「它需要知道什么才能给出我要的东西」。

3.2 背景、需求、约束:一个能复用的模板

一个通用结构是:背景加上需求,约束条件可选。背景交代「我是谁、现在什么情况」,需求说「我要达成什么」,约束说「哪些路不能走」。

一个现成的例子:家里小孩读初一(背景),怎样提高他的英语水平(需求),不需要考虑口语问题(约束)。少了前一句,得到的是泛泛而谈的学习方法;加上后一句,回答会自动收敛到词汇、语法、阅读和应试技巧上,直接可用。

这个模板可以套在很多场景。写工作汇报时,背景是「团队这季度做了什么、汇报对象是谁」,需求是「十分钟讲完、要能说服对方批准预算」,约束是「不要出现技术细节」。做资料整理时,背景是「这是一份两百页的行业报告」,需求是「提炼出五条可执行结论」,约束是「每条不超过三句话」。约束条件写得越具体,模型越不敢乱铺陈。

提示:约束条件里写「不要什么」往往比写「要什么」更有效,因为排除项能直接砍掉一大片它本来会走的岔路。

3.3 五个斜杠指令:把「要求」变成「按钮」

对话里还有一组以斜杠开头的短指令,作用是把你反复要说的那句话变成一个词。常用的大致有这么几个:

/续写,用在回答被中断的时候,让它接着上文往下写,不必重新交代背景。长文写到一半断掉,或者你手滑关掉页面,这个指令能省下重述的工夫。

/简化,把复杂内容换成大白话。技术文档、法规条文、学术摘要,先贴进去再敲这个指令,得到的版本适合转给别人看。一个典型用法是:先让它解释「量子计算」,看完之后再敲 /简化,对照两版差异,你会更清楚哪些是真正的核心,哪些只是术语包装。

/举例,要求给出实际案例,写代码时尤其有用。抽象说明谁都会写,具体例子才暴露真问题——边界条件怎么处理、参数为什么这么设、出错时是什么现象。

/步骤,让它把操作流程拆成分步指导。比如输入「/步骤 如何用手机拍摄美食照片」,输出的就是一份按顺序执行的清单,而不是一段散文。

/检查,让它回头挑自己或你给的材料里的错。错别字、前后矛盾、数据对不上、逻辑跳跃,都能被翻出来。这个指令的价值在于:写完之后别急着用,先检查一遍,往往能救回几个尴尬。

这几个指令可以叠加使用,先 /举例 再 /简化,先 /步骤 再 /检查。它们本质上都是对输出格式的约束,把「你希望它怎么写」显式化。

3.4 联网搜索:什么时候必须开,什么时候别开

模型的知识有截止时间,问它「上周发生了什么」,不联网就只能编。所以有三类问题建议开启联网:查最新消息、需要实时数据、要验证信息准确性。比如问某个政策的最新版本、某款产品的当前价格、某条说法的真假。

但开了联网不等于答得准。三条使用技巧值得记住:一是确认联网功能真的打开了,有些界面是默认关闭的;二是在提问里明确指出需要最新信息,否则它可能仍然按旧知识回答;三是要求给出信息来源,看到出处你才能判断这条信息可不可信。

反过来,有些场景不该开。写文案、改语法、做逻辑梳理、解释概念,这些靠模型自身能力就够,联网反而会引入一堆无关的网页片段,把答案搅浑。判断标准很简单:这个问题的答案会不会随时间变化。会,就开;不会,就关。

4. 让它读懂你自己的资料:私有知识库的三条路径

通用模型读过很多公开文本,但它没读过你公司的制度汇编、你自己的实验记录、你手上那份客户名单。于是就有了「怎么让它读懂我的资料」这个问题。回答分三条路,各有各的适用边界。

4.1 它为什么读不懂你的 Excel

模型的能力来自训练数据,训练数据里没有你的文件。你在对话框里贴一段,它只能在这段文字的范围内回答,贴不进去的部分它一概不知。更要命的是上下文长度有限:一份几百页的表格,硬塞进去既塞不下,也会让它在中间部分「看走眼」。

私有知识库解决的正是这件事:把你自己的文件提前处理成可检索的片段,提问时先找出相关片段,再连同问题一起交给模型。模型看到的不是整座图书馆,而是被精准抽出来的那几页。这也是为什么知识库的效果,很大程度取决于文件被切分和检索的质量,而不只是模型本身。

4.2 三种做法:接口建库、本地跑模型、连远程服务

第一种是接口方式。安装一个支持知识库的桌面客户端,导入服务方提供的接口密钥,再把自己手里的文档传进去建成知识库,用的时候勾选上。这条路最省硬件,普通笔记本就能跑,缺点是数据要经过网络。

第二种是本地方式。先在机器上装一个命令行运行工具,按「版本:参数量」的格式拉取指定版本的模型,比如拉一个 7B 或 32B 的蒸馏版本;再装一个本地对话客户端,在设置里把模型指向本机。全程不出网,缺点是吃硬件,参数量越大越吃显存。

第三种是远程方式。模型跑在一台性能更好的机器上,本地只装客户端,改一下服务器的环境变量,把地址配成本地客户端的连接目标。这样既能用上大模型,又不必在自己电脑上扛显存。

路径硬件要求数据去向适合谁
接口建库低,普通笔记本需要联网传输想快速试水、资料敏感度不高
本地运行高,看参数量全在本机资料不能外传、断网也要用
远程连接本地低、服务端高走内网或自建服务团队共用一台机器算力

三条路不是互斥的。常见的做法是:日常问答走接口,敏感资料走本地,团队协作走远程。选之前先问自己两个问题——资料能不能出这台机器,手上有没有能扛住显存的显卡。

4.3 文件格式的取舍:为什么建议少用 PDF

支持的文件类型不少:文本文档、PDF、Excel 表格、图片都能传。但同样是「能传」,效果差别很大。

纯文本和结构清晰的文档最好处理,字就是字,切分出来干净。Excel 的价值在于结构——行列关系本身就是信息,处理得当的话,模型能读懂「这一列是日期、那一列是金额」。图片则依赖识别能力,清晰度、排版、字体都会影响结果,手写体尤其容易翻车。

PDF 排在最后,原因是它的「文字」经常不是文字。扫描件本质是图片,得先做识别;多栏排版会让文字顺序错乱,读出来像打乱的句子;表格跨页、页眉页脚混进正文,都会污染检索结果。所以一个实用的建议是:能转成纯文本或表格的,先转一道再用。这一步多花的五分钟,往往能省下后面反复纠错的半小时。

4.4 显存不够怎么办:把一部分计算交给 CPU

想在单张消费级显卡上跑一个大模型,最直接的障碍是显存。有一类优化思路很值得了解:模型的某些层(比如前馈网络部分)参数量巨大但计算模式规整,可以把这部分放到内存里由 CPU 处理,显卡只负责它擅长的那部分。这样一来,24G 显存的单卡配上足够大的内存,也能跑起参数量远超显存容量的模型。

代价是速度。CPU 处理这些层的吞吐远低于显卡,所以整体生成速度会明显下降,属于「能跑起来」而不是「跑得飞快」。它有明确的适用场景:验证效果、做小规模试用、处理不追求响应速度的批处理任务。如果追求流畅对话,还是老实选一个参数量匹配显存的版本。

5. 五个最容易搞混的地方:蒸馏、微调、量化、知识库到底差在哪

这几个词经常被混着用,后果是选错方案:明明建个知识库就能解决的事,非要去做微调;明明换个量化版本就能跑起来,非要去加显卡。下面五条是初学者最容易踩的坑。

5.1 误区一:参数量大就等于更强

易混点:把「XX B」当成性能评分,觉得数字越大越厉害。为什么混:参数确实和容量相关,厂商宣传也爱强调大数字。怎么区分:参数量只是容量,实际表现还取决于训练数据质量、训练方法和任务匹配度。一个在中文语料上精细调过的小模型,做中文摘要可能胜过一个泛化的大模型;而一个擅长推理的版本,写营销文案未必比轻量版本更讨喜。选型时先定任务,再看排行榜上的同类任务表现,别只看参数量。

5.2 误区二:蒸馏就是微调

易混点:两个词都涉及「小模型变强」,听起来像同一件事。为什么混:都发生在训练阶段,都要用到另一个模型。怎么区分:蒸馏是「大教小」,教师模型的输出分布作为监督信号,学生学的是老师的判断方式,产出是一个新的小模型;微调是「通用变专用」,在已有模型上继续训练,让它适应某个领域或任务,产出是在原模型基础上的适配。前者解决「跑不动」,后者解决「不对口」。一个常见的组合是:先拿蒸馏出来的小模型,再做一次轻量微调。

5.3 误区三:微调能替代知识库

易混点:想让模型懂公司制度,第一反应是去微调。为什么混:两者都能让模型「知道得更多」。怎么区分:微调擅长学「风格和模式」——语气、格式、判断习惯;知识库擅长提供「事实和条款」——具体数字、条文、名单。制度每季度更新,微调一次要重训一次,成本高还容易忘;知识库改一个文件就生效。判断标准是内容变不变:变的是知识,走知识库;不变的是习惯,走微调。

5.4 误区四:量化、蒸馏、剪枝是一回事

易混点:三种技术都能让模型变小,名字听着都像「压缩」。为什么混:目标相同,手段不同。怎么区分:蒸馏是重新训练一个小模型;量化是把参数的数值精度降下来,比如从高精度浮点换成低精度,模型结构不变、体积变小;剪枝是砍掉不重要的连接。量化最省事,通常不需要重训;蒸馏效果上限更高,但成本也更高。日常遇到「显存差一点」,先试量化版本;遇到「根本跑不动」,才考虑换更小的蒸馏版本。

5.5 误区五:有思考过程就等于联网了

易混点:看到模型输出一大段推理,就以为它查了资料。为什么混:那段推理看起来像是在「调查研究」。怎么区分:思维链是模型在内部拆解问题,用的仍然是训练时学到的知识,知识截止日期之后的事它不知道;联网搜索是外挂了一个检索步骤,能把当下的信息拉进来。判断方法很简单:问一件刚发生的事,只开推理不开联网,它要么答不知道,要么一本正经地编。需要时效性,开联网;需要严密推导,用推理;两样都要,就都开。

6. 什么时候该用它、什么时候别用

这套东西的边界,其实可以用一句话概括:它擅长处理语言和结构,不擅长提供事实和担责任。

值得用上的场景很具体。写第一稿——不管是周报、方案、邮件还是文案,让它按你的模板铺一遍,你在上面改,比对着空白页发呆快得多。整理和转换——把长文档压成要点,把表格里的一列说明白,把技术文档翻成人话给同事看,这些活儿耗时但不需要创造力,交给它最划算。做辅助判断——让它列出某个决策的利弊、可能的风险点、你没想到的角度,把它当陪练而不是裁判。写代码时的补全、解释报错、给示例,也是同一类工作:它给方向,你验证。还有一类是「反复问同一批问题」,比如客服话术、常见答疑,配一份知识库之后,回答会稳定很多。

不该用或者要格外小心的场景,同样明确。需要精确数字和最新事实的问题,不联网就别问,联网了也要看来源。涉及专业判断的领域——医疗、法律、财务的最终结论,它可以帮你理清思路,但不能替你签字。需要绝对保密的内容,先想清楚数据流向:走接口意味着内容要离开这台机器,介意就换本地。还有一类容易被忽略:你自己都还没想清楚要什么的时候。这时候问它,得到的只会是一篇漂亮的模糊文字,反而让你误以为已经想明白了。

场景建议原因
写初稿、改语气、压缩长文放心用语言任务,错了也容易发现
查最新政策、价格、事件开联网并要来源知识有截止时间
制度问答、产品手册查询配知识库内容是事实,且会更新
固定风格的批量产出考虑微调学的是模式,不是事实
医疗法律财务的最终结论只做参考责任在人,不在模型
敏感资料处理优先本地数据不出机器

我自己的习惯是:凡是要把内容发给别人的东西,先让它 /检查 一遍再发。有一次一份对外说明里,前后两段的数字对不上,是它先挑出来的——那次之后我才算真正理解「模型的价值不在于替你写,而在于替你多看一眼」。从那以后我每次准备提交材料,都强制走一遍「先让它检查、再自己读一遍」的流程。

这套手册里还整理了参数说明、文件格式取舍、三条私有数据路径的细节,以及微调和低成本部署的具体做法,需要的话可以取一份放在手边,遇到具体问题时翻一翻,比重新摸索快。希望帮到你。

本文还有配套的精品资源,点击获取

RELATED READING

延伸阅读

更多一线实战笔记与深度复盘,助您持续精进