文档教程人工智能大模型【免费下载链接】awesome-generative-ai-guideA one stop repository for generative AI research updates, interview resources, notebooks and much more!项目地址https://gitcode.com/GitHub_Trending/aw/awesome-generative-ai-guide点击查看免费下载本指南以仓库 topics/prompting.md 话题页及其指向的核心课程文档 free_courses/Applied_LLMs_Mastery_2024/week2_prompting.md 为骨架系统讲解如何写出有效的 Prompt、如何结构化上下文以及从零样本到思维链、再到外部工具增强的完整提示技术谱系。读完你将掌握 Prompt 四大基本要素、八条工程最佳实践、三大类高级提示方法CoT/ToT/GoT、CoVe/ReAct、Active Prompting/ART/CoK、提示注入等五类安全风险及防御策略并能对照仓库内的生产级 Agent 源码理解 System Prompt 与守卫机制的真实落地方式。一、Prompting 与 Prompt Engineering核心概念在语言模型的世界里Prompting提示指为模型构造精确指令或查询、以生成期望输出的艺术与科学。它通常是用户呈现给模型的输入——一般为文本——用以唤起特定的回应。一条提示的有效性取决于它能否引导模型理解任务并产出与用户预期一致的输出。Prompt Engineering提示工程是围绕这一目标快速成长起来的领域其要点在于提示工程是释放大语言模型LLM在各种应用中潜力的强效工具在研究中它能显著提升模型在问答、算术推理等任务上的表现提示工程不仅是写提示词更是一组与 LLM 交互、开发 LLM 应用所必需的能力集合——涉及理解与挖掘 LLM 能力、保障安全以及引入领域知识集成等新特性它对于让 AI 行为与人类意图对齐至关重要。专业提示工程师钻研 AI 的复杂细节但这项技能并非专家专属——任何人为 ChatGPT 等模型打磨提示词的人都在从事提示工程。图片来源Zapier 的 Prompt Engineering 博客专栏见原课程文档。二、为什么要精心设计 PromptLLM 的训练机制与五大原因大语言模型通过无监督学习在海量多样化文本数据上训练。训练中模型学习根据前文语境预测句子中的下一个词从而捕获语法、事实、推理能力乃至部分常识。Prompting 正是高效使用这些模型的关键原因如下上下文理解Contextual UnderstandingLLM 基于从多样文本中学到的模式理解上下文并生成回应。提示需要以模型熟悉的方式结构化帮助模型建立相关关联、产出连贯响应。训练数据模式Training Data Patterns训练中模型捕获了文本的细微语言模式。有效提示通过采用模型在训练数据中见过的相似语言与结构使输出与习得模式保持一致。迁移学习Transfer LearningLLM 运用迁移学习将训练获得的一般知识迁移到当前任务。精心构造的提示充当桥梁把预训练知识与用户期望的具体信息或动作连接起来。上下文化提示换取上下文化响应Contextual Prompts for Contextual Responses使用与训练数据相近的语言与语境可让模型在同构上下文中更准确地生成内容。缓解偏见Mitigating Bias模型可能继承训练数据中的偏见深思熟虑的提示可通过补充上下文或调整提问框架来鼓励中立回应使输出符合伦理标准。总结而言LLM 的训练是从海量数据中学习而提示是用户引导模型产出有用、相关且合规响应的手段——这是一个用户与模型协作达成目标的过程。同时一个名为对抗性提示adversarial prompting的领域正在兴起它刻意构造提示以利用模型的弱点或偏见诱使模型生成误导性、不恰当或暴露其局限的响应。保护模型免受有害响应危害是亟待解决且活跃的研究课题。三、Prompt 基础四大要素与一个可复现示例基本提示工程原则围绕针对具体任务定制的要素展开Instruction指令清晰说明希望模型执行的任务或动作设定响应语境并引导行为。Context上下文提供外部信息或额外语境帮助模型更准确地理解任务。在引导模型走向期望结果时上下文往往至关重要。Input Data输入数据包含需要模型处理或回答的输入/问题本身。Output Indicator输出指示定义期望输出的类型或格式引导模型以符合预期的方式组织信息。一个文本分类任务的示例提示如下Classify the text into neutral, negative, or positive Text: I think the food was okay. Sentiment:在该示例中指令Classify the text into neutral, negative, or positive.输入数据I think the food was okay.输出指示Sentiment.注意示例未显式使用上下文但上下文可以并入提示以提供辅助理解任务的额外信息。同时必须强调并非四个要素每次都全部必需格式可随任务变化。关键在于构造能有效传达用户意图、引导模型产出相关且准确响应的提示。四、提示工程最佳实践八条可操作准则针对 OpenAI API 的提示工程业界形成了一套成熟的最佳实践准则原课程文档中归纳为以下八条使用最新模型Use the Latest Model为获得最佳效果优先采用最新、能力最强的模型。结构化指令Structure Instructions将指令放在提示开头并使用###或分隔指令与上下文提升清晰度与有效性。具体且描述性强Be Specific and Descriptive清晰阐明期望的上下文、结果、长度、格式、风格等越具体越好。用示例明确输出格式Specify Output Format with Examples通过示例表达期望的输出格式让模型更容易理解并准确回应。遵循 Zero-shot → Few-shot → Fine-tune 的路径先尝试零样本zero-shot再尝试少样本few-shot提供示例若都不奏效再考虑微调模型。避免空洞描述Avoid Fluffy Descriptions减少模糊、不精确的描述使用清晰指令避免无谓冗长。给出正向引导Provide Positive Guidance与其声明不要做什么不如明确说明应采取的正面动作。代码生成场景使用引导词Leading Words生成代码时用引导词将模型导向特定模式或语言提高代码生成准确率。需要谨记构造有效提示是迭代过程往往需要试验才能找到最适合具体用例的方案。提示模式可能与具体模型及其训练方式架构、数据集等高度相关。五、高级提示技术全景三大分类体系提示技术是快速演进的研究领域。最简单的形式是仅提供指令的零样本提示zero-shot与给出示例的少样本提示few-shot。更精巧的技术可按高层次类别归类——以下分类基于当前技术归纳并非穷尽或最终定义且许多方法会横跨多个类别兼具多种方法的优势。A. 逐步模块化分解Step-by-Step Modular Decomposition这类方法将复杂问题拆解为更小、可管理的步骤引导 LLM 一次解决一步而非一步到位显著增强多步推理能力。1. 思维链提示Chain-of-Thought, CoTCoT 通过中间推理步骤增强复杂推理能力为 LLM 提供一系列推理步骤引导其逐步求解。下图示例要求模型判断一组奇数之和是否为偶数模型被引导逐步推理、在给出最终答案前先展示中间推理过程最终正确求解。图片来源Wei et al. (2022)原课程文档所引论文。1a. 零样本/少样本思维链Zero-shot/Few-shot CoT零样本思维链只需在原始问题后追加一句Lets think step by step即可引导模型进入系统性推理流程少样本思维链则提供若干相似问题的示例来增强推理。两类方法均能显著提升性能——而缺少该提示时模型常常给出错误答案。相关研究见 Kojima et al. (2022) 与 Zhang et al. (2022)。1b. 自动思维链Automatic Chain-of-Thought, Auto-CoTAuto-CoT 旨在自动化生成推理链示例代替手工构造。其核心是用带Lets think step by step提示的 LLM 逐个自动生成推理链过程分两个阶段问题聚类Question Clustering按相似度将问题划分为若干簇示例采样Demonstration Sampling从每簇选取一个代表性问题用零样本思维链加简单启发式生成其推理链。目标是消除手工构造多样化有效示例的成本通过启发式方法鼓励模型生成简洁而准确的推理链。2. 思维树提示Tree-of-Thoughts, ToTToT 扩展了思维链思路允许语言模型以连贯文本单元thoughts思维作为解决问题的中间步骤支持模型做出审慎决策、考虑多条推理路径并自我评估选择。其关键特性包括连贯单元Thoughts以连贯文本单元作为中间推理步骤审慎决策Deliberate Decision-Making有意图地做决策并评估不同推理路径回溯与前瞻Backtracking and Looking Ahead推理过程中可回溯或前瞻灵活应对复杂问题。该方法特别适合需要全面、自适应推理能力的任务。相关研究见 Yao et al. (2023)。3. 思维图提示Graph-of-Thought, GoT人类的思维过程往往呈非线性GoT 将思维建模为图graph而非简单链以刻画非顺序思维的复杂性。节点代表思维单元边代表连接与树不同GoT 使用有向无环图DAG可建模分叉与汇合的路径比传统线性方法更具优势。GoT 采用两阶段框架先生成推理依据rationales再产出最终答案通过图编码器Graph-of-Thoughts encoder学习表示并以门控融合机制gated fusion整合图表示与原始输入。相关研究见 Yao et al. (2023)。B. 综合推理与验证Comprehensive Reasoning and Verification这类方法不满足于给出最终答案而是生成详尽的中间步骤并内建自我验证机制LLM 在生成中间答案或推理轨迹时自主校验其一致性与正确性若内部验证失败则迭代修正使推理符合逻辑连贯性。1. 自动提示工程师Automatic Prompt Engineer, APEAPE 将指令视为可编程元素通过搜索 LLM 提出的候选指令池来优化指令借鉴经典程序合成与人工提示工程思想用评分函数评估候选指令的效果选出得分最高者作为最终提示。该方法提升提示生成效率并利用 LLM 内嵌知识改善输出质量。相关研究见 Zhou et al. (2022)。2. 验证链Chain of Verification, CoVeCoVe 专门应对 LLM 的幻觉hallucination问题引入系统性验证流程模型先起草初始响应可能含错误随后规划并提出独立的验证问题以无偏方式核实初始响应模型回答问题后根据验证结果生成融入修正的最终响应。CoVe 通过无偏验证显著提升最终响应的事实准确性。相关研究见 Dhuliawala et al. (2023)。3. 自一致性Self Consistency自一致性针对思维链提示中朴素贪心解码的局限用少样本思维链采样多条多样化的推理路径再从中识别最一致的答案。该方法提升思维链在算术与常识推理任务上的表现通过路径多样性与一致性优先带来更稳健、准确的响应。相关研究见 Wang et al. (2022)。4. ReAct推理 行动ReAct 框架在 LLM 中交错生成语言推理轨迹与任务特定动作弥补思维链等方法无法接触外部世界、易产生事实幻觉与错误传播的局限。其工作原理动态推理与行动Dynamic Reasoning and Acting交错生成推理轨迹与动作支持复杂任务中的动态推理与外部环境交互Interaction with External Environments动作步骤允许与搜索引擎、知识库等外部来源交互收集信息并修正推理任务性能提升Improved Task Performance推理与行动集成使其在语言与决策任务上超越既有基线增强人类可解释性Enhanced Human Interpretability提升 LLM 响应的可理解性与可信度。相关研究见 Yao et al. (2022)。C. 使用外部工具/知识或聚合External Tools/Knowledge or Aggregation这类方法借助外部来源、工具或聚合信息增强 LLM 性能通过多响应聚合提升鲁棒性让多样化视角与推理路径贡献更可靠、全面的答案。1. 主动提示Active Prompting聚合类主动提示通过动态选择任务特定示例提升 LLM 对多样任务的适应性。思维链方法通常依赖固定的人工标注示例可能不适用于所有任务。主动提示的四步流程动态查询Dynamic Querying对一组训练问题用或不用少量思维链示例查询 LLM生成 k 个候选答案引入不确定性不确定性度量Uncertainty Metric基于 k 个答案的离散程度计算不确定性指标反映模型对最合适响应的不确定程度选择性标注Selective Annotation选择不确定性最高模型答案缺乏共识的问题交给人标注针对 LLM 识别出的不确定点提供新示例自适应学习Adaptive Learning将新标注示例纳入训练数据丰富模型对特定问题的理解与适应性。相关研究见 Diao et al. (2023)。2. 自动多步推理与工具使用Automatic Multi-step Reasoning and Tool-use, ART外部工具类ART 将思维链提示与工具使用集成在冻结 LLMfrozen LLM之上从库中选取任务特定示例让模型自动生成中间推理步骤测试时把外部工具融入推理过程实现对全新任务的零样本泛化。ART 可扩展支持人工更新任务与工具库。相关研究见 Paranjape et al. (2023)。3. 知识链Chain-of-Knowledge, CoKCoK 通过动态集成来自多样化来源的接地信息grounding information生成更富事实性的推理依据降低生成中的幻觉风险。其运作分三阶段推理准备reasoning preparation——形成初始推理依据与答案并识别相关知识域动态知识适配dynamic knowledge adapting——从识别出的知识域增量适配知识、完善依据答案整合answer consolidation——为最终答案提供坚实基础。相关研究见 Li et al. (2024)。六、提示风险与对抗注入、泄露、越狱与偏见提示带来多种风险其中提示劫持prompt hacking是显著威胁它利用 LLM 的漏洞。具体风险包括提示注入Prompt Injection恶意行为者向提示注入有害或误导内容诱导 LLM 生成不当、有偏见或虚假的输出。不可信文本被操纵后可使模型说出攻击者想要的任何内容破坏生成内容的完整性。提示泄露Prompt Leaking攻击者从 LLM 响应中提取敏感信息造成隐私与安全担忧。修改 user_input 以尝试泄露提示本身即一种提示泄露形式可能暴露内部信息。越狱Jailbreaking允许用户绕过安全与审核功能生成争议性、有害或不恰当的响应。提示劫持方法如伪装 pretend可利用模型难以拒绝有害提示的弱点。偏见与错误信息Bias and Misinformation引入偏见或误导信息的提示可能使输出固化或放大既有偏见、传播错误信息强化社会偏见。安全担忧Security Concerns提示劫持构成更广泛的安全威胁使攻击者能破坏 LLM 生成内容的完整性甚至将模型用于恶意目的。基于提示的防御与持续监控等防御措施至关重要。为应对这些风险必须实施稳健的防御策略、定期审计模型行为、警惕提示引入的潜在漏洞并通过持续研究与开发增强 LLM 对提示攻击的韧性、缓解生成内容中的偏见。七、仓库源码印证生产级 System Prompt 与注入防御实战提示工程的原则并非纸上谈兵——本仓库的 interview_prep/system-design 案例代码将上述最佳实践与风险防御落地成了可运行的 Agent 系统可作为直接的实战参照。1. 结构化 System Prompt指令放在开头、明确输出格式、给出正向引导在 enterprise-research-assistant 的 llm.py 中规划器与决策器的系统提示严格遵循最佳实践指令置于开头You plan research over internal company sources.输出格式通过示例与约束明确reply with EXACTLY one line in one of these forms: SEARCH: / ANSWER / ACTION: ... / ESCALATE并给出正向引导Never invent facts or sources、Answer only from the provided context。 customer-support-agent 的 llm.py 的_DECISION_SYSTEM同样用单行约束 正反例约束模型行为——这正是用示例明确输出格式与正向引导替代否定式指令的源码级体现。2. 零样本/少样本路径与可回退设计两个案例的模型层都提供双重实现无 API Key 时走确定性离线策略等价于零样本规则引擎有 Key 时通过init_chat_model接入任意提供商。llm.py中plan()与decide()均try model, fall back to offline——与先零样本、再少样本、必要时微调的分级思路一脉相承也印证了提示模式与具体模型训练方式相关、需要可回退机制的观点。3. ReAct 式推理-行动循环与越狱/注入防御enterprise-research-assistant 的 research_agent.py 的守卫节点guardrail直接对应提示注入风险通过_INJECTION_MARKERS如 ignore previous instructions、disregard all 等扫描检索文本一旦命中注入标记即判定 FAIL 并升级给人类同时校验答案是否 grounded每个引用都必须来自本次检索且用户有权阅读防止引用泄露不可读来源。customer-support-agent 的 support_agent.py 的守卫节点同样检测注入标记与接地性并在退款等高影响请求时路由到人类升级路径——这正是第六节安全风险与防御策略在生产代码中的直接落地。相关案例完整文档见 enterprise-research-assistant/README.md 与 customer-support-agent/README.md。八、常用提示工程工具一览以下是原课程文档收录的知名提示工程工具多为开源或免费、适应性良好注意可能还有其他工具但知名度或付费情况不一PromptAppGPT低代码、基于提示的快速应用开发框架。支持低代码提示开发、GPT 文本与 DALLE 图像生成、在线提示编辑器/编译器/运行器、自动 UI 生成及插件扩展目标是让基于 GPT 的自然语言应用开发门槛更低。PromptBench基于 PyTorch 的 LLM 评估 Python 包。提供易用 API 进行快速模型性能评估内置多种提示工程方法少样本思维链、情感提示、专家提示支持对抗性提示评估与动态评估以缓解测试数据污染。Prompt Engine面向 LLM 的 NPM 工具库用于创建与维护提示。旨在简化 GPT-3、Codex 等模型的提示工程提供构造输入的实用工具将提示工程模式与实践编码化。Prompts AI高级 GPT-3 实验场帮助用户发现 GPT-3 能力并辅助开发者针对特定用例做提示工程面向创意写作、分类、聊天机器人等场景优化。OpenPrompt基于 PyTorch 的提示学习库用于将 LLM 适配到下游 NLP 任务。提供标准、灵活、可扩展的提示学习管线框架支持从 HuggingFace Transformers 加载预训练语言模型。PromptifyLLM 提示测试套件几行代码完成 NLP 任务处理越界预测输出以 Python 对象形式返回便于解析支持自定义示例与样本可对 HuggingFace Hub 上的模型运行推理并优化提示以降低 OpenAI token 成本。九、在仓库中的学习路径本主题在仓库中按学习旅程与难度分级组织见 README 的旅程与分级表格Build 101构建入门本指南核心文档 Applied LLMs Mastery 2024 第 2 周提示与提示工程LevelUp Labs 原创、2024 年版、已归档覆盖基础原理、提示类型与高级提示方法Apply LLMs Mastery 2024 仓库主页 提供完整 11 周课程目录。Build 201构建进阶外部精选课程包括 DeepLearning.AI 的ChatGPT Prompt Engineering for Developers、Prompt Engineering with Llama 2与Building Systems with the ChatGPT API视频课程完整清单见 courses.md 的 Prompting and Context 一节。Use 旅程面向使用 AI的 journeys/use.md 将提示基础纳入 LLM 工具使用能力Understand 旅程见 journeys/understand.md。关联主题提示与上下文是 LLM 基础模型如何工作、检索与 RAG上下文接地、AI Agents推理-行动循环的共同底层能力。十、延伸阅读原课程文档推荐的资源与论文原课程文档列出的可选阅读与论文此处仅保留主题与作者信息便于在文献库中检索入门读物与课程Prompting Guide提示指南、aman.ai 的提示工程入门、DeepLearning.AI 的 ChatGPT 提示工程开发者课程、Learn Prompting 课程体系。进阶论文按主题检索CoT 综述Wei et al., 2022、零样本思维链Kojima et al., 2022、Auto-CoTZhang et al., 2022、ToTYao et al., 2023、GoTYao et al., 2023、APEZhou et al., 2022、CoVeDhuliawala et al., 2023、自一致性Wang et al., 2022、ReActYao et al., 2022、Active PromptingDiao et al., 2023、ARTParanjape et al., 2023、CoKLi et al., 2024——这些论文正是第五、六节各方法的原始出处可作为深入研究的起点。赞分享文档教程人工智能大模型【免费下载链接】awesome-generative-ai-guideA one stop repository for generative AI research updates, interview resources, notebooks and much more!项目地址https://gitcode.com/GitHub_Trending/aw/awesome-generative-ai-guide点击查看免费下载相关推荐awesome-generative-ai-guide提示工程指南从基础Prompting到高级技巧全解析awesome generative ai guide提示工程指南从基础Prompting到高级技巧全解析 引言为什么提示工程如此重要 你是否曾经遇到过这文档教程人工智能大模型UI-TARS桌面版终极指南如何用AI自然语言控制你的电脑和浏览器UI TARS桌面版终极指南如何用AI自然语言控制你的电脑和浏览器 UI TARS desktop是一个基于视觉语言模型的开源多模态AI助手让你通过自然语人工智能大模型AI Agent桌面应用GUI 自动化浏览器控制MCP 服务MCP ClientsPrompt-Engineering-Guide 对抗性提示实战指南提示注入、提示泄露、越狱攻击与防御策略Prompt Engineering Guide 对抗性提示实战指南提示注入、提示泄露、越狱攻击与防御策略 对抗性提示Adversarial Prompti文档教程提示工程大模型人工智能RAGAI Agent上一篇如何免费下载Steam创意工坊模组WorkshopDL跨平台模组获取终极指南下一篇抖音批量下载终极指南5步搞定无水印视频批量保存创作声明：本文部分内容由AI辅助生成（AIGC），仅供参考