0 前言它融合了后端即服务Backend as Service和LLMOps的理念使开发者可以快速搭建生产级的生成式 AI 应用。即使你是非技术人员也能参与到 AI 应用的定义和数据运营过程中。由于 Dify 内置了构建 LLM 应用所需的关键技术栈包括对数百个模型的支持、直观的 Prompt 编排界面、高质量的 RAG 引擎、稳健的 Agent 框架、灵活的流程编排并同时提供了一套易用的界面和 API。这为开发者节省了许多重复造轮子的时间使其可以专注在创新和业务需求上。一个开源的 LLM 应用开发平台。提供从 Agent 构建到 AI workflow 编排、RAG 检索、模型管理等能力轻松构建和运营生成式 AI 原生应用。为开发者提供一套简单易用的低代码平台其AI workflow编排能力易帮助开发者构建复杂工作流支持开发者通过界面执行/测试工作流还可单点直接工作流中的节点并可视化查看每步的输入输出。还提供了现成的机制帮助开发者将一个工作流发布成一个 API。成熟度已形成较成熟社区和生态集成绝大部分LLM厂商并构建了一些内置工具并基于这些基础设施发布了不少的工作流供用户参考。1 为啥用 DifyLangChain等开发库想象为有锤、钉的工具箱。Dify则提供更接近生产需要的完整方案Dify 好比一套脚手架并经过精良工程设计和软件测试。重要的是Dify开源由一个专业全职团队和社区共同打造。可基于任何模型自部署类似Assistants API 和 GPTs 的能力在灵活和安全的基础上同时保持对数据的完全控制。社区用户对 Dify 的产品评价可以归结为简单、克制、迭代迅速。 ——路宇Dify.AI CEODify 是为你而做的Do It For You。2 Dify能做啥Dify 一词源自 Define Modify意指定义并且持续的改进你的 AI 应用它是为你而做的Do it for you。2.1 创业快速的将你的 AI 应用创意变成现实无论成功和失败都需要加速。在真实世界已经有几十个团队通过 Dify 构建 MVP最小可用产品获得投资或通过 POC概念验证赢得了客户的订单。2.2 将 LLM 集成至已有业务通过引入 LLM 增强现有应用的能力接入 Dify 的 RESTful API 从而实现 Prompt 与业务代码的解耦在 Dify 的管理界面是跟踪数据、成本和用量持续改进应用效果。2.3 作为企业级 LLM 基础设施一些银行大型互联网公司正将 Dify 部署企业内 LLM 网关加速 GenAI 技术在企业推广并实现中心化监管。2.4 探索 LLM 能力边界技术爱好者通过 Dify 轻松实践 Prompt 工程和 Agent 技术。GPTs 推出以前就已经有超过 60,000 开发者在 Dify 上创建了自己的第一个应用。3 特性与技术规格Dify采用透明化产品特性和技术规格政策确保全面了解产品基础再决策有利于技术选型也促进社区成员对产品深入理解和贡献3.1 项目基础信息特性描述项目设立2023 年 3 月开源协议基于 Apache License 2.0 有限商业许可官方研发团队超过 15 名全职员工社区贡献者超过 290 人 截止 2024 Q2后端技术Python/Flask/PostgreSQL前端技术Next.js代码行数超过 13 万行发版周期平均每周一次3.2 技术特性特性描述LLM推理引擎Dify Runtime (自 v0.4 起移除LangChain)商业模型支持10 家包括 OpenAI 与 Anthropic。新的主流模型通常在 48 小时内完成接入。MaaS 供应商支持7 家Hugging FaceReplicateAWS BedrockNVIDIAGroqCloudtogether.aiOpenRouter本地模型推理 Runtime 支持6 家Xoribits推荐OpenLLMLocalAIChatGLMOllamaNVIDIA TISOpenAI 接口标准模型接入支持∞ 家多模态技术ASR 模型GPT-4o 规格的富文本模型预置应用类型对话型应用文本生成应用Agent工作流Prompt 即服务编排广受好评的可视化的 Prompt 编排界面在同一个界面中修改 Prompt 并预览效果。编排模式简易模式编排Assistant 模式编排Flow 模式编排。Prompt 变量类型字符串单选枚举外部 API文件Q3 即将推出Agentic Workflow 特性行业领先的可视化流程编排界面所见即所得的节点调试可插拔的 DSL原生的代码运行时构建更复杂、可靠、稳定的 LLM 应用。支持节点LLM知识库检索问题分类条件分支代码执行模板转换HTTP 请求工具RAG 特性首创的可视化的知识库管理界面支持分段预览和召回效果测试。索引方式关键词文本向量由 LLM 辅助的问题-分段模式。检索方式关键词文本相似度匹配混合检索N 选 1 模式即将下线多路召回。召回优化技术ReRank模型ETL 技术支持对 TXT、Markdown、PDF、HTML、DOC、CSV 等格式文件进行自动清洗内置的 Unstructured 服务开启后可获得最大化支持。支持同步来自 Notion 的文档为知识库。支持同步网页为知识库。向量数据库支持Qdrant推荐WeaviateZilliz/MilvusPgvectorPgvector-rsChromaOpenSearchTiDBTencent VectorOracleRelytAnalyticdb, CouchbaseAgent技术ReActFunction Call。工具支持 可调用OpenAI Plugin标准的工具可直接加载OpenAPI Specification的API作为工具。内置工具40 款日志支持可基于日志进行标注标注回复基于经人类标注的 QA 对可用于相似度对比回复可导出为供模型微调环节使用的数据格式内容审查机制OpenAI Moderation 或外部 API团队协同工作空间与多成员管理支持API 规格RESTful已覆盖大部分功能部署方式DockerHelm4 模型供应商列表Dify 为以下模型提供商提供原生支持ProviderLLMText EmbeddingRerankSpeech to textTTSOpenAI✔️(️)()✔️✔️✔️Anthropic✔️(️)Azure OpenAI✔️(️)()✔️✔️✔️Gemini✔️Google Cloud✔️()✔️Nvidia API Catalog✔️✔️✔️Nvidia NIM✔️Nvidia Triton Inference Server✔️AWS Bedrock✔️✔️OpenRouter✔️Cohere✔️✔️✔️together.ai✔️Ollama✔️✔️Mistral AI✔️groqcloud✔️Replicate✔️✔️Hugging Face✔️✔️Xorbits inference✔️✔️✔️✔️✔️智谱✔️(️)()✔️百川✔️✔️讯飞星火✔️Minimax✔️(️)✔️通义千问✔️✔️✔️文心一言✔️✔️月之暗面✔️(️)Tencent Cloud火山引擎✔️✔️360 智脑✔️Azure AI Studio✔️✔️deepseek✔️(️)SILICONFLOW✔️✔️Jina AI✔️✔️ChatGLM✔️Xinference✔️(️)()✔️✔️OpenLLM✔️✔️LocalAI✔️✔️✔️✔️OpenAI API-Compatible✔️✔️✔️PerfXCloud✔️✔️Lepton AI✔️novita.ai✔️Amazon Sagemaker✔️✔️✔️Text Embedding Inference✔️✔️️支持 Function Calling视觉能力5 云服务Dify 为所有人提供了云服务无需自己部署即可使用 Dify 的完整功能。使用要有一个 GitHub 或 Google 账号登录 Dify 云服务创建一个或加入已有的 Workspace配置你的模型供应商或使用我们提供的托管模型供应商创建应用订阅计划云服务设计有多个订阅计划Sandbox免费版专业版团队版企业版此处各版本定价请参考。4 下一步行动阅读快速开始速览 Dify 的应用构建流程了解如何自部署 Dify 到服务器上并接入开源模型了解 Dify 的特性规格和Roadmap