第34章 Dify

Dify 是一个开源的大模型应用开发平台，您可以基于阿里云百炼提供的模型 API 来构建大模型应用。 ​前提条件 您需要获取与配置 API Key，并确保已开通阿里云百炼的模型服务。 Dify 属于工作流/自动化平台，不支持使用 Token Plan 个人版、Token Plan 团队版和 Coding Plan 接入。这些套餐仅限在 AI 编程工具和 OpenClaw 类型 Agent 中使用，详见不支持的工具类型。在 Dify 中请使用按量付费的 API Key。将套餐 API Key 用于允许范围之外的调用将被视为违规或滥用，可能会导致订阅被暂停或 API Key 被封禁。 ​1. 配置模型 ​1.1. 安装模型供应商 前往Dify 市场，在模型下找到通义千问并安装最新版插件。 千问插件非阿里云提供，由 Dify 官方维护。若安装最新版插件报错，可尝试安装较早版本。 使用阿里云百炼提供的 DeepSeek 模型也请使用通义千问插件。 ​1.2. 配置 API Key 单击页面右上角的头像-设置，在模型供应商处找到通义千问卡片，点击设置。 若使用华北2（北京）地域的模型，在卡片的 API-KEY 设置界面填入该地域的 API Key，并设置使用国际端点为否。 若使用新加坡地域模型，在卡片的 API-KEY 设置界面填入该地域的API Key，并设置使用国际端点为是。 若 API Key 配置过程报错：Invalid API-key provided，请参见 1.1. 安装模型供应商 中关于插件版本的说明。 ​1.3. 选择模型 单击通义千问卡片中的显示模型，打开您需要使用的模型开关。 若插件内暂未包含最新版千问模型，可尝试安装 OpenAI-API-compatible 插件，在插件设置中的 API endpoint URL 填入https://{WorkspaceId}.cn-beijing.maas.aliyuncs.com/compatible-mode/v1（华北2（北京）地域）或https://{WorkspaceId}.ap-southeast-1.maas.aliyuncs.com/compatible-mode/v1（新加坡地域）。其中WorkspaceId需替换为真实的获取Workspace ID。 ​2. 开始使用 Dify 具有多种大模型应用类型，请选择您使用的类型进行参考。 聊天助手/AgentChatflow/工作流知识库 创建一个聊天助手或Agent 在工作室单击创建空白应用，在新手适用中创建一个聊天助手或Agent并进入。 选择模型 在应用页面右上角可以选择模型，以通义千问下的qwen-plus-latest(Qwen3)为例，打开思考模式并设置为True。 对话测试 输入“你是谁”，模型会在思考后进行回答。 您也可以使用 Qwen-VL 或 QVQ模型针对图片进行提问。在选择视觉模型后界面左侧会出现视觉开关，打开即可在右侧的对话框输入图片。 创建一个Chatflow或者工作流 在工作室创建一个Chatflow或者工作流并进入。 添加LLM节点 在画布中添加一个LLM节点，选中节点进入编辑界面，选择您需要使用的模型。此处选择qwen3.7-plus，打开思考模式并设置为True。 如果您使用 Qwen-VL 或 QVQ模型，请打开LLM节点的视觉开关： 在LLM节点编辑面板底部找到视觉开关并打开，下方可设置分辨率为高或低。 运行LLM节点 单击添加消息，在USER对应的消息下输入问题：“你是谁”，单击节点右上角的运行按钮。 运行完成后，输出结果的text字段中，思考内容被...标签包裹，标签之后为模型的回复正文。 LLM节点返回的text字段包含思考与回复内容，您可以使用Dify的代码执行节点，通过正则表达式分别提取。 创建知识库 创建一个知识库并进入。 选择数据源 在此步骤上传您的知识库文件。 文本分段与清洗 您可以在此步骤配置阿里云百炼提供的 Embedding 模型与 Rerank 模型，此处以 text-embedding-v4 与 gte-rerank-v2 为例。其余参数请您按需配置。 gte-rerank-v2 仅支持华北2（北京）地域。 Embedding 模型暂时无法选择multimodal-embedding-v1模型，敬请关注后续动态。 ​常见问题 ​Q1：在千问插件内配置 API Key 报错？ A：有以下常见原因： 最新版插件性能可能不稳定，请参见 1.1. 安装模型供应商 中关于插件版本的说明。 使用了子业务空间的 API Key。 千问插件非阿里云官方维护，后续版本校验策略以实际情况为准。建议使用默认业务空间的 API Key。 端点设置错误，请根据 API Key 所在地域设置是否 使用国际端点。 ​Q2：如何使用 Qwen-Omni/Qwen-Audio/Qwen-OCR模型？ A：以上模型均不支持直接在 Dify 上配置，您可通过 Chatflow 或工作流的 HTTP 节点接入，接入细节请参见文档中的 Curl 命令。 为了降低HTTP节点的超时风险，建议您通过流式输出方式调用。 ​Q3：如何使用万相模型？ A：Dify 没有提供万相模型相关的插件，通过Dify的Chatflow/工作流的节点可达到文生图/视频的功能。请参考以下步骤： 下载并导入工作流模板 下载我们写好的模板：万相-文生图Demo.yml或 万相-文生视频Demo.yml，在工作室单击导入DSL文件并选择下载的模板文件。 配置环境变量 进入工作流界面，找到 ，并将DASHSCOPE_API_KEY的值修改为您的API Key。 测试生图效果 单击界面的运行按钮即可生成作品。以文生图工作流输入“小猫”为例，可以得到图片。 视频生成工作流会返回视频的URL。 文生视频的时间一般在5分钟以上，请耐心等待。 发布为工具（可选） 为了在其它大模型应用中使用万相的文生图/视频功能，您可以在界面右上方单击发布并选择发布为工具。 模板使用的模型为北京地域的wanx2.1-t2i-turbo（文生图）/wanx2.1-t2v-turbo（文生视频）。您可以在STEP1节点修改模型，在STEP1和STEP3节点修改地域API。 ​Q4：如何私有化部署 Dify？ A：Dify 云服务存在多项限制，例如最多创建 5 个应用。私有化部署请参见阿里云 Dify 部署解决方案。