配置步骤
填写模型信息
需要为每一个想用的模型单独添加一行:
- 模型类型:LLM
- 模型名称 / Model Name:
gpt-5.5(或其它 OpenPAI 模型 ID) - API Key:
sk-XXXXXXXXXXXXXXXX - API Base / URL:
https://openp.ai/v1 - 模型上下文长度:按所选模型填入(如
gpt-5.5是 1000000) - 最大 Tokens 上限:按需(如 4096)
- Function Calling:启用(若模型支持)
- Vision 支持:启用(若模型支持)
接入 Embedding / Rerank
Dify 的 RAG 需要嵌入与重排模型,同样通过 OpenAI-API-compatible 添加:| 模型类型 | 模型名 | 备注 |
|---|---|---|
| Text Embedding | text-embedding-3-small | 维度 1536 |
| Text Embedding | bge-m3 | 维度 1024 |
| Rerank | rerank-multilingual-v3.0 | Cohere |
| Rerank | bge-reranker-v2-m3 | BAAI |
Rerank 走 OpenPAI 的
/v1/rerank 端点,Dify 选择 Cohere 或 Jina 供应商类型也能正确路由,Base URL 同样填 https://openp.ai/v1。在工作流中使用
模型添加完成后,在 Dify Studio 创建应用:- 聊天助手 → 选择 OpenPAI 的 GPT/Claude/Gemini 模型。
- 工作流 → 节点中选 LLM 节点,模型选 OpenPAI。
- Agent → 配合 Tools 与 Function Calling。
- 知识库 RAG → 嵌入 + 重排 都用 OpenPAI。
多模型策略
Dify 允许在同一应用内 按节点选择不同模型,典型组合:- 召回阶段:
gpt-5.4-mini(低延迟) - 复杂推理:
claude-opus-4-8或o3-mini-high - 总结归纳:
gemini-3.1-flash-lite(高速 + 长上下文)