在 Dify 中使用 OpenDataSky API
Dify 是一款开源的大语言模型(LLM) 应用开发平台。它融合了后端即服务(Backend as Service)和 LLMOps 的理念,使开发者可以快速搭建生产级的生成式 AI 应用。即使你是非技术人员,也能参与到 AI 应用的定义和数据运营过程中。详情请访问 Dify 官方文档。
安装 Dify(社区版)
Dify 社区版目前支持 Windows、Mac 和 Linux 操作系统。详情请参考 Dify 官方文档 选择适合您的部署方式。
配置
本指南以 Dify 社区版为例,其它版本的 Dify 请参考相应的文档。
- Dify首次启动需要您创建管理员账户,请按照提示进行创建即可。
- 登录管理员账号后,在设置中选择“模型供应商”配置大模型API。
- 选择模型提供商“OpenAI-API-compatible”。
- 点击“添加模型”,选择模型类型为“LLM”或“Text Embedding”。
- 输入模型名称,支持的模型请参见 模型页面 。(模型类型选择“LLM”时请填入OpenDatasky文本模型的
模型ID
,模型类型选择“Text Embedding”时请填入OpenDatasky嵌入模型的模型ID
。) - 输入 API Key,为您在 OpenDataSky 注册账号的 API Key,进入 API Key 页面获取。
- API endpoint URL一栏输入
http://server.opendatasky.com/v1/api/open-ai/ds
。 - 下方的模型能力参数请根据您使用的模型进行配置。(示例值:LLM模型上下文长度
128000
,LLM模型最大 token 上限4096
,Text Embedding模型上下文长度8192
。) - 参数配置后点击保存。