Skip to main content
Version: DEV

配置模型 API 密钥

RAGFlow 需要 API 密钥才能与在线 AI 模型交互。本指南提供有关在 RAGFlow 中设置模型 API 密钥的信息。

获取模型 API 密钥​

RAGFlow 支持大多数主流 LLM。请参阅支持的模型了解支持的模型的完整列表。您需要在线申请您的模型 API 密钥。请注意，大多数 LLM 提供商为新创建的账户提供试用额度，该额度将在几个月后过期，或者提供促销数量的免费配额。

note

如果您发现您的在线 LLM 不在列表中，请不要灰心。该列表正在扩展，您可以向我们提交功能请求！或者，如果您有自定义或本地部署的模型，您可以使用 Ollama、Xinference 或 LocalAI 将它们绑定到 RAGFlow。

配置模型 API 密钥​

您有两种配置模型 API 密钥的选项：

  • 在启动 RAGFlow 之前在 service_conf.yaml.template 中配置。
  • 登录 RAGFlow 后在模型提供商页面配置。

在启动 RAGFlow 之前配置模型 API 密钥​

  1. 导航到 ./docker/service_conf.yaml.template。
  2. 找到 user_default_llm 条目：
    • 用您选择的 LLM 更新 factory。
    • 用您的 API 密钥更新 api_key。
    • 如果您使用代理连接到远程服务，请更新 base_url。
  3. 重启系统以使更改生效。
  4. 登录 RAGFlow。
    登录 RAGFlow 后，您会发现您选择的模型出现在模型提供商页面的已添加模型下。

登录 RAGFlow 后配置模型 API 密钥​

警告

登录 RAGFlow 后，通过 service_conf.yaml.template 文件配置模型 API 密钥将不再生效。

登录 RAGFlow 后，您只能在模型提供商页面上配置 API 密钥：

  1. 点击页面右上角的您的徽标 > 模型提供商。
  2. 在待添加模型下找到您的模型卡片并点击添加模型。
  3. 粘贴您的模型 API 密钥。
  4. 如果您使用代理连接到远程服务，请填写您的基础 URL。
  5. 点击确定确认您的更改。