模型配置

ollmo 使用三类模型:

模型	用途
LLM	生成对话回答、意图分类、自动摘要
Embedding	将文档分块与查询向量化
Rerank	对检索结果重排序,提升命中精度

模型按**供应商(Provider)**卡片组织:一个供应商对应一个接口端点 + 一份 API 密钥 + 其下绑定的若干模型。打开「设置 → 模型设置」即可管理:

添加供应商

点击「添加提供方」,从内置目录选择(如 SiliconFlow、OpenAI、DeepSeek),填入 API 密钥,勾选要启用的模型即可:

也可以使用「添加自定义提供方」接入任意 OpenAI 兼容端点。保存后可在卡片上「获取可用模型」,从端点拉取模型清单勾选添加。

知识库级模型选择

每个知识库可以单独指定 Embedding 与 Rerank 模型(编辑知识库 → 模型下拉)。选择器左侧列出供应商,右侧列出该供应商的模型:

选择优先级

模型按以下优先级生效,知识库级配置优先于一切:

知识库配置 → 租户默认 → config.yaml 兜底

• 知识库配置:在知识库编辑抽屉中单独指定(Embedding / Rerank;Agent 画布中指定 LLM);
• 租户默认:模型设置页中标记为「默认」的模型;
• config.yaml:后端默认配置兜底(见 Docker 部署)。

模型测试

每个模型卡片都提供连通性测试,测试结果(通过/未通过)以颜色标识显示在卡片上。选择器会列出所有处于启用状态的模型——测试状态仅作参考,不会自动隐藏未通过测试的模型,请据此自行判断是否选用。更换知识库的 Embedding 模型会触发全量重新向量化,已有文档会按新模型重建索引。

:::tip 推荐起步配置 国内直连推荐 SiliconFlow:LLM 用 DeepSeek 系列,Embedding 用 BGE-Large-ZH,Rerank 用 BGE-Reranker-V2-M3。安装向导会为你预置这套组合,只需填入 API Key。 :::