Skip to content

大模型设置

在总管理后台依次进入「系统设置」→「大模型设置」,可配置智能回复、AI 翻译、知识库问答,以及图片和语音识别所需的模型服务。

客服后台的大模型设置

配置前准备

  • 接口地址、ApiKey 和模型名称必须与所选服务商一致;不要在公开页面、截图或代码仓库中泄露 ApiKey。
  • 对话大模型使用 OpenAI 兼容的对话接口。DeepSeek 等兼容 OpenAI 格式的服务均可接入。
  • Embedding、图像识别和语音识别为知识库相关能力;未使用相应功能时可不配置。启用某一项时,该项的接口地址、ApiKey 和模型名称需同时填写。

1. 配置对话大模型

「对话大模型」用于生成智能回复,并为 AI 翻译等对话能力提供模型服务。填写服务商提供的 OpenAI 兼容接口地址、ApiKey 和模型名称后保存即可。

推荐使用 DeepSeek 的 deepseek-v4-flash 模型,兼顾回复质量与使用成本。以下为截图中的示例配置:

配置项示例值说明
接口地址https://api.deepseek.com填写服务商提供的兼容接口地址。
ApiKeyDeepSeek 的 ApiKey在 DeepSeek 控制台创建并复制。
模型deepseek-v4-flash模型名称必须与服务商控制台中的名称完全一致。

根据使用场景开启「AI 回复」或「AI 翻译」:不需要的能力可以关闭,避免产生不必要的模型调用。

2. 配置 Embedding 模型

Embedding 模型会将知识库内容转换为向量,用于知识库问答时的检索和匹配。配置方式与对话模型相同,也需要填写接口地址、ApiKey 和模型名称。

截图中使用 text-embedding-3-small 作为示例。请使用服务商实际支持的 Embedding 模型;对话模型不能代替 Embedding 模型。

注意

知识库已经生成向量数据后,系统不允许直接修改 Embedding 模型名称。此时可以更换兼容的接口地址或 ApiKey,但必须通过检测,并保证返回的向量维度与现有数据一致。

3. 配置图像和语音识别

图像识别用于理解对话或知识库中的图片内容;语音识别用于将访客语音转换为文字。这两项均为可选配置,分别需要使用兼容 OpenAI 格式的图像对话接口和 audio/transcriptions 语音转写接口。

OpenAI 服务在中国大陆通常无法直接访问。可使用代理平台获取兼容接口:先点击这里注册一个账号,再进入平台的「令牌管理」页面创建并复制 ApiKey,最后将接口地址、ApiKey 和对应模型填写到客服后台。

截图中的配置可作为参考:

功能接口地址示例模型示例用途
图像识别模型https://api.gpt.gegpt-5.4-nano识别图片内容。
语音识别模型https://api.gpt.gewhisper-large-v3-turbo将访客语音转换为文字。

模型名称以代理平台实际提供的可用模型为准。若暂时不使用图像或语音能力,请将该项的三个字段全部留空;不要只填写其中的一部分。

4. 保存并检查

填写完成后点击「保存设置」。系统会检测已填写的模型配置:

  • 对话模型需要能够正常完成 OpenAI 兼容的对话请求;
  • 图像识别模型需要支持图片输入;
  • 语音识别模型需要支持语音转文字;
  • Embedding 模型需要返回可用的向量数据。

如果保存失败,请依次确认接口地址是否正确、ApiKey 是否有效、模型名称是否存在,以及三项配置是否已完整填写。