跳到主要内容

自主集成

自 HAP v6.1.0 起,支持集成兼容 OpenAI API 标准的第三方大模型。只需将 base_url 配置指向目标服务 API 地址,即可快速完成模型接入与调用。

配置步骤

配置步骤与基于 OpenAI 文档中的步骤完全一致。只需在配置文件中修改以下字段值:

  • resource:目标服务的 API base_url 地址(需兼容 OpenAI API)。
  • deployment:目标服务的模型名称。
  • apiKey:目标服务访问凭证(API 密钥)。

集成示例

DeepSeek 集成示例

DeepSeek 兼容 OpenAI API 的 base_url 为:https://api.deepseek.com/v1

配置文件示例:

md.aigc.configs=[{\
'model': 'DeepSeek-V3', \
'resource': 'https://api.deepseek.com/v1', \
'deployment': 'deepseek-chat', \
'apiVersion': '', \
'apiKey': 'sk-dd0bd***********************4306', \
'price': '0.012' \
},{\
'model': 'DeepSeek-R1', \
'resource': 'https://api.deepseek.com/v1', \
'deployment': 'deepseek-reasoner', \
'apiVersion': '', \
'apiKey': 'sk-dd0bd***********************4306', \
'price': '0.012' \
}]
  • resource:填写 DeepSeek 兼容 OpenAI API 的 base_url。
  • deployment:填写 DeepSeek 提供的模型的名称。
  • apiKey:填写 DeepSeek 提供的 API Key
  • 详细配置步骤请参考基于 OpenAI

火山方舟平台集成示例

火山方舟平台兼容 OpenAI API 的 base_url 为:https://ark.cn-beijing.volces.com/api/v3

配置文件示例:

md.aigc.configs=[{\
'model': 'DouBao-1.5-Pro', \
'resource': 'https://ark.cn-beijing.volces.com/api/v3', \
'deployment': 'doubao-1-5-pro-32k-250115', \
'apiVersion': '', \
'apiKey': 'da***********************5e', \
'price': '0.012' \
},{\
'model': 'DeepSeek-V3', \
'resource': 'https://ark.cn-beijing.volces.com/api/v3', \
'deployment': 'ep-2025******0241-6szgr', \
'apiVersion': '', \
'apiKey': 'da***********************5e', \
'price': '0.012' \
}]
  • resource:填写火山方舟平台兼容 OpenAI API 的 base_url。
  • deployment:填写火山方舟平台提供的 Model IDEndpoint ID
  • apiKey:填写火山方舟平台提供的 API Key。
  • 详细配置步骤请参考 基于 OpenAI

Ollama 本地大模型集成示例

Ollama 提供兼容 OpenAI API 的本地服务,其默认 base_url 为:http://localhost:11434/v1

配置文件示例:

md.aigc.configs=[{\
'model': 'Ollama-DeepSeek-V3', \
'resource': 'http://192.168.10.154:11434/v1', \
'deployment': 'deepseek-r1:32b', \
'apiVersion': '', \
'apiKey': 'example-key', \
'price': '0.012' \
}]
  • resource:填写本地 Ollama 实际的兼容 OpenAI API 的 base_url,通常格式为 {host}/v1,示例:http://192.168.10.154:11434/v1
  • deployment:填写本地 Ollama 运行的模型的名称。
  • apiKey:填写本地 Ollama 的 API Key,若未启用 Key 认证,请填写任意非空字符串(如 example-key)。
  • 详细配置步骤请参考 基于 OpenAI