自主集成
自 HAP v6.1.0 起,支持集成兼容 OpenAI API 标准的第三方大模型。只需将 base_url 配置指向目标服务 API 地址,即可快速完成模型接入与调用。
配置步骤
配置步骤与基于 OpenAI 文档中的 步骤完全一致。只需在配置文件中修改以下字段值:
- resource:目标服务的 API base_url 地址(需兼容 OpenAI API)。
- deployment:目标服务的模型名称。
- apiKey:目标服务访问凭证(API 密钥)。
集成示例
DeepSeek 集成示例
DeepSeek 兼容 OpenAI API 的 base_url 为:https://api.deepseek.com/v1
。
- DeepSeek 对 OpenAI API 更多兼容性说明请参阅 DeepSeek 官方文档。
配置文件示例:
md.aigc.configs=[{\
'model': 'DeepSeek-V3', \
'resource': 'https://api.deepseek.com/v1', \
'deployment': 'deepseek-chat', \
'apiVersion': '', \
'apiKey': 'sk-dd0bd***********************4306', \
'price': '0.012' \
},{\
'model': 'DeepSeek-R1', \
'resource': 'https://api.deepseek.com/v1', \
'deployment': 'deepseek-reasoner', \
'apiVersion': '', \
'apiKey': 'sk-dd0bd***********************4306', \
'price': '0.012' \
}]
- resource:填写 DeepSeek 兼容 OpenAI API 的 base_url。
- deployment:填写 DeepSeek 提供的模型的名称。
- apiKey:填写 DeepSeek 提供的 API Key
- 详细配置步骤请参考基于 OpenAI。
火山方舟平台集成示例
火山方舟平台兼容 OpenAI API 的 base_url 为:https://ark.cn-beijing.volces.com/api/v3
。
- 火山方舟平台对 OpenAI API 更多兼容性说明请参阅火山方舟平台官方文档。
配置文件示例:
md.aigc.configs=[{\
'model': 'DouBao-1.5-Pro', \
'resource': 'https://ark.cn-beijing.volces.com/api/v3', \
'deployment': 'doubao-1-5-pro-32k-250115', \
'apiVersion': '', \
'apiKey': 'da***********************5e', \
'price': '0.012' \
},{\
'model': 'DeepSeek-V3', \
'resource': 'https://ark.cn-beijing.volces.com/api/v3', \
'deployment': 'ep-2025******0241-6szgr', \
'apiVersion': '', \
'apiKey': 'da***********************5e', \
'price': '0.012' \
}]
- resource:填写火山方舟平台兼容 OpenAI API 的 base_url。
- deployment:填写火山方舟平台提供的 Model ID 或 Endpoint ID。
- apiKey:填写火山方舟平台提供的 API Key。
- 详细配置步骤请参考 基于 OpenAI。
Ollama 本地大模型集成示例
Ollama 提供兼容 OpenAI API 的本地服务,其默认 base_url 为:http://localhost:11434/v1
。
- Ollama 对 OpenAI API 更多兼容性说明请参阅 Ollama 官方文档。
配置文件示例:
md.aigc.configs=[{\
'model': 'Ollama-DeepSeek-V3', \
'resource': 'http://192.168.10.154:11434/v1', \
'deployment': 'deepseek-r1:32b', \
'apiVersion': '', \
'apiKey': 'example-key', \
'price': '0.012' \
}]
- resource:填写本地 Ollama 实际的兼容 OpenAI API 的 base_url,通常格式为
{host}/v1
,示例:http://192.168.10.154:11434/v1
。 - deployment:填写本地 Ollama 运行的模型的名称。
- apiKey:填写本地 Ollama 的 API Key,若未启用 Key 认证,请填写任意非空字符串(如
example-key
)。 - 详细配置步骤请参考 基于 OpenAI。