云原生智能网关 通过 AI 网关调用混元 API

AI 网关调用混元 API 是通过统一接口管理多个 AI 模型访问,实现高效、安全、可扩展的 AI 能力集成。它简化了混元 API 的调用流程,提供流量控制、监控和计费等一站式服务。这篇将快速引导你完成首次配置,体验通过 AI 网关调用混元大模型服务的完整流程。你将依次完成模型密钥、模型服务、模型 API 的配置,并创建调用方身份(消费者与消费者组),最终通过网关成功发起调用。

相关产品
云原生智能网关 产品页,含版本规格、价格与购买入口。

一、前提条件

1. 已创建 AI 网关实例,具体操作请参见 新建 AI 网关。

2. 已通过混元平台,获取混元大模型的 API 调用密钥。

二、操作概述

核心操作流程如下,你将依次完成以下六个步骤:

1. 创建模型密钥:在网关中安全配置访问混元所需的 API 密钥。

2. 创建模型服务:添加混元作为 AI 模型供应商,并关联上一步创建的密钥。

3. 创建模型 API :创建一个对外提供文本生成能力的 API ,并绑定第2步创建的服务。

4. 创建消费者:创建代表你自身应用的调用方,并为其添加身份凭证( API Key)。

5. 创建消费者组并授权:将消费者分组,并为该组授予访问第3步所创模型 API 的权限。

6. 获取地址并发起调用:在控制台找到 API 的访问地址,使用消费者的凭证发起调用请求。

接下来,请按照下述详细说明完成每一步操作。

三、步骤一:创建模型密钥

模型密钥用于安全地存储和管理访问第三方大模型服务所需的凭证。

1. 登录 微服务平台控制台 ,在左侧导航栏选择 AI 网关,选择需要使用的实例,进入实例详情。

2. 在左侧导航栏,单击密钥管理。

3. 在“密钥管理”页面,单击新建。

4. 在“新建密钥”窗口中,参考下表配置密钥信息。

参数 填写说明
密钥类型 选择模型密钥。
密钥名称 自定义名称,如 hunyuan-key。
生成方式 选择自定义。
凭证内容 此处填入你从混元获取的 API 密钥。
描述 (可选)输入描述信息。

5. 单击 确定,完成密钥创建。

四、步骤二:创建模型服务

模型服务用于封装对一个特定大模型供应商(此处为混元)的调用配置。

1. 在左侧导航栏,单击模型管理 > 模型服务。

2. 在“模型服务”页面,单击新建。

3. 在“新建模型服务”窗口中,进入基本信息步骤,参考如下内容配置。

参数 填写说明
服务名称 自定义名称,如 hunyuan-service。
服务类型 固定为 AI 模型服务。
模型供应商 选择 hunyuan。
模型协议 选择 OpenAI 兼容。
服务地址 系统将自动填充混元的端点地址。
模型密钥 从下拉列表中选择你在 步骤一 创建的密钥(hunyuan-key)。
密钥使用策略 选择 轮询。

4. 单击下一步,进入选择模型策略步骤。

·模型选择方式:保持默认的指定模型。

·默认模型:从下拉列表中选择一个混元模型,如 HY-3。

5. 单击确定,完成模型服务创建。

五、步骤三:创建模型 API

模型 API 是网关对外暴露的调用端点,客户端通过访问此 API 来使用大模型能力。

1. 在左侧导航栏,单击模型管理 > 模型 API 。

2. 在“模型 API ”页面,单击新建。

3. 在“新建模型 API ”窗口中,进入基本信息步骤,参考下表配置。

参数 填写说明
API 名称 自定义名称,如 hunyuan-api。
使用场景 选择 文本生成。
请求协议 选择 OpenAI。
路由 默认已勾选 /v1/chat/completions,请确认。
Base Path 输入一个路径前缀,作为 API 的唯一标识,如 /hunyuan。客户端将通过此路径访问。
路径简化 建议保持开启,使后端接收简洁路径。

4. 单击 下一步,进入选择模型服务步骤。

·服务类型:选择单模型服务。

·选择服务:从下拉列表中选择你在步骤二创建的服务(hunyuan-service)。

5. 单击确定,完成模型 API 创建。系统将自动生成访问路由。

六、步骤四:创建消费者

消费者代表调用 API 的客户端身份,需要配置认证凭证。

1. 在左侧导航栏,单击消费者管理 > 消费者。

2. 在“消费者”页面,单击新建。

3. 在“新建消费者”窗口中,参考下表配置。

参数 填写说明
消费者名称 自定义名称,如 my-app。
所属消费者组 此处可暂不选择,后续在消费者组中关联。
选择密钥 单击新建密钥,创建一个类型为 API Key 的密钥,用于此消费者调用网关时的身份认证。记下生成的 Key。

4. 单击确定,完成消费者创建。

七、步骤五:创建消费者组并授权

消费者组用于对消费者进行分组,并统一授权其访问模型 API 的权限。

1. 在左侧导航栏,单击消费者管理 > 消费者组。

2. 在“消费者组”页面,单击新建。

3. 配置消费者组基本信息,并在“消费者”选项中,关联你在步骤四创建的消费者(my-app)。

4. 创建完成后,找到该组,切换到 “已授权模型 API ” 卡片,单击新增授权按钮。

5. 在授权页面,将步骤三创建的模型 API (hunyuan-api)授权给此消费者组。

八、步骤六:获取访问地址并发起调用

所有配置完成后,即可通过网关地址调用大模型。

1. 获取网关入口地址:进入基础信息 > 实例信息,在网络配置卡片查看“公网负载均衡地址”或“内网私有连接地址”。

2. 获取路由访问地址:

·进入 模型管理 > 模型 API ,单击你在步骤三创建的 API 名称。

·单击 路由管理 页签,复制“请求路径”。完整访问地址格式为:协议://网关入口地址/请求路径。

3. 发起调用:使用 curl 命令或任何 HTTP 客户端,参照以下示例发起请求。请将<访问地址>替换为上一步得到的完整 URL,将< API_KEY>替换为步骤四中为消费者创建的 API Key,将<MODEL_NAME>替换为步骤二选择的模型。

curl -i -X POST <访问地址> \\ -H "Content-Type: application/json" \\ -H "Authorization: Bearer < API _KEY>" \\ -d '{ "model": "<MODEL_NAME>", "messages": [ {"role": "user", "content": "你好,请介绍一下你自己。"} ], "stream": false }'

4. 查看结果:如果一切配置正确,你将收到来自混元大模型的 JSON 格式回复。

赞 (0)
上一篇 4天前
下一篇 4天前