大模型服务平台 TokenHub 向量模型

二、前提条件

·已注册腾讯云账号并开通 TokenHub 服务。

·已在 TokenHub 控制台 获取 API Key。

·已根据所用语言安装对应 SDK 或具备 HTTP 请求能力。

三、支持的模型

注意：说明：

注意：以上模型均支持 30 余种主流语言，包括中文、英语、日语、韩语、法语、德语、俄语、葡萄牙语、西班牙语等。

四、文本向量

文本向量接口用于将文本转换为向量表示。接口兼容 OpenAI Embeddings API 的请求和响应结构。

五、接口地址

POST https://tokenhub.tencentmaas.com/v1/embeddings

六、请求参数

七、请求示例

cURLPythonNode.jsGoJavacurl -X POST 'https://tokenhub.tencentmaas.com/v1/embeddings' \\ -H 'Authorization: Bearer YOUR_API_KEY' \\ -H 'Content-Type: application/json' \\ -d '{ "model": "kinfra-text-embedding-0.6b", "input": "腾讯云 TokenHub 是一站式 AI 大模型服务平台。", "encoding_format": "float" }'from openai import OpenAIclient = OpenAI( api_key="YOUR_API_KEY", base_url="https://tokenhub.tencentmaas.com/v1")response = client.embeddings.create( model="kinfra-text-embedding-0.6b", input="腾讯云 TokenHub 是一站式 AI 大模型服务平台。", encoding_format="float")print(response.data[0].embedding)import OpenAI from 'openai';const client = new OpenAI({ apiKey: 'YOUR_API_KEY', baseURL: 'https://tokenhub.tencentmaas.com/v1'});async function main() { const response = await client.embeddings.create({ model: 'kinfra-text-embedding-0.6b', input: '腾讯云 TokenHub 是一站式 AI 大模型服务平台。', encoding_format: 'float' }); console.log(response.data[0].embedding);}main();package mainimport ( "bytes" "encoding/json" "fmt" "io" "net/http")func main() { body, err := json.Marshal(map[string]interface{}{ "model": "kinfra-text-embedding-0.6b", "input": "腾讯云 TokenHub 是一站式 AI 大模型服务平台。", "encoding_format": "float", }) if err != nil { panic(err) } req, err := http.NewRequest("POST", "https://tokenhub.tencentmaas.com/v1/embeddings", bytes.NewBuffer(body)) if err != nil { panic(err) } req.Header.Set("Authorization", "Bearer YOUR_API_KEY") req.Header.Set("Content-Type", "application/json") resp, err := http.DefaultClient.Do(req) if err != nil { panic(err) } defer resp.Body.Close() data, err := io.ReadAll(resp.Body) if err != nil { panic(err) } fmt.Println(string(data))}import okhttp3.*;import com.google.gson.Gson;import java.util.*;public class TextEmbeddingQuickStart { public static void main(String[] args) throws Exception { Map<String, Object> body = new HashMap<>(); body.put("model", "kinfra-text-embedding-0.6b"); body.put("input", "腾讯云 TokenHub 是一站式 AI 大模型服务平台。"); body.put("encoding_format", "float"); Request request = new Request.Builder() .url("https://tokenhub.tencentmaas.com/v1/embeddings") .header("Authorization", "Bearer YOUR_API_KEY") .header("Content-Type", "application/json") .post(RequestBody.create(new Gson().toJson(body), MediaType.parse("application/json"))) .build(); try (Response response = new OkHttpClient().newCall(request).execute()) { System.out.println(response.body().string()); } }}

八、批量输入示例

以下示例展示如何传入多条文本进行批量向量化：

cURLPythoncurl -X POST 'https://tokenhub.tencentmaas.com/v1/embeddings' \\ -H 'Authorization: Bearer YOUR_API_KEY' \\ -H 'Content-Type: application/json' \\ -d '{ "model": "kinfra-text-embedding-0.6b", "input": ["什么是 RAG？", "向量模型用于语义检索", "TokenHub 是一站式 AI 大模型服务平台"] }'response = client.embeddings.create( model="kinfra-text-embedding-0.6b", input=["什么是 RAG？", "向量模型用于语义检索", "TokenHub 是一站式 AI 大模型服务平台"])for item in response.data: print(f"index={item.index}, dim={len(item.embedding)}")

九、响应示例

以下示例仅展示响应结构，向量值和 token 数以实际返回为准。

{ "object": "list", "data": [ { "object": "embedding", "index": 0, "embedding": [0.0123, -0.0456, 0.0789] } ], "model": "kinfra-text-embedding-0.6b", "usage": { "prompt_tokens": 10, "total_tokens": 10, "prompt_tokens_details": { "text_tokens": 10, "image_tokens": 0, "video_tokens": 0 } }}

十、响应参数

基础字段：

usage 字段：

十一、多模态向量

多模态向量接口用于将文本、图片和视频转换为向量表示。接口支持在单次请求中同时传入文本、图片和视频，适用于图文检索和多模态语义检索场景。

十二、接口地址

POST https://tokenhub.tencentmaas.com/v1/embeddings/multimodal

十三、请求参数

十四、使用限制

十五、请求示例

以下示例在单次请求中同时传入文本、图片和视频。模型会将多种模态的内容融合为一个向量，可用于图文检索、视频检索和多模态语义匹配等场景。

cURLPythonNode.jsGoJavacurl -X POST 'https://tokenhub.tencentmaas.com/v1/embeddings/multimodal' \\ -H 'Authorization: Bearer YOUR_API_KEY' \\ -H 'Content-Type: application/json' \\ -d '{ "model": "kinfra-vl-embedding-2b", "input": [ {"type": "text", "text": "一只白色猫坐在窗边"}, {"type": "image_url", "image_url": {"url": "https://example.com/cat.png"}}, {"type": "video_url", "video_url": {"url": "https://media.w3.org/2010/05/sintel/trailer.mp4"}} ], "instructions": "生成适合图文检索的向量", "encoding_format": "float" }'import requestsurl = "https://tokenhub.tencentmaas.com/v1/embeddings/multimodal"headers = { "Authorization": "Bearer YOUR_API_KEY", "Content-Type": "application/json"}payload = { "model": "kinfra-vl-embedding-2b", "input": [ {"type": "text", "text": "一只白色猫坐在窗边"}, {"type": "image_url", "image_url": {"url": "https://example.com/cat.png"}}, {"type": "video_url", "video_url": {"url": "https://media.w3.org/2010/05/sintel/trailer.mp4"}} ], "instructions": "生成适合图文检索的向量", "encoding_format": "float"}response = requests.post(url, headers=headers, json=payload)print(response.json())async function main() { const response = await fetch('https://tokenhub.tencentmaas.com/v1/embeddings/multimodal', { method: 'POST', headers: { Authorization: 'Bearer YOUR_API_KEY', 'Content-Type': 'application/json' }, body: JSON.stringify({ model: 'kinfra-vl-embedding-2b', input: [ { type: 'text', text: '一只白色猫坐在窗边' }, { type: 'image_url', image_url: { url: 'https://example.com/cat.png' } }, { type: 'video_url', video_url: { url: 'https://media.w3.org/2010/05/sintel/trailer.mp4' } } ], instructions: '生成适合图文检索的向量', encoding_format: 'float' }) }); console.log(await response.json());}main();package mainimport ( "bytes" "encoding/json" "fmt" "io" "net/http")func main() { body, err := json.Marshal(map[string]interface{}{ "model": "kinfra-vl-embedding-2b", "input": []map[string]interface{}{ {"type": "text", "text": "一只白色猫坐在窗边"}, {"type": "image_url", "image_url": map[string]string{"url": "https://example.com/cat.png"}}, {"type": "video_url", "video_url": map[string]string{"url": "https://media.w3.org/2010/05/sintel/trailer.mp4"}}, }, "instructions": "生成适合图文检索的向量", "encoding_format": "float", }) if err != nil { panic(err) } req, err := http.NewRequest("POST", "https://tokenhub.tencentmaas.com/v1/embeddings/multimodal", bytes.NewBuffer(body)) if err != nil { panic(err) } req.Header.Set("Authorization", "Bearer YOUR_API_KEY") req.Header.Set("Content-Type", "application/json") resp, err := http.DefaultClient.Do(req) if err != nil { panic(err) } defer resp.Body.Close() data, err := io.ReadAll(resp.Body) if err != nil { panic(err) } fmt.Println(string(data))}import okhttp3.*;import com.google.gson.Gson;import java.util.*;public class MultimodalEmbeddingQuickStart { public static void main(String[] args) throws Exception { Map<String, Object> body = new HashMap<>(); body.put("model", "kinfra-vl-embedding-2b"); List<Map<String, Object>> inputList = new ArrayList<>(); inputList.add(Map.of("type", "text", "text", "一只白色猫坐在窗边")); inputList.add(Map.of("type", "image_url", "image_url", Map.of("url", "https://example.com/cat.png"))); inputList.add(Map.of("type", "video_url", "video_url", Map.of("url", "https://media.w3.org/2010/05/sintel/trailer.mp4"))); body.put("input", inputList); body.put("instructions", "生成适合图文检索的向量"); body.put("encoding_format", "float"); Request request = new Request.Builder() .url("https://tokenhub.tencentmaas.com/v1/embeddings/multimodal") .header("Authorization", "Bearer YOUR_API_KEY") .header("Content-Type", "application/json") .post(RequestBody.create(new Gson().toJson(body), MediaType.parse("application/json"))) .build(); try (Response response = new OkHttpClient().newCall(request).execute()) { System.out.println(response.body().string()); } }}

十六、响应示例

以下示例仅展示响应结构，向量值和 token 数以实际返回为准。

注意：说明：

注意：多模态向量接口会将单次请求中的文本、图片和视频融合为一个向量。响应中的 data 数组包含 1 个向量结果，index 固定为 0。

{ "object": "list", "data": [ { "object": "embedding", "index": 0, "embedding": [0.0123, -0.0456, 0.0789] } ], "model": "kinfra-vl-embedding-2b", "usage": { "prompt_tokens": 1057, "total_tokens": 1057, "prompt_tokens_details": { "text_tokens": 12, "image_tokens": 1045, "video_tokens": 0 } }}

十七、响应参数

基础字段：

usage 字段：

十八、使用建议

·批量处理时，建议控制单次请求的输入数量和输入长度，避免请求体过大。

·在生产环境中，建议预先生成文档、图片或视频向量并存储到向量数据库中。查询时仅需生成查询向量并执行相似度检索。

十九、价格说明

向量模型的计费方式和价格以模型价格文档为准。更多信息，请参见 模型价格。

21、文本语义搜索

以下示例展示如何使用文本向量模型实现语义搜索：先对知识库文档生成向量，再对用户查询生成向量，最后通过余弦相似度匹配最相关的文档。该方式适用于智能问答、知识库检索、FAQ 匹配等场景。

import numpy as npfrom openai import OpenAIclient = OpenAI( api_key="YOUR_API_KEY", base_url="https://tokenhub.tencentmaas.com/v1")def cosine_similarity(a, b): denominator = np.linalg.norm(a) * np.linalg.norm(b) if denominator == 0: return 0 return np.dot(a, b) / denominatordocuments = [ "人工智能是计算机科学的一个分支", "机器学习是实现人工智能的重要方法", "深度学习是机器学习的一个子领域",]# 生成文档向量doc_resp = client.embeddings.create( model="kinfra-text-embedding-0.6b", input=documents)doc_embeddings = [item.embedding for item in doc_resp.data]# 生成查询向量query_resp = client.embeddings.create( model="kinfra-text-embedding-0.6b", input="什么是 AI？")query_embedding = query_resp.data[0].embedding# 计算相似度并排序similarities = [ (i, cosine_similarity(query_embedding, doc_emb)) for i, doc_emb in enumerate(doc_embeddings)]similarities.sort(key=lambda x: x[1], reverse=True)for i, score in similarities: print(f"相似度: {score:.3f} | 文档: {documents[i]}")

22、图片和视频 token 换算

多模态向量模型会将图片和视频转换为视觉 token，并在响应的 usage.prompt_tokens_details.image_tokens 和 usage.prompt_tokens_details.video_tokens 中返回对应用量。

23、图片 token 换算

图片 token 数由图片分辨率决定。系统会先将图片缩放到模型支持的像素范围内，再按以下规则计算：

1. 将图片按 28 x 28 像素切分为 patch。

2. 按 2 x 2 patch 进行合并。

3. 合并后的 patch 数即为图片 token 数。

计算公式如下：

h_patches = floor(Height / 28)w_patches = floor(Width / 28)h_merge = floor(h_patches / 2)w_merge = floor(w_patches / 2)image_tokens = h_merge × w_merge

注意：说明：

注意：图片会先缩放到模型支持的像素范围内。实际 token 数以接口响应中的 usage.prompt_tokens_details.image_tokens 为准。

24、视频 token 换算

视频 token 数由采样帧数和每帧图片 token 数共同决定。系统会先按帧率对视频采样，再将每一帧按图片 token 规则计算。

计算方式如下：

采样帧数 N = min(视频时长（秒）× fps, max_frames)video_tokens ≈ N × tokens_per_frame

其中：

注意：说明：

注意：视频每帧的分辨率会受 total_pixels / N 约束。实际 token 数以接口响应中的 usage.prompt_tokens_details.video_tokens 为准。

26、文本向量模型（CMTEB）

27、多模态向量模型

28、参考文档

·语言模型调用概览

·TokenHub 控制台

·模型价格