腾讯云数据库 AI 服务 部署 Memory Hub

Memory Hub 以 Docker 镜像形式发布,一个容器内同时运行两个服务:Panel(团队记忆面板,即用户操作的控制台页面)和 Knowledge Service(知识服务,简称 KS)。这里说明如何在部署机上启动 Memory Hub 容器,并连接云上已购买的 Memory 实例,供后续团队管理与资产运营使用。

相关产品
腾讯云数据库 AI 服务 产品页,含版本规格、价格与购买入口。

一、前提条件

分类 配置项 说明
基础环境 Docker 权限 执行 docker –version 可确认 Docker 已就绪。
Memory 实例信息 Instance ID 云端购买的 Memory 实例 ID。
 Gateway 地址 Memory 实例服务端的 API 接入地址。
 API Key 用于身份验证的密钥(注意保密)。
服务网络 KS 对外访问地址 运行当前容器的这台机器可对外访问的 IP 或域名。Agent 将通过该地址检索知识资产。
模型代理 LLM Proxy 地址 使用 Memory 实例的访问地址。Memory 实例有内置的模型

二、步骤一:拉取 Memory Hub 镜像

Memory Hub 镜像发布在公共镜像仓库,通过 docker pull 拉取到部署环境后,

docker pull cloud-agentmemory.tencentcloudcr.com/cloudagentmemory/memory-hub:latest

三、步骤二:准备实例配置文件

将云上 Memory 实例的信息写入一个 JSON 文件,保存为 metadata-instances.json:

{ "instances": [ { "id": "mem-xxxxxxxx", "name": "我的 Memory 实例", "gateway_endpoint": "https://memory.ap-shanghai.tencenttdai.com", "api_key": "your-gateway-api-key" } ]}

字段说明如下表所示。

字段 说明
id Memory 实例 ID,格式为 mem- 前缀加实例标识
name 实例的展示名称,可自定义
gateway_endpoint Memory 实例服务端(API 网关)的访问地址
api_key Memory 实例的 Gateway API Key

如需接入多个实例,在 instances 数组中追加多个对象即可。

四、步骤三:启动容器

Memory Hub 支持两种 LLM 接入模式:默认模式通过 Memory 实例访问 LLM;Custom 模式直连自备(BYO)的 LLM 端点。请根据实际环境选择其一。

五、默认模式

sudo docker run -d –name team-memory-panel-knowledge \\ -p 8125:8125 -p 8424:8424 \\ -v team-memory-knowledge-data:/data/knowledge \\ -v /path/to/metadata-instances.json:/app/panel/config/metadata-instances.json:ro \\ -e KNOWLEDGE_PUBLIC_BASE_URL=http://<服务器IP或域名>:8424/v3 \\ -e KNOWLEDGE_LLM_PROXY_BASE_URL=https://<llm-proxy-域名> \\ docker.io/agentmemory/memory-hub:latest

默认模式下需根据实际环境修改的参数如下表所示。

参数 修改项 修改说明
-v /path/to/metadata-instances.json 挂载实例配置文件 替换为已准备的metadata-instances.json 在部署机上的实际路径
KNOWLEDGE_PUBLIC_BASE_URL 知识服务(KS)对外访问地址 替换为已规划的、运行 Memory Hub 机器对外可访问的 IP 或域名;端口需与映射的宿主机端口(8424)一致,路径须以 /v3 结尾。
KNOWLEDGE_LLM_PROXY_BASE_URL 大模型代理服务地址 替换为已获取的 Memory 实例 Gateway 访问地址,作为知识服务调用大模型的统一入口。

Custom 模式

当环境中没有可用的 LLM Proxy 服务时,可直接指定 LLM 端点。此时无需配置 KNOWLEDGE_LLM_PROXY_BASE_URL。

sudo docker run -d –name team-memory-panel-knowledge \\ -p 8125:8125 -p 8424:8424 \\ -v team-memory-knowledge-data:/data/knowledge \\ -v /path/to/metadata-instances.json:/app/panel/config/metadata-instances.json:ro \\ -e KNOWLEDGE_PUBLIC_BASE_URL=http://<服务器IP或域名>:8424/v3 \\ -e LLM_MODE=custom \\ -e LLM_API_KEY=<你的LLM-API-Key> \\ -e LLM_BASE_URL=https://api.openai.com/v1 \\ -e LLM_MODEL=gpt-4o \\ -e KNOWLEDGE_LLM_BINDING_SYNC=0 \\ docker.io/agentmemory/memory-hub:latest

自定义模式下需根据实际环境修改的参数如下表所示。

参数 修改项 修改说明
-v /path/to/metadata-instances.json 挂载实例配置文件 替换为已准备的metadata-instances.json 在部署机上的实际路径
KNOWLEDGE_PUBLIC_BASE_URL 知识服务(KS)对外访问地址 替换为已规划的、运行 Memory Hub 机器对外可访问的 IP 或域名;端口需与映射的宿主机端口(8424)一致,路径须以 /v3 结尾。
LLM_MODE LLM 接入模式 固定为 custom,声明启用自定义模式,无需修改
LLM_API_KEY LLM 端点密钥 替换为访问自备 LLM 端点的 API Key。
LLM_BASE_URL LLM 端点地址 替换为自备 LLM 端点的 API 基础地址,如 https://api.openai.com/v1。
LLM_MODEL LLM 模型 ID 替换为自备 LLM 的模型 ID,如 gpt-4o。
KNOWLEDGE_LLM_BINDING_SYNC LLM 绑定同步开关 固定为 0,使 KS 走全局 LLM 配置,无需修改。

六、步骤四:验证部署结果

容器启动后,在浏览器中登录 Memory Hub。格式如:http://localhost:8125/。将localhost 替换为 Memory Hub 对外可访问的 IP 或域名(KKNOWLEDGE_PUBLIC_BASE_URL 参指定的地址)。Panel UI 登录页能正常打开 ,即表示 Memory Hub 部署成功。如需进一步确认,可访问以下服务地址:

服务 地址
Panel UI http://localhost:8125/
Panel API http://localhost:8125/api/v1/
KS Health http://localhost:8424/health
KS API http://localhost:8424/v3/
KS Swagger 文档 http://localhost:8424/docs
赞 (0)
上一篇 4天前
下一篇 4天前