向量数据库 导入 Jsonl 文件

python3.9 import_json_into_vdb.py\\ –url=”http://xx.xx.xx.xx:80″\\ –key=”xB2iQyVVFy9AtEFswF4ohQ******************”\\ –db=”db-test-0905″ –collection=”test-jsonl”\\ –file=”./test_json_XX.jsonl”\\ –field_map。

相关产品
向量数据库 产品页,含版本规格、价格与购买入口。

一、工具介绍

工具脚本 说明
import_json_into_vdb.py 用于导入 Jsonl 类型的数据文件于向量数据库
参数 参数含义 说明
url 向量数据库实例的内网地址或外网地址。建议使用内网方式。 获取向量数据库实例内网 IP 地址与端口,请登录 向量数据库控制台,在实例详情页面网络信息区域直接复制访问地址。具体操作,请参见 查看实例信息。
key 向量数据库实例 API 密钥,用于进行身份认证。 请登录 向量数据库控制台,在密钥管理页面直接复制密钥。具体操作,请参见 密钥管理。
db 数据库名。 –
collection 数据库集合名。 –
file 预导入的 jsonl 文件的路径。 可以指定为绝对地址,也可以为相应程序运行的相对地址。支持使用通配符,例如:–file="./test_*.jsonl"\\,将文件名包含 test_ 的 Jsonl 文件批量导入数据库。
field_mappings 指定Jsonl 字段名与导入数据库字段的映射关系。 Jsonl 字段与数据库字段名不一致需配置映射关系,一致则无需配置。key = value,key 为 Jsonl 字段,value 为向量数据库字段名,切勿写反。
confirm_work 标识是否通过 nohup 命令在后台运行数据导入任务。Y:默认值,可在终端会话确认参数配置是否正确。N:可以通过 nohup 的方式来在后台运行程序。 如果导入海量数据,建议先设置 confirm_work=Y 确认配置参数是否正确,提示please check the parameters and field mappings [yes no]:输入 no 退出,再设置 confirm_work=N 配合 nohup 后台运行程序。

二、使用示例

1. 准备如下工作。

a. 准备数据库实例。具体操作,请参见 购买实例。

b. 执行pip3 install tcvectordb,获取最新版本 Python SDK,并应用 Python SDK 连接数据库实例。具体信息,请参见 新建 Client。

c. 创建 Base 类数据库以及相应集合。具体操作,请参见 新建数据库 与 新建集合。

注意:说明:

2. 将数据导入工具的 Python 脚本上传于运行的操作环境,同时上传 Jsonl 文件。

注意:说明:

3. 根据 jsonl 文件业务数据与文件路径,在文本编辑器配置工具脚本参数,如下所示。

python3.9 import_json_into_vdb.py\\ –url="http://10.0.xx.xx:80"\\ –key="xB2iQyVVFy9AtEFswF4ohQP******************"\\ –db="db-test-0905" –collection="test-jsonl"\\ –file="./test_json*.jsonl"\\ –field_mappings="pk=id"

4. 在操作环境运行脚本,显示如下信息,逐一确认相关参数,索引字段以及字段映射关系。

5. 提示please check the parameters and field mappings [yes no]:,输入yes,启动数据导入任务。

注意:说明:

注意:当导入数据量大时,推荐先使用默认值(confirm_work=Y)运行,在终端会话确认索引参数、映射字段设置正确,提示please check the parameters and field mappings [yes no]:,输入 no,退出之后再指定 confirm_work=N,重新启动程序,在后台运行数据导入任务。

6. 等待提示类似如下信息,说明数据导入完成。

12 rows were successfully inserted into the VDB. avg batch latency: 4651.70ms, batch size: 133 TPS: 40.056, dimensions: 768, parallel: 30

赞 (0)
上一篇 4天前
下一篇 4天前