yun

tiinfer 是腾讯云 TI-ONE 模型服务使用的推理框架。基于 mosec 提供的基础能力，tiinfer 提供了以下功能。

TI-ONE 平台是以资源组的形式来管理用户已购买的 CVM 机器节点，并进行资源调度。其机器来源分为“从 TI-ONE 平台购买”和“从 CVM 机器中选择”，二者区别可参见 计费概述，前者已不再支持新增，仅存量资源组可继续使用，这篇均为“从 CVM 机器中选择”的资源组的操作说明。

数据集列表页面统一管理了该用户账号下所有数据集的集合，展示了数据集的关键信息，支持“标注、删除、配置 schema”操作，且支持用户单击数据集名称进入查看数据集详情。

平台预置了适配主流深度学习和机器学习框架（TensorFlow、PyTorch、PySpark等）的推理镜像，用户可以直接使用平台预置推理镜像部署模型，节省在线服务部署的开发成本。

数据中心支持新建/管理的用户数据集来源有：腾讯云文件存储 CFS 上的大模型类数据文件，以及 腾讯云对象存储 COS 上的图片/表格/其他类数据文件。所以整个数据中心模块对大模型建模数据集和传统建模数据集是分为了两套不同的产品逻辑分别进行支持。

“数据中心-数据标注”模块支持用户创建在【传统 CV 建模】类型下的“图片分类、目标检测、目标跟踪、图片分割”的标注任务，为用户提供专业、高效的标注操作台。

describe_postpaid_training_price(self) 查询每种配置的每小时的价格，价格单位：元 :rtype: tencentcloud.tione.v20211111.models.DescribeBillingSpecsResponsedescribe_system_reasoning_images(self) 获取平台内置的推理镜像 :return: 推理镜像信息 :rtype: :。

任务创建完成后，会在任务列表页面展示该条训练任务记录，列表展示了任务名称、训练镜像、机器来源、占用资源、标签、状态（任务状态有提交中、排队中、启动中、运行中、异常、停止中、已停止、已完成）、运行时长、创建者、训练开始时间、更新时间、监控和操作。操作包括复制任务，Tensorboard，停止/启动任务和删除任务等 。

download_from_hdfs(hdfs_url, hdfs_path, local_path) 从hdfs上下载文件到本地 :param hdfs_url: webhdfs的地址，如：http://10.0.3.16:4008 :type hdfs_url: str :param hdfs_path: hdfs上的路径 :type hdfs_path: str :param local_path: 本地路径 。

TI-ONE 的在线服务模块，提供将模型部署为在线推理服务的能力，供用户通过 API 接口调用的方式对接自身业务应用。在线服务支持虚拟化异构算力和弹性扩缩容能力，帮助用户解决模型部署复杂、资源浪费、手工扩展资源效率低下等问题。同时，在线服务还支持部署多种模型格式、支持服务流量分配与滚动更新，以支撑在线推理场景中的多元应用诉求。