数据开发治理平台 WeData 单个任务创建

1. 本页面展示从数据集成页面创建的所有离线同步任务。2. 如果只需要单独一次性运行或周期运行离线同步任务,可在数据集成配置调度并提交任务到数据集成的运维中心。

相关产品
数据开发治理平台 WeData 产品页,含版本规格、价格与购买入口。

一、使用注意

3. 如果需要跟其他任务进行编排或配置任务依赖,建议在数据开发的编排空间创建离线同步任务,或者在数据集成创建完任务后通过数据开发的导入任务(数据集成)功能将任务导入到编排空间,详情请参见 导入离线同步任务。

注意:在数据集成中已提交的任务无法导入到数据开发的编排空间中,仅支持对未提交的任务进行导入操作。

二、背景信息

单表同步采用固定字段同步的方式,仅将在任务配置中指定映射关系的来源字段数据同步至目标端。单表任务支持画布、表单、脚本三种配置模式,覆盖 MySQL、Hive、DLC、Doris 等数据源。

三、条件与限制

1. 已配置好来源及目标端的数据源以备后续任务使用。详情请参见 数据源管理与配置方式。

2. 已购买数据集成资源组。详情请参见 配置集成资源组。

3. 已完成数据集成资源组与数据源的网络连通。详情请参见 集成连通性与使用规划。

4. 已完成数据源环境准备。你可以基于你需要进行的同步配置,在同步任务执行前,授予数据源配置的账号在数据库进行相应操作的权限。

5. 若数据源配置的数据库账号不具备读写权限将导致任务运行失败,请根据实际读写场景配置具备相应权限的账号。

四、步骤一:新建离线同步任务并选择配置模式

在数据集成页面下,单击配置中心 > 离线同步即可进入同步任务列表。在弹窗中配置任务基本信息,单击确定后,即可进入任务配置页面。

参数 说明
任务名称 必填项。
导入编排空间 如果需要跟其他任务进行编排或配置任务依赖,建议在创建时直接将任务导入到编排空间,可在编排空间编辑、提交、运维任务。
所属工作流 将离线同步任务导入已有的工作流或通过新建工作流导入。
重名处理策略 如果项目中有跟开发空间重名的任务,会在脚本名后面增加时间戳生成新的任务名。
配置模式 表单模式:仅提供读取、写入节点,适用于单表至单表固定字段同步。适用于 ODS 层无需数据清洗环节的数据同步。画布模式:提供读取、写入、转换三类节点。适用于包含清洗环节、多对多数据链路。脚本模式:支持初始化的脚本模式配置页面,支持用户选择不同的数据来源、数据目标,展示对应的脚本模版:用户需要先选择数据来源与数据目标,未选择的状态下不允许编辑。选择后,展示对应的脚本模块。在脚本中,用户可以手动编写数据源、连接信息等参数。支持在脚本中写 SQL 语句,将 querysql 写到 connection 中。
描述 选填项。

注意:说明:

注意:脚本模式目前支持以下数据源:

五、配置读取节点

在新建离线同步窗口,选择不导入编排空间和画布模式,单击创建并配置。从读取节点中将所需数据源拖拽至画布中,双击打开配置页面。配置包括基本信息、数据来源、数据字段三部分。

·基本信息
节点名称不可为空,且单个任务内不可存在同名的数据节点。

·数据来源
配置需要读取的库表对象以及同步方式等信息。

·数据字段
根据配置的数据表对象,系统支持默认拉取字段元数据信息以及手动配置字段两种方式。

·默认拉取:针对 MySQL、Hive、PostgreSQL 等类型,系统已支持根据其库表信息自动拉取元数据字段及类型,无需手动编辑。

·手动配置:文件(例如 HDFS、COS)以及列式存储数据源(例如 HBase、Mongo)等数据源系统不支持自动拉取元数据,可单击添加字段/批量添加手动添加字段名称及类型。读取节点还额外支持配置时间参数以及常量。

·批量添加

参数  描述
数据类型  当前节点的数据源类型。
添加方式  追加字段:在表的原有字段后追加解析的新字段。覆盖原有字段:解析的新字段覆盖当前来源表的原有字段信息。
字段获取  文本解析:根据文本内容解析。json 解析:输入 json 内容,根据 key/value 值快速进行内容解析,如 {"age":10,"name":"demo"}。同结构表拉取:指定一个数据源的表对象,解析该表的字段。
待解析文本 分割符 用于分割字段名称和类型,支持 tab、|、空格,如"age|int"。
 快速填充字段类型 常用字段类型,支持常量、函数、变量、string、boolean、date、datetime、timestamp、time、double、float、tinyint、smallint、tinyint unsigned、int、mediumint、smallint unsigned、bigint、int unsigned、bigint unsigned、double precision、tinyint(1)、char、varchar、text、varbinary、blob。
 解析数据 解析输入内容。
预览 批量删除 勾选预览列表后,批量删除解析结果。
 字段名 字段的名称。
 类型 字段的类型。

六、配置转换节点

转换节点配置包括基本信息、转换规则、数据字段三部分。其中,转换节点必须作为读取节点下游,在创建与读取节点连线后系统将自动获取上游节点内字段信息,同时根据转换规则完成数据转换。

·基本信息
配置节点名称信息。节点名称不可为空,且单个任务内不可存在同名的数据节点。

·转换规则
配置字段或数据级转换规则,其中字段信息继承自上游节点,在与上游节点连线后系统将自动获取上游节点内字段信息。不同转化节点规则及参数说明请参见 转换节点。

·数据字段
默认拉取上游节点全部数据字段用于后续写入节点映射。

七、配置写入节点

写入节点配置包括基本信息、数据来源、数据字段、字段映射四部分。写入节点将根据连线关系,将上游数据内容写入目标对象内。

·基本信息
节点名称不可为空,且单个任务内不可存在同名的数据节点。

·数据来源
配置需要读取的库表对象以及同步方式等信息。

·数据字段
根据配置的数据表对象,系统支持默认拉取字段元数据信息以及手动配置字段两种方式。

·默认拉取:针对 MySQL、Hive、PostgreSQL 等类型,系统已支持根据其库表信息自动拉取元数据字段及类型,无需手动编辑。

·手动配置:文件(例如 HDFS、COS)以及列式存储数据源(例如 HBase、Mongo)等数据源系统不支持自动拉取元数据,可单击字段配置手动添加字段名称及类型。

·字段映射
写入节点相对于读取节点需额外配置字段映射关系。字段映射关系旨在通过连线的方式指定目标字段内容的来源,支持同名映射、同行映射、以及手动连线三种方式配置来源与目标节点间关系。

参数  描述
同名映射  来源表字段与字段名称一致的目标表字段间建立映射关系。
同行映射  来源表字段与所在行数一致的目标表字段间建立映射关系。
清除映射  清除已建立的来源表字段与目标表字段之间的映射关系。
置顶已映射  置顶并格式化显示已建立映射关系字段;此格式化不影响表实际存储字段顺序,仅用于前端优化展示。
手动连线映射  支持通过连线手动建立来源表字段与目标表字段间映射关系。
来源表 来源表字段名 来源表字段的名称。
 类型 来源表字段的类型。
 映射 快速创建映射。
目标表 目标表字段名 目标表字段的名称。
 类型 目标表字段的类型。

八、步骤三:离线任务属性配置

离线任务属性配置包括任务属性、任务调度两部分:

九、任务属性

设置任务基本属性、使用资源以及数据链路通道信息。

类别 参数 说明
基本属性 任务名称/类型 展示当前任务名称及类型基本信息。
 责任人 对此任务负责的一个或多个空间成员名称,默认为任务创建者。
 描述 展示当前任务备注信息。
 调度参数 调度参数是任务调度时使用的参数,会根据任务调度的业务时间及调度参数的取值格式自动替换取值,实现在任务调度时间内参数的动态取值
资源配置 集成资源组 指定当前任务使用的集成资源组名称,一个任务仅可绑定一个资源组。
通道设置 脏数据阈值 脏数据是指同步过程中写入失败的数据。脏数据阈值是指同步中可容忍的最大脏数据条或字节数,一旦超过该阈值,任务将自动结束。默认阈值为0,即不容忍脏数据。
 并发数 实际执行时期望任务的最大并发数,实际执行时由于资源、数据源类型和任务优化结果等原因并发数可能小于等于此值。该值越大,预分配执行机资源越多。注意:并发数>1时,如源端数据源支持设置切割键,则切割键为必填项,否则设置的并发数不生效。
 同步速率限制 按照流量或记录条数限制同步速率以保护数据来源端或者数据去向端的读写压力。该值为最大运行速率,默认 -1 表示不限制速率。
数据对账 开启数据对账 监控来源表与目标表的数据差异,及时发现数据一致性问题。开启数据对账会在集成任务运行成功后执行,不会影响任务本身运行状态;任务未运行完成或运行失败,不会进行数据对账。
 来源端对账范围 全量对账:基于来源表的所有数据进行对账;增量对账:基于来源表筛选后的数据进行对账。若此处没有填筛选条件,则默认按任务上来源端配置的筛选条件进行筛选。若任务上来源端也没有配置筛选条件,则等同于全量对账。
 目标端对账范围 全量对账:基于目标表的所有数据进行校验;增量对账:基于目标表筛选后的数据进行校验。若此处没有填筛选条件,则等同于全量校验。
任务运行策略 关联告警 支持对当前任务关联告警规则
高级参数 jvm.option.xmx 用于设置特定任务在运行期间所占用的内存大小。需要将内存大小替换为具体的数值,例如 jvm.option.xmx=512 表示将任务启动内存设置为 512MB。如果未设置此参数或参数设置不合理(过小或过大),系统将使用默认值。

十、任务调度

设置当前任务周期运行计划,包括调度时间及依赖属性。

类别 参数 说明
调度时间 调度方式 周期调度:任务根据配置调度计划周期运行。一次性执行:任务仅在指定时间运行一次。
 生效日期 调度时间配置的有效时间段,系统会在该时间范围内按照时间配置自动调度,超过有效期将不会再自动调度。
 调度周期 调度计划间隔步长单位,支持年、月、周、天、小时、分钟:分钟:需指定具体执行开始时间及间隔,任务将从每小时执行分钟开始,按时间间隔周期运行。如执行时间为02:00~23:59,间隔为5分钟,则任务将从02:00开始每隔5分钟运行一次实例。小时:需指定具体执行开始、结束时间及间隔。如执行时间为02:20~05:00,间隔为1小时,则任务将在02:20、03:20、04:20分别运行一次。天:需指定每天具体执行时刻,任务每天仅在该时刻运行。周:需执行每周固定运行的天数(支持多选)以及时间。任务仅在指定当天的该时刻运行。月:指定每月固定运行的号数及时间。若选择月末,将根据不同的月份取最后一天运行。年:指定每年固定运行日期及时间。
依赖属性 自依赖 自依赖是指同一任务中不同实例之间的依赖关系:有序串行:当前实例依赖前一个周期实例的状态。无序串行:当前实例和前一个周期实例没有依赖关系,如果一个任务同时存在多个实例,系统随机选取一个实例运行。同时只有一个实例是运行状态。并行:前一个周期实例和后一个周期实例之间没有依赖关系,如果一个任务同时存在多个实例,多个实例会同时运行。
 重试等待时间 实例运行失败后,每次重试运行的最大等待时间间隔。若超过此值实例仍未重试运行,实例将被置为失败。
 失败重试次数 实例运行失败后,最大重试次数。若超过此值,任务将被置为失败。

十一、步骤四:任务测试运行与提交

离线同步任务在配置完成后可进行在线测试运行或提交到生产调度环境中,目前可在任务配置页面支持保存、提交、测试运行、调试停止、锁定/解锁以及前往运维操作。

序号 参数 说明
1 保存 保存当前任务配置信息,包括数据节点配置、节点连线、任务属性和任务调度配置。
2 提交 将当前任务提交至生产环境,提交后任务将按调度属性周期运行,同时提交任务将在任务运维 > 离线运维生成任务及实例记录。说明:提交前任务将默认保存最新配置。提交前任务将进行必要性检测,包括任务节点配置、任务连线、资源组等。若必要性检测不通过,任务将提交失败并提示。
3 测试运行 调试运行当前任务。
4 调试停止 终止当前正在测试运行中的任务。
5 锁定/解锁 默认创建者为首个持锁者,仅允许持锁者编辑任务配置及运行任务。若锁定者5分钟内没有编辑操作,其他人可单击图标抢锁,抢锁成功可进行编辑操作。
6 前往运维 根据当前任务名称快捷跳转至任务运维页面。
7 画布/表单转换 支持转换为画布/表单模式。说明:画布和表单模式支持互相转换,当画布模式中存在转换节点时,不支持转换为表单模式。不支持脚本模式转换为画布/表单模式。
8 脚本转换 支持从画布/表单模式转换为脚本模式,转换后不支持转回画布/表单模式。

十二、任务提交检测

参数 说明
检测存在异常 支持跳过异常直接提交,或者终止提交。
检测仅存在警告及以下 可直接提交。

十三、提交结果

·任务提交中:

·展示提交进度百分比。

·提示用户勿刷新/关闭页面。

·任务提交结果 – 成功:

·展示任务提交成功结果。

·提示成功及后续跳转。

·展示任务提交失败原因:

·失败原因返回。

十四、后续步骤

完成任务配置后,你可以对已创建的任务进行运维及监控告警,如对任务配置监控报警,并查看任务运行的关键指标等。详情请参见 离线任务运维。

赞 (0)
上一篇 5天前
下一篇 5天前