数据湖计算 DLC 标准引擎参数配置

这篇说说腾讯云DLC中Spark参数配置方法,涵盖标准引擎、资源组(SQL分析/AI)、数据探索及作业四个维度的参数设置,并说明动态/静态参数生效规则及优先级。 标准引擎参数:在引擎列表页通过“参数配置”添加,仅对Spark作业和Batch SQL生效。 资源组参数:SQL分析资源组支持动态/静态参数,AI资源组仅支持静态配置且需重启生效。 作业参数:在数据作业中设置,优先级高于引擎级别参数,修改后仅对新作业生效。

相关产品
数据湖计算 DLC 产品页,含版本规格、价格与购买入口。

Spark 参数用于配置和调优 Apache Spark 应用程序的设置。

·在自建的 Spark 中,这些参数可以通过命令行选项、配置文件或编程方式进行设置。

·在 DLC 标准引擎中,你可以在引擎上设置 Spark 参数,这些参数会在用户提交 Spark 作业或使用自定义配置提交交互式 SQL 时生效。

注意:1. 标准引擎引擎维度的配置只会在 Spark 作业、Batch SQL 任务上面生效。

注意:2. 添加引擎维度配置后,新任务才会生效。

一、设置标准 Spark 引擎参数

1. 进入标准引擎功能。

2. 在列表页选择需要配置的引擎。

3. 单击参数配置,弹出引擎参数侧拉窗。

4. 在“参数配置”中单击添加,添加目标配置后单击确认。

二、新建时添加参数

创建资源组时选择“仅 SQL 分析”,在最后的“参数管理”选择添加参数。

注意:1. 静态参数只能在资源组重启后生效,动态参数不需要重启资源组生效。

注意:2. 动态参数和静态参数可以参考 Spark 页面。

注意:3. 仅 SQL 分析资源组配置仅在使用该资源组运行 SQL 任务的时候生效。

三、修改资源组参数

1. 在标准引擎列表页,选择要修改的引擎,单击进入。

2. 在引擎的资源组管理页面,选择一个仅 SQL 分析资源组,单击详情。

3. 在详情页面,配置管理模块中单击编辑,可以添加参数或者修改、删除已经添加的参数。同理静态参数只能在资源组重启后生效,动态参数不需要重启资源组生效。

4. 修改完成后单击保存,此时你可以选择马上重启,也可以选择仅保存但不重启资源组,后续在合适的时机再重启资源组并使配置生效。

四、AI 资源组参数

注意:1. 当前只有 Spark MLlib 类型的 AI 资源组支持添加配置。

注意:2. 当前仅支持添加静态配置,配置只在新的 notebook session 上生效。存量 session 不生效。

注意:3. AI 资源组功能为开白功能,为确保能够符合你的使用场景,请 提交工单 联系我们进行评估后开通。

注意:4. 该资源组仅支持标准 Spark 引擎 Standard-S 1.1版本。

五、新建时添加参数

创建AI资源组的时候选择 Spark MLlib 类型,在最后的“参数管理”选择添加参数。

六、修改 AI 资源组参数

1. 在标准引擎列表页,选择要修改的引擎,单击进入。

2. 在引擎的资源组管理页面,选择一个Spark MLlib 类型资源组,单击详情。

3. 在详情页面,配置管理模块中单击编辑,可以添加参数或者修改、删除已经添加的参数。注意修改的参数仅在修改后拉起的 notebook session 生效,存量 session 不会生效。

七、数据探索参数

注意:1. 当前只有仅 SQL 分析资源组支持在数据探索页面添加参数。

注意:2. 注意只有动态的 spark 配置才能在后续执行的 SQL 中生效,静态参数无法生效。

注意:3. 数据探索处的配置优先级高于引擎级别和资源组级别的参数配置。

如图,在数据探索页面,数据引擎选择标准 Spark 引擎,资源配置选择资源组,页面上选择“高级配置”,可以添加配置。

如图可以选择内置的配置,也可以选择手动输入配置。

八、Spark 作业参数

注意:1. 作业参数修改后仅在后续启动的作业中生效,已经在运行中的作业不会生效。

注意:2. 作业参数优先级高于引擎级别参数。

九、新建作业添加参数

进入数据作业,单击创建作业,在作业参数中添加参数。

十、编辑已有作业的参数

1. 单击 数据作业,选在已有作业,单击编辑。

2. 在作业编辑页面,对作业的参数进行修改,修改完后单击完成修改。

赞 (0)
上一篇 5天前
下一篇 5天前