一、操作步骤
1. 创建 Spark 引擎,详情请参见 购买独享数据引擎。
2. 添加缓存配置,进入 DLC 控制台 > SuperSQL引擎,选择步骤1创建的引擎,单击参数配置,将 缓存配置项说明 中的配置项添加到引擎配置中。
Spark SQL 引擎配置:
注意:说明:
注意:添加配置后,引擎集群会重启,建议在没有跑任务的情况下开启缓存,避免影响正在运行的任务。
3. 使用引擎缓存,进入 数据探索,SQL 界面编写查询 SQL,选择开启缓存的引擎,执行 SQL,执行完毕。引擎会将 SQL 中涉及的 DLC 外表缓存到本地,当再次执行 SQL 时,数据会从本地缓存获取,提升查询效率。
Spark SQL 引擎查询:
Spark Batch 引擎查询:
二、缓存配置项说明
| 配置项 | 配置值 | 配置项说明 |
| spark.hadoop.fs.cosn.impl | alluxio.hadoop.ShimFileSystem | 固定值;配置值为缓存功能实现类。配置该值为开启缓存功能;开启缓存功能时,若配置非该值的其他值,会导致引擎访问不到 COS 数据,请谨遵指引配置。若开启缓存后需关闭缓存,请删除该配置项。 |
三、缓存使用说明
1. 引擎类型说明
SparkSQL 引擎:当引擎重新启动后,因缓存为本地缓存,故原缓存的数据会失效。
SparkBatch 引擎:SparkBatch 引擎运行任务为 Session 级别,任务执行完,缓存数据失效。
2. 表类型说明
目前只缓存 DLC 外表。