二、创建 Oceanus 集群
在 流计算 Oceanus 控制台的计算资源 > 新建,创建集群,选择地域、可用区、VPC、存储、日志、设置初始密码等。创建完后的集群如下:
四、创建 VPC 私有网络
私有网络是一块你在腾讯云上自定义的逻辑隔离网络空间,在构建 MySQL、EMR、TCHouse-C 集群等服务时选择的网络必须保持一致,网络才能互通,否则需要使用对等连接、VPN 等方式打通网络。
登录 私有网络 控制台,选择私有网络 > +新建,新建私有网络。
五、创建云数据库 MySQL 服务
云数据库 MySQL(TencentDB for MySQL)是腾讯云基于开源数据库 MySQL 专业打造的高性能分布式数据存储服务,让用户能够在云中更轻松地设置、操作和扩展关系数据库。
1. 登录 云数据库 TencentDB 控制台,选择实例列表 > 新建,新建实例。
2. 新建 MySQL 服务时,网络需要选择之前创建的。
3. 创建完 MySQL 服务后,需要修改 binlog 参数,如图修改为 FULL(默认值为 MINIMAL)。
4. 修改完参数后,登录 MySQL 创建示例所需要的数据库和数据库表。
六、创建数据库 mysqltestdb
1. 登录 MySQL 创建示例所需要的数据库。
2. 打开 SQL 窗口或者单击可视化页面创建数据库及表。
七、新建数据库
create database mysqltestdb;
在新建的数据库上新建表 student:
create table `student` ( `id` int(11) not null auto_increment comment '主键id', `name` varchar(10) collate utf8mb4_bin default '' comment '名字', `age` int(11) default null comment '年龄', `create_time` timestamp null default current_timestamp comment '数据创建时间', primary key (`id`)) engine=innodb auto_increment=4 default charset=utf8mb4 collate=utf8mb4_bin row_format=compact comment='学生表'
八、Student 表中插入数据
insert into mysqltestdb.student(id,name,age) values(1,“xiaomin”,20);
九、创建 EMR 集群
弹性 MapReduce 是云端托管的弹性开源泛 Hadoop 服务,支持 Spark、HBase、Presto、Flink、Druid 等大数据框架,本次示例主要需要使用 HBase 组件。
1. 登录 弹性 MapReduce 控制台,选择集群列表 > 新建集群,开始新建集群,具体可参考 创建 EMR 集群。新建集群时,需选择安装 HBase 组件。
如果是生产环境,服务器配置可根据实际情况选择。网络需要选择之前创建好的 VPC 网络,始终保持服务组件在同一 VPC 下。
2. 在集群列表中,单击新建的集群 ID/名称,进入集群详情页。选择集群资源 > 资源管理,即进入 HBase 的 Master 节点。
3. 进入 云服务器控制台,搜索 EMR 实例 ID,然后单击登录进入服务器。
4. 创建 Hbase 表。
# 进入HBase命令root@172~# hbase shell
进入 hbase shell,并新建表:
# 建表语句 create ‘dim_hbase’, ‘cf’# 插入数据 put ‘dim_hbase’,’1’,’cf:name’,’MingDeSchool’
十一、新建集群
1. 登录 云数据仓库 TCHouse-C 控制台,选择集群列表 > 新建集群,新建集群。
2. 选择网络选择之前新建的 VPC 网络(依然保证各服务在同一网络)。
十二、登录 TCHouse-C
在之前新建的 EMR 下选择一台云服务器单击登录,最好选择带有外网 IP 的节点。
十三、安装 ClickHouse 客户端
在此机器上安装 ClickHouse 客户端,clickhouse-client 安装可参见 快速入门。
十四、登录客户端
登录客户端示例如下:
clickhouse-client -h用户自己的ClickHouse服务IP –port 9000
新建数据库:
create database testdb on cluster default_cluster;
新建表:
CREATE TABLE testdb.student_school on cluster default_cluster (`id` Int32,`name` Nullable(String),`school_name` Nullable(String),`Sign` Int8) ENGINE = ReplicatedCollapsingMergeTree('/clickhouse/tables/{layer}-{shard}/testdb/ student_school, '{replica}', Sign) ORDER BY id;
十六、数据准备
按照上面的操作创建表,并向 MySQL 和 HBase 表中插入数据。
十七、创建 Flink SQL 作业
在流计算 Oceanus 控制台创建 SQL 作业,选择响应的内置 Connector。
十八、Source 端
MySQL-CDC Source:
–学生信息作为cdc源表CREATE TABLE `student` ( `id` INT NOT NULL, `name` varchar, `age` INT, proc_time AS PROCTIME(), PRIMARY KEY (`ID`) NOT ENFORCED) WITH ( 'connector' = 'mysql-cdc', — 必须为 'mysql-cdc' 'hostname' = 'YoursIp', — 数据库的 IP 'port' = '3306', — 数据库的访问端口 'username' = '用户名', — 数据库访问的用户名(需要提供 SHOW DATABASES, REPLICATION SLAVE, REPLICATION CLIENT, SELECT, RELOAD 权限) 'password' = 'YoursPassword, — 数据库访问的密码 'database-name' = 'mysqltestdb', — 需要同步的数据库 'table-name' = 'student' — 需要同步的数据表名);
HBase 维表:
–示例使用school学校信息作为维表CREATE TABLE dim_hbase ( rowkey STRING, cf ROW <school_name STRING>, — 如果有多个列簇,写法 cf Row<age INT,name String> PRIMARY KEY (rowkey) NOT ENFORCED) WITH ( 'connector' = 'hbase-1.4', 'table-name' = 'dim_hbase', 'zookeeper.quorum' = '用户自己的hbase服务器zookeeper地址,多个用逗号隔开');
十九、Sink 端
创建到 TCHouse-C 的创建表语句。
–关联后存入clickhouse表CREATE TABLE `student_school` ( stu_id INT, stu_name STRING, school_name STRING, PRIMARY KEY (`id`) NOT ENFORCED) WITH ( — 指定数据库连接参数 'connector' = 'clickhouse', 'url' = 'clickhouse://yourIP:8123', — 如果TCHouse-C集群未配置账号密码可以不指定 –'username' = 'root', –'password' = 'root', 'database-name' = 'testdb', 'table-name' = ' student_school ', 'table.collapsing.field' = 'Sign');
20、进行逻辑运算
此示例中,只进行了简单的 Join 没有进行复杂的运算。详细运算逻辑可参见 Oceanus 运算符和内置函数。
INSERT INTO student_schoolSELECT student.id as stu_id, student.name as stu_name, dim_hbase.cf.school_nameFROM student JOIN dim_hbase for SYSTEM_TIME as of student.proc_time ON CAST(student.id AS STRING) = dim_hbase.rowkey;
21、结果验证
在数据库中查询数据是否正确。
select * from testdb.student_school;