【Flink 实战系列】Flink SQL 使用 filesystem connector 同步 Kafka 数据到 HDFS(parquet 格式 + snappy 压缩)

news/2024/5/20 5:31:11 标签: kafka, flink, sql, hdfs

Flink SQL 同步 Kafka 数据到 HDFS(parquet + snappy)

在上一篇文章中,我们用 datastream API 实现了从 Kafka 读取数据写到 HDFS 并且用 snappy 压缩,今天这篇文章我们来实现一个 Flink SQL 版本的,为了方便我直接采用 sql-client 提交任务的方式来演示。

添加 jar 包

截屏2022-10-05 下午2.25.52

第一步肯定是添加我们需要的 jar 包了,一共需要下面这几个 jar 包:

flink-connector-files-1.15.1.jar
flink-sql-connector-kafka-1.15.1.jar
flink-sql-parquet-1.15.1.jar
hadoop-mapreduce-client-core-2.9.0.jar

因为我们用的是 Flink SQL,那 flink-parquet 有一个专门为 SQL 使用而打的包 flink-sql-parquet-1.15.1.jar。


http://www.niftyadmin.cn/n/616353.html

相关文章

剑指offer—58.翻转单词顺序列—分析及代码(Java)

剑指offer——58.翻转单词顺序列——分析及代码[Java]一、题目二、分析及代码1. 两次翻转(1)思路(2)代码(3)结果2. 直接拼接(1)思路(2)代码(3&…

剑指offer—58_2.左旋转字符串—分析及代码(Java)

剑指offer——58_2.左旋转字符串——分析及代码[Java]一、题目二、分析及代码1. 两次翻转(1)思路(2)代码(3)结果2. 直接拼接(1)思路(2)代码(3&…

剑指offer—59.滑动窗口的最大值—分析及代码(Java)

剑指offer——59.滑动窗口的最大值——分析及代码[Java]一、题目二、分析及代码1. 辅助队列(1)思路(2)代码(3)结果三、其他一、题目 给定一个数组和滑动窗口的大小,找出所有滑动窗口里数值的最…

剑指offer—61.扑克牌顺子—分析及代码(Java)

剑指offer——61.扑克牌顺子——分析及代码[Java]一、题目二、分析及代码1. 判断间隔(1)思路(2)代码(3)结果三、其他一、题目 LL今天心情特别好,因为他去买了一副扑克牌,发现里面居然有2个大王,2个小王(一…

剑指offer—62.孩子们的游戏(圆圈中最后剩下的数)—分析及代码(Java)

toc 一、题目 每年六一儿童节,牛客都会准备一些小礼物去看望孤儿院的小朋友,今年亦是如此。HF作为牛客的资深元老,自然也准备了一些小游戏。其中,有个游戏是这样的:首先,让小朋友们围成一个大圈。然后&am…

剑指offer—64.求1+2+3+...+n—分析及代码(Java)

剑指offer——64.求123...n——分析及代码[Java]一、题目二、分析及代码1. 递归(1)思路(2)代码(3)结果三、其他一、题目 求 123…n,要求不能使用乘除法、for、while、if、else、switch、case 等…

剑指offer—65.不用加减乘除做加法—分析及代码(Java)

剑指offer——65.不用加减乘除做加法——分析及代码[Java]一、题目二、分析及代码1. 二进制运算(1)思路(2)代码(3)结果三、其他一、题目 写一个函数,求两个整数之和,要求在函数体内…

剑指offer—66.构建乘积数组—分析及代码(Java)

剑指offer——66.构建乘积数组——分析及代码[Java]一、题目二、分析及代码1. 辅助乘积数组(1)思路(2)代码(3)结果三、其他一、题目 给定一个数组A[0,1,…,n-1],请构建一个数组B[0,1,…,n-1]&a…