实时处理练习

news/2024/5/20 4:29:18 标签: flume, nc, kafka, hdfs

文章目录

  • 1 提出任务
    • 1.1 实时数据采集
  • 2 完成任务
    • 2.1 创建Flume运行的配置文件
    • 2.2 安装netcat
    • 2.3 启动flume
    • 2.4 启动netcat
    • 2.5 Kafka消费数据
    • 2.5 查看HDFS上的备份数据

1 提出任务

1.1 实时数据采集

  1. 在主节点使用 Flume 采集实时数据生成器 10050 端口的 socket 数据,将数据存入到 Kafka 的 Topic 中(Topic 名称为 order,分区数为 4),使用 Kafka 自带的消费者消费 order(Topic)中的数据,将前 2 条数据的结果截图粘贴至客户端桌面【Release\任务
    D 提交结果.docx】中对应的任务序号下;
  2. 采用多路复用模式,Flume 接收数据注入 kafka 的同时,将数据备份到 HDFS 目录/user/test/flumebackup下,将查看备份目录
    下的第一个文件的前 2 条数据的命令与结果截图粘贴至客户端桌面【Release\任务 D 提交

http://www.niftyadmin.cn/n/5150927.html

相关文章

【MySQL事务篇】MySQL事务日志

MySQL事务日志 文章目录 MySQL事务日志1. 概述2. redo 日志2.1 概述2.2 redo log的好处、特点2.3 redo的组成2.4 redo的整体流程2.5 redo log的刷盘策略2.6 redo log file 参数设置相关 3. undo 日志3.1 概述3.2 Undo日志的作用3.3 undo的存储结构1. 回滚段与undo页2. 回滚段与…

Day13反转链表两两交换链表中的节点删除链表的倒数第N个节点链表相交环形链表II

反转链表 struct ListNode* reverseList(struct ListNode* head){struct ListNode* preNULL;while(head){struct ListNode* temphead->next;head->nextpre;prehead;headtemp;}return pre; }两两交换链表中的节点 struct ListNode* swapPairs(struct ListNode* head){st…

将其他库或目标的数据表,重新派生到库【方便封装】

将其他库或目标的数据表,重新派生到库【方便封装】 --策略功能说明: --将基于目标表及基础表完成派生及切换 ----------------------------------------

vscode设置保存后,自动格式化代码

第一步:打开setting.json文件 第二步:在setting.json中加入以下代码 "editor.formatOnType": true, "editor.formatOnSave": true, "editor.formatOnPaste": true

嵌入式Linux HID多指触控/触摸设备报表描述符

这里只做一下简单记录,更为详细的修改流程后续的文章再介绍。 报表描述符 0x05, 0x0D, // Usage Page (Digitizer) 0x09, 0x04, // Usage (Touch Screen) 0xA1, 0x01, // Collection (Application) 0x85, 0x01, // Report ID (1) 0…

关闭Dell xps 系列笔记本触控屏

【电脑】->【管理】->【设备管理器】 右键 禁用选择即可

UE5C++学习(一)--- 增强输入系统

一、关于增强输入系统的介绍 增强输入系统官方文档介绍 二、增强输入系统的具体使用 注:在使用方面,不会介绍如何创建项目等基础操作,如果还没有UE的使用基础,可以参考一下我之前UE4的文章,操作差别不会很大。 如上…

山西电力市场日前价格预测【2023-11-05】

日前价格预测 预测说明: 如上图所示,预测明日(2023-11-05)山西电力市场全天平均日前电价为192.40元/MWh。其中,最高日前电价为374.84元/MWh,预计出现在04:15。最低日前电价为0.00元/MWh,预计出…