消费flume的数据无法上传到HDFS

news/2024/5/20 1:30:35 标签: hdfs, flume, hadoop

问题:打开hadoop102:9870发现没有出现flume的数据

检查采集flume这部分,在kafka里可以读取到数据,说明是消费flume这部分出错,检查日志信息。

使用消费flume启动停止脚本,可以看到日志信息是在 /opt/module/flume/log2.txt 这个位置的。

#! /bin/bash

case $1 in
"start"){
        for i in hadoop104
        do
                echo " --------启动 $i 消费flume-------"
                ssh $i "nohup /opt/module/flume/bin/flume-ng agent --conf-file /opt/module/flume/conf/kafka-flume-hdfs.conf --name a1 -Dflume.root.logger=INFO,LOGFILE >/opt/module/flume/log2.txt   2>&1 &"
        done
};;
"stop"){
        for i in hadoop104
        do
                echo " --------停止 $i 消费flume-------"
                ssh $i "ps -ef | grep kafka-flume-hdfs | grep -v grep |awk '{print \$2}' | xargs -n1 kill"
        done

};;
esac

打开log2.txt,报错内容是无法使用lzop的压缩方式,参考flume 写入hdfs 采用lzo格式压缩,出现压缩格式支持错误_Always_Best_Sign_X的博客-CSDN博客_flume hdfs 压缩文件

 这篇文章第二步我没找到那个包,直接去 mvnrepository 下载已经编译好的jar包,hadoop-lzo-0.4.20.jar

在第二步里common如果没有那个包,把下载好的放进去,不然影响后续lzop的使用


http://www.niftyadmin.cn/n/1302389.html

相关文章

mybatis的使用及源码分析(十一) mybatis配置延迟加载

上两章学习了mybatis一对多、多对一的分步、嵌套查询方式,嵌套的查询方式可以使用延迟加载,达到按需加载的目的,提高查询效率 本项目搭建源码:https://github.com/zhuquanwen/mybatis-learn/releases/tag/for-lazy 搭建过程&…

mybatis的使用及源码分析(十二) mybatis延迟加载源码分析

本项目搭建源码:https://github.com/zhuquanwen/mybatis-learn/releases/tag/for-lazy 使用上文的源码:https://blog.csdn.net/u011943534/article/details/108542522 分析延迟加载的源码 1 先找到Configuration类,找到XML对应的配置项 pu…

navicat连接mysql8+出现Client does not support authentication protocol requested...的解决办法

当我使用MSI方式安装了8.0.21的新版mysql后,迫不及待的使用navicat连接mysql服务,但发现连接不成功,此问题在每次搭建mysql服务后都会出现,找了下以前的解决办法,又一次解决了问题。 上网搜寻了下问题的原因是:mysql8 之前的版本中…

使用screw生成数据库文档

发现一个数据库文档生成工具screw&#xff0c;在写文档过程中还是很有用的 screw项目地址&#xff1a;https://gitee.com/leshalv/screw 1、引入依赖 maven: <!-- https://mvnrepository.com/artifact/cn.smallbun.screw/screw-core --> <dependency><groupId…

springboot学习(三十四) springboot+stomp+sockJs在spring5.3以上报跨域问题的处理

将springboot升级到2.4.0后websocket报跨域问题,报错如下&#xff1a; When allowCredentials is true, allowedOrigins cannot contain the special value "*"since that cannot be set on the “Access-Control-Allow-Origin” response header. To allow credenti…

练习实现简易版spring

练习写一个简易版的spring ioc springmvc的功能 源码地址&#xff1a;https://github.com/zhuquanwen/spring-learn-01.git 直接上代码&#xff1a; web.xml <?xml version"1.0" encoding"UTF-8"?> <web-app xmlns"http://java.sun.co…

spring-cloud-kubernetes学习(一) 编写第一个spring-cloud-kubernetes例子并在kubernetes中测试

在springcloud生态中&#xff0c;服务治理与注册中心等都有相应的组件。如eureka、hystrix&#xff0c;ribbon等。但是kubernetes组件也有服务发现、负载均衡的组件&#xff0c;我们可以借助于sping-cloud-kubernetes组件为我们提供的服务发现、负载均衡等来摈弃像eureka这样的…

使用registry搭建私服并调用接口

1、安装docker 略 2、拉取私服镜像 docker pull registry3、启动 docker run -d -v /opt/registry:/var/lib/registry -p 5000:5000 --restartalways --name registry registry:latest4、查看安装情况 docker ps 看到镜像在运行就是安装成功了 5、HTTP Restful接口 (1) http…