hdfs数据丢失数据块block missing问题排查解决

news/2024/5/20 3:40:01 标签: hdfs, hadoop, 大数据

组件:HDFS/cube-hdfs-1 
告警内容:NameNode Blocks Health:Total Blocks:[13352317], Missing Blocks:[1]
开始时间:2023-10-02 08:05:12
持续时间:8小时44分钟

  • hadoop会在6个小时候自动检测并修复
主动发现阶段:
当数据块损坏后,DN节点执行directoryscan操作(间隔6小时)之前,不会发现损坏。
dfs.datanode.directoryscan.interval : 21600
主动回复阶段:
在DN向NN进行blockreport(间隔6小时)前,都不会恢复数据块; 
dfs.blockreport.intervalMsec : 21600000

当NN收到blockreport才会进⾏行行恢复操作(也就是12小时之后)
  • 手工重启hdfs服务后会自动修复
重启hdfs服务会进行坏块检测,若发现坏块就会进行主动修复(不定期的重启集群服务对数据块的保护有很大的益处)

但是数据一直没法恢复

排查hdfs datanode日志发现

java.io.IOException: Requested data length 67889237 is longer than maximum configured RPC length 67108864.  RPC came from 10.162.3.12

解决:

修改NameNode的hdfs-site.xml配置文件,添加以下配置:

<property>
    <name>ipc.maximum.data.length</name>
    <value>134217728</value>
</property>

允许ipc通讯最大的数据包为128MB,默认配置为64MB。

最后平滑重启NameNode,在重启异常的DataNode解决。


http://www.niftyadmin.cn/n/5071851.html

相关文章

基于PSD-ML算法的语音增强算法matlab仿真

目录 1.算法运行效果图预览 2.算法运行软件版本 3.部分核心程序 4.算法理论概述 1.加窗处理&#xff1a; 2.分帧处理&#xff1a; 3.功率谱密度估计&#xff1a; 4.滤波处理&#xff1a; 5.逆变换处理&#xff1a; 6.合并处理&#xff1a; 5.算法完整程序工程 1.算法…

C# OpenCvSharp Yolov8 Pose 姿态识别

效果 项目 代码 using OpenCvSharp; using OpenCvSharp.Dnn; using System; using System.Collections.Generic; using System.ComponentModel; using System.Data; using System.Drawing; using System.Linq; using System.Text; using System.Windows.Forms;namespace OpenC…

仓库数据增量更新加载算法(支持混乱日期跑批)

1、 建库及测试数据插入脚本 --建增量更新目标表 -- Create table create table EDW_T100_BAL_IU ( ID VARCHAR2(8) not null,BAL NUMBER(22,2),UPDATE_DT VARCHAR2(8) ); -- Add comments to the table comment on table EDW_T100_BAL_IUis 余额&#xff08;增…

嵌入式养成计划-34--函数库

七十二、 函数库 1. 库的概念 库是一个二进制可执行文件&#xff0c;与二进制可执行程序比较&#xff0c;库是不能单独运行的。 库中存放的是功能函数&#xff0c;没有主函数&#xff08;main函数&#xff09; 库需要被载入到内存中使用 标准的基础库中存放了很多已经写好的…

COLMAP安装问题汇总

问题目录 问题0、没有root权限怎么安装colmap&#xff1f;问题1、ERROR: SiftGPU not fully supported/Could not connect to any X display问题2、Cannot specify include directories for imported target "freeimage::FreeImage".问题3、could not find ZL4问题4、…

C++用hiredis访问redis

C用hiredis访问redis 常用函数应用例子 常用函数 1&#xff09;redisContext* redisConnect(const char *ip, int port) 用于建立与Redis数据库的连接。 2&#xff09;void redisFree(redisContext *c) 用于释放与Redis数据库的连接。 3&#xff09;redisReply* redisComman…

fslmaths/fslstats/fslmeants

一、fslmaths fslmaths是一个功能非常强大的图像计算器&#xff0c;可以用来执行各种各样的图像处理。 # Usage: fslmaths [-dt <datatype>] <first_input> [operations and inputs] <output> [-odt <datatype>]-dt 设置用于计算的数据类型&#xff0…

文献综述|CV领域神经网络水印发展综述

前言&#xff1a;最近接触了「模型水印」这一研究领域&#xff0c;阅读几篇综述之后&#xff0c;大致了解了本领域的研究现状&#xff0c;本文就来总结一下该领域的一些基础知识&#xff0c;以飨读者。 ⚠️注&#xff1a;本文中出现的研究工作均基于计算机视觉任务开展&#x…