【HDFS】DatanodeAdminBackoffMonitor退役节点极慢的问题定位

news/2024/5/20 4:09:10 标签: hdfs, hadoop, 大数据

一、现象：

下节点特别慢。10台节点，每台大约需要退役60w个块。但是3个小时才退役了3000多个块。

NN侧如下日志，可以看到30秒只退役了512-494 = 20个块，这要是退役600w个块，得猴年马月？

2024-03-19 14:44:42,952 INFO org.apache.hadoop.hdfs.server.blockmanagement.DatanodeAdminBackoffMonitor: There are 10000 blocks pending replication and the limit is 10000. A further 6174331 blocks are waiting to be processed. The replication queue currently has 112518 blocks

2024-03-19 14:45:12,972 INFO org.apache.hadoop.hdfs.server.blockmanagement.DatanodeAdminBackoffMonitor: There are 10000 blocks pending replication and the limit is 10000. A further 6174331 blocks are waiting to be processed. The replication queue currently has 112494 blocks

NN监控里，也能发现不少块复制超时了。

DN侧监控，发现只有一台节点在处理复制任务，它的XmitsInProgress线程数不为0，其它的DN都为0ÿ

http://www.niftyadmin.cn/n/5442465.html

晶体管-二极管三极管MOS管选型参数总结

🏡《总目录》目录 1，概述2，二极管选型参数2.1，类型（Type）2.2，最大整流电流（IF）2.3，反向击穿电压（VRRM）2.4，正向压降（VF）2.5，反向电流（IR）2.6，结温（Tj）2.7，热阻（Rth）2.8，频率特性2.9，包装类型

理解树的结构-算法通关村

理解树的结构-算法通关村 1.树的结构树是一个有n个有限节点组成一个具有层次关系的集合，每个节点有0个或者多个子节点，没有父节点的节点称为根节点，也就是说除了根节点以外每个节点都有父节点，并且有且只有一个。树的种类比较多…

9.【Linux】基于信号量和环形队列的生产者消费者模型实现

引言本文将通过posix信号量和一个环形队列一步一步实现生产者消费者模型基本框架构思准备文件需要一个makefile，一个sem.hpp用于封装信号量，一个CQ.hpp用于封装环形队列，一个Task.hpp用于分发任务，一个test.cc用于主函数调…

js 输出一个相加后的整数。

等差数列 2，5，8，11，14。。。。 （从 2 开始的 3 为公差的等差数列） 输出求等差数列前n项和输入：275 输出：113575const rl require("readline").createInterface({ input…

谈谈对跨站请求伪造（CSRF）的理解及其防御措施

一、谈谈对跨站请求伪造（CSRF）的理解及其防御措施跨站请求伪造（CSRF），也被称为One Click Attack或者Session Riding，是一种对网站的恶意利用方式。它利用受害者尚未失效的身份认证信息（如cook…

cfd软件

xflowOpenFOAM OpenFOAM官网—OpenFOAM源码 Lattice Boltzmann Method, LBM -OpenLB FluidX3D FluidX3D

记一次由于buff/cache导致服务器内存爆满的问题

目录前言复现登录服务器查看占用内存进程排行先了解一下什么是buff/cache？ 尝试释放buffer/cache /proc/sys/vm/drop_caches dirty_ratio dirty_background_ratio dirty_writeback_centisecs dirty_expire_centisecs drop_caches page-cluster swap…

web前端笔记+表单练习题+五彩导航栏练习题

web前端笔记 1-骨架快捷方式!enter<!DOCTYPE html><html lang"en"><head><meta charset"UTF-8"><meta name"viewport" content"widthdevice-width, initial-scale1.0"><title>骨架部分</titl…

【HDFS】DatanodeAdminBackoffMonitor退役节点极慢的问题定位

一、现象：

相关文章