内容纲要
概要描述
本文描述HDFS进入安全模式,无法自行恢复,namenode日志报错Requested data length 69108864 is longer than maximum configured RPC length 67108864 类似报错的解决方案
详细描述
问题现象
HDFS namenode 进入安全模式, 50070页面显示
查看namenode日志报错
Root Cause
单个datanode上block数量过多,在启动时做block report时,由于rpc字节数限制,导致block report失败
解决方案
添加自定义参数
hdfs上添加自定义参数ipc.maximum.data.length 值为134217728 配置文件:core-site.xml
hadoop272 版本可以通用换包
protobuf-java-2.5.0.jar
hdfs镜像内替换相关路径
/usr/lib/hadoop/lib/protobuf-java-2.5.0.jar
/usr/lib/hadoop-hdfs/lib/protobuf-java-2.5.0.jar
换包参考KB 使用 Dockerfile 更换已有镜像的文件