本文遵循BY-SA版权协议，转载请附上原文出处链接。

本文作者: 黑伴白

本文链接: http://heibanbai.com.cn/posts/8ed6e562/

推送文件到HDFS报错-Not replicated yet

在通过hdfs dfs -put命令写文件到HDFS时，可能会遇到Not replicated yet的错误，如何处理？

原因分析

“Not replicated yet” 特指文件数据尚未完成副本复制流程，是 HDFS 中与数据可靠性机制直接相关的状态提示。要理解这一状态，需先明确 HDFS 的核心设计 —— 通过 “多副本存储” 保障数据容错性，而该提示正反映了副本创建过程中的中间状态或异常。

1. 核心含义：HDFS 副本机制的 “未完成状态”

HDFS 默认会为每个文件块（Block，HDFS 存储的基本单位，默认 128MB/256MB）创建3 个副本（可通过dfs.replication参数配置），并将副本分散存储在不同 DataNode（数据节点）上，避免单节点故障导致数据丢失。
当出现 “Not replicated yet” 时，意味着：

• 目标文件的部分 / 全部数据块，尚未达到配置的副本数量（例如仅创建了 1 个副本，未完成剩余 2 个的复制）；
• 副本复制流程仍在进行中，或因某种原因停滞，数据暂未达到 HDFS 的 “可靠存储标准”。

2. 常见触发场景

该状态通常出现在以下情况，需结合 HDFS 运行机制判断：

场景类型	具体原因	示例场景
正常流程中的中间状态	文件刚上传至 HDFS（如通过hdfs dfs -put命令），副本复制正在后台执行，尚未完成。	向 HDFS 上传 10GB 大文件，文件已分片存储，但部分 Block 的 3 个副本未全部创建完毕，此时会显示 “Not replicated yet”。
DataNode 资源不足	负责存储副本的 DataNode 磁盘满、内存不足，或节点宕机，导致副本无法创建。	HDFS 集群中某个 DataNode 磁盘使用率达 100%，而新上传文件的 Block 需要在该节点创建副本，复制流程卡住，状态持续 “未复制”。
副本配置冲突	单个文件的副本数配置（dfs.replication）高于集群可用 DataNode 数量，无法满足副本分散存储要求。	集群仅 2 个可用 DataNode，但文件副本数配置为 3，HDFS 无法找到第 3 个节点存储副本，导致 “Not replicated yet”。
HDFS 服务异常	NameNode（命名节点）与 DataNode 通信故障，或 DataNode 心跳丢失，导致副本创建指令无法下发 / 执行。	NameNode 因网络波动暂时无法接收某 DataNode 的心跳，认为该节点不可用，停止向其分配副本创建任务，未完成的副本状态停滞。

当然，一般情况下不是因为上述原因引起的，很大可能是因为当时集群压力比较大，导致副本写入失败，后面重新执行就会成功。那么，对于这种低概率又无法实时复现的异常应该如何处理？

解决方案

可以在HDFS命令行中增加重试机制来处理这种因集群压力问题导致副本复制失败的问题，示例：

hdfs dfs -D dfs.client.block.write.locateFollowingBlock.retries=9 -D ipc.client.connect.retry.interval=2000 -put a.txt /tmp

参数说明：

-D dfs.client.block.write.locateFollowingBlock.retries=9：这是 HDFS 客户端的一个配置参数，用于控制在写入文件过程中，当客户端需要定位 “下一个数据块”（例如，当前块写满后需要分配新块）时，如果遇到失败（如与 NameNode 通信超时、DataNode 不可用等），客户端会自动重试的最大次数

这个参数通常在以下情况中使用：

1. 集群网络不稳定：当客户端与 NameNode 或 DataNode 之间网络波动较大，可能导致 “定位下一个块” 的请求偶尔失败，增加重试次数可提高写入成功率。
2. 大文件写入：写入大文件时需要频繁分配新块，若集群负载较高（如 NameNode 响应慢），增加重试次数可减少因临时超时导致的写入失败。
3. 调试或临时测试：临时调整重试次数，观察是否因默认重试次数不足导致写入失败，以排查问题。

-D ipc.client.connect.retry.interval=2000：用于在执行 HDFS 客户端操作时，临时设置 IPC（Inter-Process Communication，进程间通信）连接的重试间隔时间（毫秒）。这一参数主要影响客户端与 HDFS 服务端（如 NameNode 或 DataNode）建立连接时的重试策略

该参数通常在以下情况中使用：

1. 网络延迟较高的环境：若客户端与集群（尤其是 NameNode）之间网络延迟较大，默认 1 秒的重试间隔可能过短，导致在服务端尚未恢复时就频繁重试，反而浪费资源。适当延长间隔（如 2 秒）可提高重试效率。
2. 服务端负载波动大：当 NameNode 或 DataNode 临时负载过高（如处理大量请求），短时间内无法响应连接请求时，延长重试间隔可减少对服务端的额外压力，等待服务端恢复后再重试。
3. 临时调试：通过调整间隔时间，观察是否因重试过于频繁或间隔过短导致连接失败，辅助排查网络或服务端稳定性问题。

另外，也可以在core-site.xml中增加参数配置：

• ipc.client.connect.max.retries
• ipc.client.connect.retry.interval
• ipc.client.connect.timeout

实践出真知，有没有效果试下~

---

蚂蚁🐜再小也是肉🥩！