当前位置: 首页 > news >正文

【HDFS】FsDatasetImpl#recoverClose方法

  • recoverClose的目的
  • recoverClose的过程
  • recoverClose的调用点

一、前言

HDFS客户端写文件时,如果某个datanode发生错误或者异常。客户端会把这个datanode从pipeline里踢除,然后进行pipiline recovery,用剩余datanodes去写或者满足一定的条件时补充新的datanode到pipeline中写。在继续向新的pipeline写数据之前,要把已经写了的副本用一个newGS去给finalized掉,并且添加到datanode的volumeMap里。 之后客户端的DataStreamer会根据当前的pipeline的状态去选择继续写还是endBlock(这取决于packet是否是block的最后一个packet)。如果发生错误时传输的packet不是block的最后一个packet,那么就把stage置为BlockConstructionStage.DATA_STREAMING,然后继续用剩余的datanodes写,注意这里已经做了pipeline recovery,执行过了updatePipeline,因此写的副本的GS是newGS。

这么做的原因是:把已经写入的部分给成功落盘并添加副本集合里,防止后续pipeline里的节点再出问题导致副本又丢了一份。而且在pipeline恢复成功时,DataNode侧的DataXceiver#writeBlock方法里,会调用notifyNamenodeReceivedBlock,向namenode进行此block的IBR汇报。

二、recoverClose的逻辑

目标:用于恢复一个failed pipeline的close。
此方法会增加repli

http://www.lryc.cn/news/12844.html

相关文章:

  • 加油站会员管理小程序实战开发教程15 完结篇
  • 学习 Python 之 Pygame 开发坦克大战(五)
  • 【ROS】Windows系统安装ROS体验
  • 第1讲-初步认识数据库系统(测试题总结)
  • 进程-操作系统结构
  • 【网络原理6】数据链路层协议——以太网
  • 组合数学原理与例题
  • 【机器学习 深度学习】通俗讲解集成学习算法
  • 汉字----dgfont
  • C# chart绘图 鼠标响应
  • 结构体与引用
  • 13.罗马数字转整数
  • JVM垃圾回收机制
  • Java File类、IO流、Properties属性类
  • MySQL备份恢复(十二)
  • 【Java|golang】1792. 最大平均通过率---封装最小堆
  • PHP 页面静态化
  • 【Python】进制、计算机中的单位、编码、数据类型、索引、字符串切片、字符串的功能方法
  • 基于android的无人健身房
  • 带你Java基础入门
  • VNCTF 2023 - Web 象棋王子|电子木鱼|BabyGo Writeups
  • 「JVM 编译优化」插入式注解处理器(自定义代码编译检查)
  • 一文彻底理解大小端和位域 BIGENDIAN LITTLEENDIAN
  • 面试准备知识点与总结——(虚拟机篇)
  • spring cloud 集成 seata 分布式事务
  • k8s篇之概念介绍
  • JavaScript学习第1天:浏览器组成、JS的组成、变量、数据类型转化、运算符、while和do...while循环
  • 【Flutter入门到进阶】Dart进阶篇---Dart多线程异步原理
  • WEB系列(二)-----------XSS
  • [python入门㊾] - python异常中的断言