关于HDFS数据传输的问题
HDFS通信有client和NameNode以及DataNode两部分。NameNode获取元数据,定位到具体DataNode,然后去DataNode读取相应的文件数据。与其去解包分析,不如修改源码直接打印通信细节来的经济实惠。
■网友
HDFS client读取集群数据过程比较复杂,涉及到client与namenode及datanode之间的通讯。与其tcpdump抓包分析,不如看一下架构文档。Hadoop分布式文件系统:架构和设计
■网友
1. 可以2. 可以1的前提是你的集群并没有in secure mode。意思是集群http通讯没有加一层ssl; rpc之间没有使用encryption算法; node之间没有用sasl协议或者不是用privilege模式启动的。大多数情况下,普通玩家,学习者,肯定是没开secure mode的。不过协议的格式很复杂,看过源码就知道了。
■网友
数据由socket流传输的,应该能抓到,不过要分析可能有点麻烦。发过来的数据是以包为单位的,一个包最多64KB或4KB(还是16KB来着?),包格式固定,主要包括包头(包长,该包在数据块偏移量等)、校验数据(512个字节原数据产生4字节校验数据)和实际数据等。也就是说发过来的包不仅仅是你想要的数据,所以你还是得知道包帧格式,不过就算你知道了包格式,找到了一个包的数据部分,也不是那么好分析,你难道要自己校验?有可能某个多字节字符刚好分布在上一个包的结束和这个包的开头呢,socket流发送是二进制形式的。
■网友
我猜应该是是加密通讯,TLS/SSL,所以你抓不到的应该。。。不过不确定啊
推荐阅读
- 过节■江苏省委省政府办公厅下发关于做好2021年元旦春节期间有关工作的通知
- |徐州市出台《关于优化创新创业生态系统 提升区域科技创新活力的实施意见》及实施细则
- 雨下|全球关于禁售燃油车只是理论上可行吗
- 关于用phpfsocket 写Post, 模拟http 报文怎样写入要传输的处理数据
- 智叔|很多家长还在整箱买:谈谈关于牛奶的17个真相警惕这些列入黑名单的“假牛奶”
- 关于微信小程序的思考:运营者该何去何从
- 关于人工智能虚拟人的一些问题
- 知乎上关于人生经验的介绍是否可能对青少年造成潜在危害
- 写下我关于做数据分析专员的困惑和各位的建议是
- 非物质文化遗产|市北文体中心一场关于“非遗”的盛会…
