申请试用
HOT
登录
注册
 
云上全托管HDFS技术解析
0 点赞
0 收藏
0下载
Juicedata
/
发布于
/
13
人观看

本次分享介绍了 HDFS 在公有云环境中使用的挑战,替代方案的比较,Juicedata 实现全托管 HDFS 服务的新思路,以及在架构设计、兼容性、性能等方面的比较。

展开查看详情

1.已经上线的听众,欢迎加⼊本场直播的微信讨论群 与讲师交流

2.云上全托管HDFS技术解析 Juicedata,苏锐 2020/12/29

3. ⼤纲 • 公有云⼤数据存储的选择与差异 • 理想中的⼤数据存储 • JuiceFS 的架构设计与 HDFS 的异同 • 多应⽤⽣态融合 • Recap • Q&A

4.公有云⼤数据存储的选择与差异 HDFS S3 JuiceFS 全托管服务 N Y Y 存算分离 N Y Y 弹性伸缩 N Y Y ⽂文件系统兼容性 High Low High 元数据性能 High Low High I/O 吞吐 规模相关 High High 加速 数据本地性 N 本地缓存 成本 High Low Low

5. 理想的⼤数据存储 JuiceFS 的⽬目标 • 全托管服务 • 存储服务的运维是头⼤的 • 弹性伸缩 • 不⽤扩容,增效;提升利⽤率,降本 • ⾼可⽤,⾼性能,海量⽂件管理 • ⼤家都需要 • 完整的 POSIX 兼容

6. JuiceFS 的架构设计 先看看 HDFS 的架构设计 ZooKeeper DataNode1 JournalNode1 JournalNode2 NameNode DataNode2 JournalNode3 DataNode3 NameNode Standby HDFS Client (JVM)

7. JuiceFS 的架构设计 第⼀一步,数据存储服务化 Object Storage ZooKeeper DataNode1 JournalNode1 JournalNode2 NameNode DataNode2 JournalNode3 DataNode3 NameNode Standby HDFS Client (JVM)

8. JuiceFS 的架构设计 第⼀一步,数据存储服务化 Object Storage ZooKeeper NameNode DataNode1 JournalNode1 不需要⾃⼰做 DataNode 状态管理了 JournalNode2 NameNode DataNode2 JournalNode3 DataNode3 NameNode Standby HDFS Client (JVM)

9. JuiceFS 的架构设计 第⼆二步,⽹网络通信改造 Object Storage ZooKeeper NameNode DataNode1 JournalNode1 不需要⾃⼰做 DataNode 状态管理了 JournalNode2 NameNode DataNode2 JournalNode3 DataNode3 NameNode Standby HDFS Client (JVM)

10. JuiceFS 的架构设计 第⼆二步,⽹网络通信改造 Object Storage ZooKeeper NameNode DataNode1 JournalNode1 不需要⾃⼰做 DataNode 状态管理了 JournalNode2 NameNode DataNode2 JournalNode3 DataNode3 NameNode Standby HDFS Client (JVM)

11. JuiceFS 的架构设计 第⼆二步,⽹网络通信改造 Object Storage ZooKeeper NameNode DataNode1 JournalNode1 不需要⾃⼰做 DataNode 状态管理了 JournalNode2 NameNode DataNode2 JournalNode3 DataNode3 NameNode Standby HDFS Client (JVM)

12. JuiceFS 的架构设计 第⼆二步,⽹网络通信改造 ZooKeeper NameNode Object Storage JournalNode1 不需要⾃⼰做 DataNode 状态管理了 JournalNode2 NameNode JournalNode3 NameNode Standby HDFS Client (JVM)

13. JuiceFS 的架构设计 第⼆二步,⽹网络通信改造 Client VPC ZooKeeper NameNode JournalNode1 不需要⾃⼰做 DataNode Object Storage 状态管理了 JournalNode2 NameNode JournalNode3 NameNode Standby HDFS Client (JVM)

14. JuiceFS 的架构设计 第三步,元数据服务改造 Cloud Region Client VPC ZooKeeper NameNode JournalNode1 不需要⾃⼰做 DataNode Object Storage 状态管理了 JournalNode2 NameNode JournalNode3 NameNode Standby TLS via EIP Data via HTTPs HDFS Client (JVM)

15. JuiceFS 的架构设计 第三步,元数据服务改造 Cloud Region Client VPC JuiceFS Full Managed Meta Service Follower Object Storage Leader Follower Meta via TLS Data via HTTPs HDFS Client (JVM)

16. JuiceFS 的架构设计 第四步,客户端改造 Cloud Region Client VPC JuiceFS Full Managed Meta Service Follower Object Storage Leader Follower Data via HTTPs Meta via TLS FUSE Client JNI Java SDK HDFS API Application

17. JuiceFS 的架构设计 POSIX 与 HDFS 的差异 • rename • POSIX - 当⽬标存在时会覆盖掉 • HDFS - 当⽬标存在时不会覆盖 • 递归删除 • POSIX - 不⽀持 • HDFS - ⽀持 • 符号链接 • POSIX - 能直接看到 • HDFS - 不能直接看到

18. JuiceFS 的架构设计 POSIX 与 HDFS 的差异 • 元数据设计 • POSIX - 基于 inode,需要⼀层层递归查找 • HDFS - 基于 path,可以⼀次拿到完整信息 • JuiceFS 在 Java SDK 中做了⼀个优化,⽀持基于 inode 做多级查找,⼀次得到最终 的 inode

19.JuiceFS 的架构设计 谈谈性能

20. JuiceFS 的架构设计 如何写数据 chunk 64MB slice 64 bits id object 4MB Compressed using Zstd /chunks/1/1024/1024123_0_4194304 /foo /chunks/1/1024/1024123_1_4194304 /chunks/1/1024/1024123_2_256

21. JuiceFS 的架构设计 如何提供 Data Locality 数据通过⽂文件名等属性,使⽤用⼀一致性哈希算法在计算集群中分配 Location,并在该节点本地缓存。 调度器器通过 HDFS API 可以获得 Location,并将计算任务调度到该节点,即可命中该节点上的本地缓存。

22.JuiceFS 的架构设计 元数据也能缓存 更更 新 Client A 数据 , 元 变 更更 ⽂文件 JuiceFS 推送 Client B 元数据服务 推送 Client C

23.多应⽤⽣态融合 POSIX 带来的优势 JuiceFS

24. Recap • 基于 HDFS 架构,如何⼀步步实现全托管服务的架构改造; • 如何实现⾼可⽤、强⼀致、弹性伸缩、本地缓存等⼤数据领域的核⼼特性; • POSIX 兼容带来的多应⽤⽣态融合。

25.Thank You

0 点赞
0 收藏
0下载