“星”技术|常见并行文件系统的高手大对决-安全篇

汹涌的后浪

StarFS是星实推出的以性能为中心的并行文件系统,星实结合在文件系统领域的十多年经验结晶。系统通过元数据集群,系统容量最大可以扩展到EB级别,文件数量不限制。StarFS系统集高性能、高可靠、易维护为一体。

主要结合存储的实际使用上,StarFS不同于现有常见HPC并行文件系统的安全性策略,具备能够大幅度提升数据安全性和文件系统服务连续性的功能特性。

对于存储而言数据是安全是最为重要的,数据丢失对于任何用户都无法忍受。对于StarFS系统需要在保证数据安全性的情况下,提供足够高的性能。这是我们的设计理念。

在数据安全层面,分为服务的高可用、节点宕机、硬盘损坏、数据恢复速度。StarFS并行文件系统的提升如下:

各自的出招

“星”技术|常见并行文件系统的高手大对决-安全篇

 

后浪的独门武功

 

对比表格我们可以看出,相比传统的并行文件系统,StarFS无论在存储节点冗余、元数据高可用、硬盘恢复速度都有更好的安全性。总得来说,StarFS并行文件系统为了数据冗余做了很多设计:

1、元数据集群化

元数据成对的对外提供服务,并且两两互备无单点故障。元数据集最大支持128台。元数据的集群化让整个存储系统无容量上的规模限制,文件数量也能达到万亿级别;

2、存储节点全局冗余

传统的RAID卡能很好的提供数据的冗余并且将数据条带化后。但是集群化后RAID卡无法实现跨节点的冗余。StarFS提供了纠删码,通过创新的RAID算法,抛弃传统的硬件控制改为由软件层面实现数据的切片并进行跨节点的冗余。支持N+M(N=2,4,8,16、M=1~4。N为切片数量,M为冗余片段),最大支持4节点甚至4个整机柜同时故障数据正常访问;

3、数据重建恢复速度更快

StarFS的纠删码技术StarRAID能提供非凡的数据恢复速度,是传统RAID卡的十倍,每TB的数据量恢复重建时间不超过30分钟。相比ZFS数据恢复速度更为出色,快速的数据恢复代表数据受影响的时间越短,就越不容易出现多重的硬件故障,数据更加安全。