linux下常用的分布式文件系统都有哪些?

author author     2023-05-13     579

关键词:

Lustre是HP,Intel,Cluster File System公司联合美国能源部开发的Linux集群并行文件系统,名称来源于Linux和Clusters。同时Lustre也是一个遵循GPL许可协议的开源软件,Lustre也被称为平行分布式文件系统,常用于大型计算机集群和超级电脑中。

Lustre的主要组建包括:元数据服务器(Metadataservers, MDSs)、对象存储服务器(objectstorage servers, OSSs)和客户端。其中MDSs提供元数据服务,MGS管理服务器提供Lustre文件系统配置信息,OSS对象存储服务器expose块设备提供数据。

Lustre文件系统针对大文件读写进行了优化,能够提高性能的IO能力;在源数据独立存储、服务和网络失效的快速恢复、基于意图的分布式锁管理和系统可快速配置方面优异。

分布式存储的关键技术主要包括:全局名字空间、缓存一致性、安全性、可用性和可扩展性。从数据形态来划分,主要有:结构化数据、非机构化数据和半结构化数据。

Linux是一套免费使用和自由传播的类Unix操作系统,是一个基于POSIX和UNIX的多用户、多任务、支持多线程和多CPU的操作系统。它能运行主要的UNIX工具软件、应用程序和网络协议。它支持32位和64位硬件。Linux继承了Unix以网络为核心的设计思想,是一个性能稳定的多用户网络操作系统。

Linux操作系统诞生于1991 年10 月5 日(这是第一次正式向外公布时间)。Linux存在着许多不同的Linux版本,但它们都使用了Linux内核。Linux可安装在各种计算机硬件设备中,比如手机、平板电脑、路由器、视频游戏控制台、台式计算机、大型机和超级计算机。

参考技术A 常见的分布式文件系统有,GFS、HDFS、Lustre
、Ceph
、GridFS
、mogileFS、TFS、FastDFS等。各自适用于不同的领域。它们都不是系统级的分布式文件系统,而是应用级的分布式文件存储服务。
GFS(Google
File
System)
--------------------------------------
Google公司为了满足本公司需求而开发的基于Linux的专有分布式文件系统。。尽管Google公布了该系统的一些技术细节,但Google并没有将该系统的软件部分作为开源软件发布。
下面分布式文件系统都是类
GFS的产品。
HDFS
--------------------------------------
Hadoop
实现了一个分布式文件系统(Hadoop
Distributed
File
System),简称HDFS。
Hadoop是Apache
Lucene创始人Doug
Cutting开发的使用广泛的文本搜索库。它起源于Apache
Nutch,后者是一个开源的网络搜索引擎,本身也是Luene项目的一部分。Aapche
Hadoop架构是MapReduce算法的一种开源应用,是Google开创其帝国的重要基石。
Ceph
---------------------------------------
是加州大学圣克鲁兹分校的Sage
weil攻读博士时开发的分布式文件系统。并使用Ceph完成了他的论文。

ceph
性能最高,C++编写的代码,支持Fuse,并且没有单点故障依赖,
于是下载安装,
由于
ceph
使用
btrfs
文件系统,
而btrfs
文件系统需要
Linux
2.6.34
以上的内核才支持。
可是ceph太不成熟了,它基于的btrfs本身就不成熟,它的官方网站上也明确指出不要把ceph用在生产环境中。
Lustre
---------------------------------------
Lustre是一个大规模的、安全可靠的,具备高可用性的集群文件系统,它是由SUN公司开发和维护的。
该项目主要的目的就是开发下一代的集群文件系统,可以支持超过10000个节点,数以PB的数据量存储系统。
目前Lustre已经运用在一些领域,例如HP
SFS产品等。

linux常用的命令都有哪些

Linux运维人员必会的120个命令来自《跟老男孩学Linux运维:核心系统命令实战》一书前言第1章Linux命令行简介/11.1Linux命令行概述/11.2在Linux命令行下查看命令帮助/41.3Linuxshutdownreboothalt/9关机:shutdown-hnowhaltinit0第2章文件和目录操作... 查看详情

linux系统中进行磁盘管理的常用命令都有哪些

Linux磁盘与文件系统管理命令  fdisk:磁盘分区工具partprobe:更新内核的硬盘分区表信息tune2fs:调整ext2/ext3/ext4文件系统参数parted:磁盘分区工具mkfs:创建Linux文件系统dumpe2fs:导出ext2/ext3/ext4文件系统信息resize2fs:调整ext2/ext3/... 查看详情

linux系统下监控打印机需要hook的函数都有哪些

...进程的,加-f参数。具体manstrace。参考技术A我们在Linux中常用的文件系统主要有ext3、ext2及reiserfs。Linux目前几乎支持所有的Unix类的文件系统,除了我们在安装Linux操作系统时所要选择的ext3、reiserfs和ext2外,还支持苹果MACOS的HFS,... 查看详情

linux常用的命令都有哪些

1.1pwd命令该命令的英文解释为printworkingdirectory(打印工作目录)。输入pwd命令,Linux会输出当前目录。1.2cd命令cd命令用来改变所在目录。cd/转到根目录中cd~转到/home/user用户目录下cd/usr转到根目录下的usr目录中-------------绝对路径cdtes... 查看详情

linux常用命令都有哪些?

  Linux常用命令大全:  系统信息  arch显示机器的处理器架构(1)  uname-m显示机器的处理器架构(2)  uname-r显示正在使用的内核版本  dmidecode-q显示硬件系统部件–(SMBIOS/DMI)  hdparm-i/dev/hda罗列一个磁盘的架构特性 ... 查看详情

linux系统最基本,经常用的命令都有哪些呢?

...,Linux系统管理的命令是它正常运行的核心。熟悉了Linux常用的文件处理命令以后,这一讲介绍对系统和用户进行管理的命令。catcdchmodchowncpcut名称:cat使用权限:所有使用者使用方式:cat[-AbeEnstTuv][--help][--version]fileName说明:把... 查看详情

什么是中间件?linux常用中间件都有哪些?

...是什么?  中间件是一种独立的系统软件或服务程序,分布式应用软件借助这种软件在不同的技术之间共享资源。中间件位于客户机/服务器的操作系统之上,管理计算机资源和网络通讯。是连接两个独立应用程序或独立系统的... 查看详情

linux常用命令都有哪些

linux常用命令有:pwd命令使用pwd命令找出您所在的当前工作目录(文件夹)的路径。该命令将返回一个绝对(完整)路径,该路径基本上是所有以/开头的目录的路径。绝对路径的一个示例是/home/username。cd命令要浏览Linux文件和目... 查看详情

linux里面文件系统都有哪些?

Linux文件系统中的文件是数据的集合,文件系统不仅包含着文件中的数据而且还有文件系统的结构,所有Linux用户和程序看到的文件、目录、软连接及文件保护信息等都存储在其中。1、EXT:专门为Linux核心做的第一个文件系统,... 查看详情

在所用的linux系统上,根目录下都有哪些内容?各自的功能是啥

/root :root用户的home目录;/dev:设备文件;/media:媒体;/mnt:挂载;/usr:用户程序;/bin:系统应用程序;/user/bin:用户应用程序;/home:其他用户的家目录;/boot:启动文件;/lib:库文件。Linux系统有3种类型文件,分别是... 查看详情

linux中如何启动进程?进程调度命令都有哪些?

...进程是必须学习掌握的技能。那么Linux中如何启动进程?常用的进程调度命令有哪些?  执行中的程序称作进程。当程序的可执行文件存储在存储器中并运行时,每个进程将被动态分配系统资源、内存、安全属性和相关状态。... 查看详情

linux操作系统都有哪些常用端口

1tcpmuxTCP端口服务多路复用5rje远程作业入口7echoEcho服务9discard用于连接测试的空服务11systat用于列举连接了的端口的系统状态13daytime给请求主机发送日期和时间17qotd给连接了的主机发送每日格言18msp消息发送协议19chargen字符生成服... 查看详情

linux的重启命令都有哪些

...命令1、shutdown2、poweroff3、init4、reboot5、halt在linux下一些常用的关机/重启命令有shutdown、halt、reboot、及init,它们都可以达到重启系统的目的,但每个命令的内部工作过程是不同的。扩展资料1、cat命令cat命令可以用来合并文件,... 查看详情

linux下fastdfs分布式存储-总结及部署记录

https://www.cnblogs.com/kevingrace/p/8471827.html一、分布式文件系统介绍分布式文件系统:Distributedfilesystem,DFS,又叫做网络文件系统:NetworkFileSystem。一种允许文件通过网络在多台主机上分享的文件系统,可让多机器上的多用户分享文件... 查看详情

常用的大数据工具都有哪些?

...科技魔方是一款大数据模型平台,是一款基于服务总线与分布式云计算两大技术架构的一款数据分析、挖掘的工具平台,其采用分布式文件系统对数据进行存储,支持海量数据的处理。采用多种的数据采集技术,支持结构化数据... 查看详情

linux常用命令都有哪些

Linux常用命令大全100条:1,echo“aa”》test.txt和echo“bb”》》test.txt//》将原文件清空,并且内容写入到文件中,》》将内容放到文件的尾部2,chmodgo+w-R/home/zhangy//给组用户和其他用户添加写的权限3,tar-tzvftest.tar.gz//列出归档内容... 查看详情

log文件指啥?linux日志文件都有哪些?

参考技术A  在Linux操作系统中,log文件代表着日志文件,就是记录系统活动信息的文件,比如:某时、某IP、某时间、进行的某种操作等。此外,在Linux系统中,我们还可以通过tail、cat、tac、head等命令来查看日志,那么Linux系... 查看详情

linux都有哪些版本?它们各自的特点是啥?

...优选04Redhat红帽公司官方系统是很多国企或外企服务器中常用系统,需要进行付费,有官方服务支持05centos红帽公司免费版系统大多数互联网公司服务器常用系统,可以部署的服务多样,稳定性也比较高参考技术A有fedoraredhat的免... 查看详情