(转)linxu磁盘体系知识介绍及磁盘介绍

liujiacai liujiacai     2022-10-09     750

关键词:

Linxu磁盘体系知识介绍及磁盘介绍

技术分享图片

技术分享图片
Linu磁盘设备基础知识指南
磁盘
速度快具备的条件:

  1)主轴的转速5400/7200/10000/15000
  2)接口sata/sas/scsi/ide
  3)读写更灵敏的磁头

技术分享图片
磁盘知识的体系结构
企业服务器多磁盘的知识体系结构
磁盘的外部结构

机械磁盘:3.5英寸
  笔记本磁盘:2.5英寸
  固态硬盘 ssd

技术分享图片
磁盘接口、控制电路板及固定面板
(1)磁盘接口。接口包含 电源接口和数据接口两部分,电源接口就是和主机电源连接,为磁盘提供电力保证。数据接口是磁盘数据和主板数据接口连接,数据电缆一般为40针,80芯的接口电缆,早期数据接口 有IDE和SCSI接口,当前主流的硬盘结构为SATA硬盘或者SCSI接口
技术分享图片

关于buffer和cached两个区别
buffer:缓冲区
  高速缓冲区cpu和内存之前的块存储设备
cached:缓存区
  高速缓存区 数据传输在内存和磁盘之前,数据存储在磁盘上

查看centos系统 内存方法:
free -m 查看内存

[[email protected] ~]# free -m
             total       used       free     shared    buffers     cached
Mem:           981        407        573          0        150        148
-/+ buffers/cache:        108        872 
Swap:         1499          0       1499 
[[email protected] ~]#

提示:

 1)linux系统的特性是将系统不用的物理内存作为缓存区和缓冲区使用,因此,573不是系统的真实的内存
 2)系统真实的内存是872M
 3)buffer作为高速缓冲区 sync将缓冲区数据写入磁盘
 4)cached为读取数据的缓存区
 5)硬盘是机械的,无论是写入还是读取都太慢了,所以读取和写入用是了缓存技术
 6)门户架构网站架构都会用到缓存技术,来让用户写入读取尽可能不接触磁盘

磁盘的内部结构
技术分享图片
磁头组件:读写磁头、传动手臂、传动轴部分组成;磁头是硬盘技术中最重要和关键的一环,实际上是集成工艺制成的多个磁头的组合,它采用非接触式头、盘结构,加电后在告诉旋转的磁盘表面移动的,磁盘之间的间隙只有0.1~0.3um(微米),现在7200转一般都低于0.3um ;
磁盘读取数据的工作原理是利用特定的磁粒子的极性来记录数据,磁头在读取数据的时候,将磁粒子的极性转换为不同的电脉冲信号,在利用数据转换器来讲这些原始信号变成电脑可以使用的数据,写的操作正好与此相反
技术分享图片

磁盘的接口类型
IDE磁盘和IDE接口:
主板IDE接口:
技术分享图片
磁盘的IDE接口:
技术分享图片
SATA、SAS串口
可靠、简单、热插拔、性能高
主板SATA接口

SCSI磁盘与SCSI接口
SCSI全称为 小型计算机接口和IDE(ATA)是完全不同的接口,IDE接口是早期普通PC的标准接口,SCSI并不是专门为计算机设计的接口,是一种广泛应用于小型机高速数据传输技术,SCSI接口具有应用范围广,多任务、带宽大、CPU占用率低,以及热插拔等
说明:我们在使用WMWARE做虚拟化时发现选择的就是SCSI接口的模式
实例对应关系

  SCSI   驴---淘汰
 SATA   马  
  SAS   骡子

SAS磁盘和SAS接口
  安装简单,更好的兼容性
  总的来说 SAS技术是结合了SATA与SCSI两者的优点而诞生的,同时串行SCSI(SAS)是点到点结构;

企业生产环境主流磁盘的相关信息对比:

  企业生产场景及程度:SAS>SATA>SSD
  单位容量对比性能和价格 SSD>SAS>SATA(一块SSD和一块SATA)
  单位价格购买磁盘容量:SATA>SAS>SSD

机械盘和固态盘简单对比及门户网站动态调度的方案案例
光纤通道
  光纤通道的主要特性有:热插拔性、高速带宽、远程连接数、连接设备数量大等

SSD硬盘
  由于固态磁盘技术与传统磁盘技术不同,所以产生了不到新兴存储厂商,厂商只需购买NAND存储器,在配合适当的控制芯片,就可以制造固态磁盘了。新一代的固态磁盘采用SATA-2接口及SATA-3接口

SSD固态磁盘分类:
固态磁盘的存储介质分为2种,一种是采用闪存(FLASH芯片)作为存储介质,另外一种是采用DRAM芯片的固态磁盘

SSD固态磁盘接口类型
SSD固态磁盘主流接口类型分为:

  1)SATA接口:SATASATA2SATA3.0
  2)PATA(IDE接口)
  3)PCI-E接口

固态磁盘的优点

  1.启动快
  2.读取延迟小
  3.碎片不影响读取时间
  4.写入速度快
  5.无噪音
  6.无机械故障
  7.工作温度范围更大
  8.体积小总量轻
  9.抗震动

固态磁盘的缺点

  1.成本
  2.容量
  3.易受外界影响
  4.写入寿命有限
  5.数据难以恢复
  6.电池航程较短
  7.能耗较高

企业生产工作中磁盘的选型
磁盘:
当前服务器市场:主流磁盘为SAS、SATA、SSD硬盘
1)企业级SAS硬盘(默认)
企业里常见的SAS硬盘是15000转/分(这里是指主轴的转数)当前300G、600G、1000G
从具体的业务需求及性价比考虑,在工作中多用 300-600G的SAS硬盘
一般选6*300G 6*600G 单盘容量不要太大,除非纯备份
2)企业级SATA硬盘
企业级SATA硬盘 7200-10000转/分,常见容量有1T 2T 4T 6T
优点是经济实惠、从具体业务需求及性价比考虑,老男孩考试在工作中多用SATA硬盘做 线下不提供服务的数据库存储或者并发业务访问不大的业务应用
比如站点程序及数据库、图片的线下备份等
特征:容量性价比较高,一般2T SATA磁盘较佳
磁盘选购小结

  1)线上的业务、用SAS磁盘
  2)线下的业务,用SATA磁盘,磁带库
  3)线上高并发、小容量的业务、SSD磁盘
  4)思想:根据数据的访问热度,智能分析分层存储SATA+SSD

特别注意:

千万不要用SATA磁盘来做在线高并发数据的存储或者数据库业务,这是有血的教训的,某公司的采用SATA做数据库的存储盘,结果导致数据库连续宕机一个月
5台SATA盘做RAID5
解决:重新买5台,把磁盘从SATA(RAID5)换成SAS(RAID 10)结果6个月没事

SSD固态电子盘
特点:容量小 价格贵、速度快一般用于数据量小并且有超大规模并发的业务(这不是唯一的办法还可以通过 内存缓存技技术方式来解决这个大规模并发的问题)
  百度、腾讯、360核心业务都会采用SSD磁盘。应用层也必须做了各种缓存

特别提示:
大公司如taobao 某些业务可能会根据的热度综合使用分层存储,以达到性价比最佳的情况,
80G SSD +500GSATA

淘宝网CNN缓存存储策略案例
提出问题:
在存储数据中,18KB以下的对象数量占总数量80% 而其他存储占总量的不到40%同时,80%经常访问对象所占用的存储空间不到总量20%

分析问题:
以上的问题意味着 “热点数据” 即访问频次高的内容,需要更快的性能,而占的空间并不大,而“冷数据”访问频次低的数据所需求存储很大,对性能要求不需要高
解决问题:
  因此,服务器引入分层存储机制,单台服务器的硬盘可由一块80G的SSD硬盘和两块500G的SATA盘组成,然后把“热数据”存放在SSD盘上,“冷数据”存放在SATA盘上,冷数据可以动态调度,从而兼顾性能,容量和成本,另:分层存储调度软件有淘宝开发
上面的策略是搞笑,低成本的方案,这是我们运维工作需要重视的,实际工作中不可能不考虑成本,而无限的去提升性能;

磁盘的内部逻辑知识细节 盘片-磁道
技术分享图片
技术分享图片
技术分享图片

磁盘的磁头
磁盘的每个盘片的每个有效盘面都会有一个读写的磁头,(磁头数=盘片个数*2)
0磁道非常重要,我们知道,系统的引导程序就在0磁道0柱面1扇区的前446字节

磁盘的盘面:
磁盘的盘片一般是铝合金材料或玻璃做基片,磁盘的每一个盘片都有两个盘面,即上下盘面,每一个这样的有效盘面都可以储存数据,成为有效盘面,也有极个别的磁盘盘面数为单数。每一个这样的有效盘面都有一个盘面号,按顺序从上至下0开始依次编号,因为每一个有效盘都有一个对应读写磁头,盘面号右叫磁头号,磁盘的盘片组在2-14片不等,通畅在2~3个盘片,(300G15K SAS盘就是3个盘片),故盘面号(磁头号)为0~3 或0-5不等,注意,盘面的个数等于磁头的个数

磁盘的磁道:
磁盘在格式化时被划分为许多的同心圆,这些同心圆的轨迹叫做磁道(Track),磁道由盘面从外向内依次从0开始顺序编号

磁盘的柱面
一块磁盘的柱面数(或每个盘面的磁道数)取决于每条磁道的宽窄,(也会与磁头好的大小有关)这里的柱面数和前面的磁道数是一样的;

提示:

  给磁盘分区实际就是划分柱面及扇区号
  柱面是说有盘面(相同半径)的半径的所有(磁道)的集合,
  柱面数= 一个盘面的磁道数

技术分享图片

磁盘的扇区
操作系统是以扇区Sector为单位将信息储存在磁盘上的,一般情况下,每个扇区的大小是512字节,一个扇区只要有两部分内容,储存数据地点的标识符合储存数据的数据段
技术分享图片
扇区的第一个主要部分是标识符,标识符就是扇区头标,包括组成扇区三维地址的三个数字:
扇区所在的磁头(或盘面)、磁道(或柱面号)以及扇区在磁道上的位置即扇区号。

磁道柱面扇区总括
磁盘最基本的组成部分,是由坚硬的金属材料涂以磁性介质的盘片(有很多层)不同的容量磁盘的盘片数不等

记忆要点:磁盘的计算大小

  1)一块磁盘有20-14个盘片,每个盘片有两个面,每个面对应一个读写磁头,用磁头号来区分盘面,即盘面数就是磁头数,盘片数*2=磁头数(盘面数)
  2)不同的盘面的磁道划分很多不同的扇形的区域,每个区域就是一个扇区(Sector)
  3)同一个盘面,以盘片中心为圆心,每个半径不同的圆的轨迹就是一个磁道(Track )
  4)不同磁道的的相同半径组成的一个圆柱面就是柱面(Cylinder)
  5)一个柱面包含多个磁道(这些磁道半径相同)一个磁道包含多个扇区
  6)数据信息记录可表示:某磁头、某磁道(柱面)、某扇区

磁道的一句话概括定义:
磁道:每个盘片有两个面,都可记录信息,盘片表面以盘片中心为圆心,用于记录数据的不容半径的圆形磁化轨迹就成为磁道,磁化区域是看不见的,磁道看起来就是一个平面圆周形;

柱面:磁道中,不同的盘片(或者盘面)相同半径的磁道轨迹从上到下所组成的圆柱形区域就称为柱面,柱面看起来就一个圆柱形
磁盘容量:
磁盘大小*磁道数= 一个盘面的大小
一个磁盘的大小=盘面的大小*磁头数
磁盘的大小=磁道的大小(扇区数+512字节)*磁道数*磁头数

磁盘的大小=柱面大小*柱面数
柱面大小=磁道大小*磁头数
磁盘大小=磁道大小*磁道数*磁头数*柱面数

通过命令查看:

[[email protected] ~]# fdisk -l

Disk /dev/sda: 21.5 GB, 21474836480 bytes
255 heads, 63 sectors/track, 2610 cylinders
Units = cylinders of 16065 * 512 = 8225280 bytes
Sector size (logical/physical): 512 bytes / 512 bytes
I/O size (minimum/optimal): 512 bytes / 512 bytes
Disk identifier: 0x000b31ab

   Device Boot      Start         End      Blocks   Id  System
/dev/sda1   *           1          26      204800   83  Linux
Partition 1 does not end on cylinder boundary.
/dev/sda2              26        2350    18668544   83  Linux
/dev/sda3            2350        2611     2097152   82  Linux swap / Solaris
[[email protected] ~]# 

疑问:
不同的磁道上的扇区大小,看起来不一样大的,直观感觉靠外面的磁道扇区越大
可能有两个原因:

  1)数据的储存密度不同的磁道可能不同
  2)磁道间隙的密码可能不同,外面小,里面大
  3)现在的硬盘技术更新很快,可能很不算法已经升级

磁盘读写数据的工作原理深入浅出讲解
磁盘是机械式磁盘:

  1)盘片的旋转靠马达带动主轴,带动盘片旋转
  2)磁头的径向移动也是靠步进电机来完成的
  3)所有的磁头同时同向移动的

磁盘再读写数据时,应尽可能让磁头不动,或者少移动磁头就能读到更多或全部的数据

磁盘的工作原理:
机械磁盘读写磁盘数据的原理小结:
1)磁盘是按照柱面为单位读写数据的
2)不同磁头间的切换就是电子切换,而不同磁道间的切换需要磁头做径向运动,这个径向运动需要步进电机调节,这个动作是机械的切换
3)寻道:机械的
技术分享图片

计算实践:
磁盘的大小= 柱面数 Units* 一个柱面(cylinder)的大小
磁盘的大小= 柱面数Units * 一个柱面Cylinder的大小(柱面大小= 磁道大小*磁头数)
磁道的大小= 扇区*512字节
计算方法1:

[[email protected] ~]# echo "scale=2;(63*512*255*5221)/1000000000.00"|bc 
42.94
计算方法2:
[[email protected] ~]# awk ‘BEGIN{print (63*512*255*5221/1000000000.00)}‘
42.9442
[[email protected] ~]#

机械磁盘读写数据的原理小结:

1)磁盘是按照柱面为单位读写数据的,即先读取同一个盘面的某一个磁道。读完之后,如果数据没有读完,磁头也不会切换其他的磁道,而是选择切换磁头,读取下一盘面的相同的半径的磁道。直到所有盘面的相同半径的磁道读取完之后,如果数据还没有读完,才会切换其他的不同半径磁道,这个切换磁道的过程称为寻道。
2)不同磁头的切换时电子切换,而不同得到磁道间的切换需要磁头做径向运动,这个径向运动还需要步进电机调节,这个动作是机械的切换
磁头寻道是机械动作,切换磁头是电子切换

技术分享图片

16字节分区表的内容:
技术分享图片

主引导记录MBR
磁盘的0磁头0磁道1扇区,是硬盘上的一个非常重要的位置,在这个扇区中,存放有硬盘的主引导记录MBR 和硬盘的分区表信息 DPT

磁盘分区的重点:

  1. 给磁盘分区的实质就是针对上述0磁头0磁道1扇区的前446字节后面接下来64bytes 的分区表进行设置;即只要是划分起始以及结束磁头号、扇区号及柱面号
  2. 给磁盘分区的工具有fdisk (适合给小于2T的磁盘分区),parted(擅长于给大于2T的分区,可以对于小于2T的磁盘分区)首选fdisk 只有大于2T时才会去选择parted
补:(一台服务器6块600G的磁盘,raid5后,总大小小3T,此时无法装系统,解决办法是做RAID5后,不要重启系统,而是在RAID页面继续分2个小的虚拟磁盘vd 200G 用这个200G的虚拟磁盘转系统,装完系统后再把剩余2.8T通过parted分区)
  3. 一块磁盘的分区表仅有64个bytes 大小,每个分区表都要占用16字节,因此一块磁盘仅支持4个分区表信息,即主分区+拓展分区的总量不超过4个
  4. 磁盘分区是按照柱面(cylinder)来划分的。(从磁盘的读写原理角度可以理解)
  5.拓展分区不能直接使用的,还需要在拓展分区的基础上创建逻辑分区才行
  6.拓展分区有自己的分区表。因此拓展分区可以有很多个

  磁盘在使用前一段一般需要进行分区,当然如果不分区直接格式化使用也是没有问题的,但是这不是常见情况,磁盘分区有主分区、拓展分区、和逻辑分区之分,一块硬盘做多可以有4个分区表信息,(磁盘本身限制,其中一个主分区的位置可以用一个拓展分区替换,且一块硬盘只有一个拓展分区(操作系统限制)在拓展分区可以划分多个逻辑分区可以有多个






































































































缓存介绍及redis详解

...知识传统数据库传统的数据库管理系统把所有数据都放在磁盘上进行管理,所以称做磁盘数据库(DRDB:Disk-ResidentDatabase)。磁盘数据库需要频繁地访问磁盘来进行数据的操作,由于对磁盘读写数据的操作一方面要... 查看详情

linux磁盘介绍及磁盘分区

磁盘的的体系结构磁盘分区核心命令介绍文件系统管理工具命令创建swap(交换)分区分区挂载lsof命令DF,DU命令挂载配置文件磁盘组成:1.扇区是最小的物理存储单位,有512bytes和4k两种格式2.将扇区组成一个圆的是磁柱3.... 查看详情

linux环境:fdisk及parted磁盘分区管理工具介绍

1.fdisk分区工具及实质2.查看磁盘分区信息3.查看磁盘分区cat/proc/partitionsll/dev/sd*4.parted磁盘分区管理工具介绍 查看详情

linuxlvm介绍及管理

...盘卷管理(LogicalVolumeManager)的简称,它是Linux环境下对磁盘分区进行管理的一种机制,LVM是建立在硬盘和分区之上的一个逻辑层,用来提高磁盘分区管理的灵活性。系统管理员可以通过LVM轻松的管理磁盘分区,如:将若干个磁... 查看详情

zabbix--01介绍及安装(代码片段)

...1.为什么要使用监控2.如何进行监控,比如我们需要监控磁盘的使用率3.流行的监控工具4.如果去到一家新公司,如何入手监控二、单机时代如何监控三、zabbix监控快速安装四、WEB安装步骤词汇表1.浏览器打开地址:2.检查依赖项是... 查看详情

centos7磁盘阵列配置介绍(代码片段)

Centos7磁盘阵列配置介绍每当我们提到磁盘阵列,相信广大管理员并不陌生,比如我们一般安装服务器系统的时候,先前条件是配置服务器的RAID信息,配置RAID信息可以提高服务器性能及数据的安全及稳定性,当然RAID分多少等级... 查看详情

推荐面试使用|夯实kafka知识体系及基本功分析一下kafka总体原理和分析介绍「上篇」(代码片段)

背景介绍发布订阅模式点对点传递模式该模式即使有多个消费者同时消费数据,也能保证数据处理的顺序。发布者将消息投递到Topic中,数据在持久化在Topic中,只有订阅了相应Topic的消费者才可以消费这个消息,... 查看详情

软件测试体系学习及构建-软件测试环境介绍

...试环境?3.3作为测试应具备的知识?4冯·诺依曼体系结构5数据形式与数制1软件的含义软件是程序、数据和文档的集合。内容说明程序如编程语言:C、C++、Java、Python等数据使用文件或数据库存储数据等文档安装... 查看详情

mysql知识体系梳理

...:mysql的体系架构应用层服务层存储引擎层内存结构磁盘结构一致性如何实现单机实现集群实现存储实现mysql中的锁锁模式表锁行锁元数据锁页面锁mysql索引介绍分库分表方案mycatshareding-jdbc内置inteceptor执行计划各参数的详细... 查看详情

磁盘分区中mbr的模拟损坏及修复

目前对于硬盘的分区方式有两种:MBR和GPT。本文只是为了介绍分区中的MBR的备份和恢复,所以不对GPT分区做过多的介绍。我们先来对MBR的分区方式进行一个简单的介绍:上图说明: 650)this.width=650;"src="https://s3.51cto.com/wyfs02/M00/... 查看详情

linxu磁盘加密

linxu磁盘加密1.安装软件yum-yinstallcryptsetuprpm-qa|grepcryptsetup2.分区fdisk-cu/dev/sdbpartx-a/dev/sdb3.格式化加密分区:cryptsetupluksFormat/dev/sdb1cryptsetupluksOpen/dev/sdb1fage_crypt     & 查看详情

金融行业密钥体系相关知识及原理介绍

...;就整理下前段时间接触的知识(POS终端银联支付密钥体系)。终端密钥体系参照中国银联的密钥安全标准,各密钥长度至少128bit。上层密钥提供对下层密钥的保护或维护。所有的密钥或数据保护都采用3DES。TMK为终端... 查看详情

磁盘管理之逻辑卷

写在前面:      本文一共分个部分来讲解逻辑卷的一些操作及注意事项,其中第一部分介绍了什么是逻辑卷,逻辑卷的实现原理是什么,还有包括其中的一些名词解释;第二部分主要是介绍怎么创建,删除... 查看详情

第一章·mysql介绍及安装(代码片段)

一.DBA工作内容及课程体系二.MySQL课程体系介绍三.DBA的职业素养四.MySQL简介及安装01什么是数据?02什么是数据库管理系统03数据库管理系统种类04MySQL发展史05MySQL正在推动世界06MySQL简介及产品线06MySQL安装一.DBA工作内容及课程体系... 查看详情

转:体系化认识rpc

...程过程调用,是一个分布式系统间通信的必备技术,本文体系性地介绍了RPC包含的核心概念和技术,希望读者读完文章,一提到RPC,脑中不是零碎的知识,而是具体的一个脑图般的体系。本文并不会深入到每一个主题剖析,只做... 查看详情

数字证书及ca的扫盲介绍

...藏]    ★先说一个通俗的例子  考虑到证书体系的相关知识比较枯燥、晦涩。俺先拿一个通俗的例子来说事儿。  ◇普通的 查看详情

磁盘管理之逻辑卷(转载)

写在前面:      本文一共分个部分来讲解逻辑卷的一些操作及注意事项,其中第一部分介绍了什么是逻辑卷,逻辑卷的实现原理是什么,还有包括其中的一些名词解释;第二部分主要是介绍怎么创建,删除... 查看详情

es6介绍及变量基础知识

一、ES6简介ECMAScript6.0(以下简称ES6)是JavaScript语言的下一代标准,已经在2015年6月正式发布了。它的目标,是使得JavaScript语言可以用来编写复杂的大型应用程序,成为企业级开发语言ES6是5.1版以后的JavaScript的下一代标准,涵盖... 查看详情