关键词：
参考技术A 上文学到 不管什么文件系统类型，都通过VFS(虚拟文件系统层)读和写等操作文件，写文件的元数据和文件的实际数据到磁盘 。但数据是怎么落地磁盘中的呢？落到磁盘中的都经过什么组件？以一个写数据到磁盘为例，给出Linux I/O子系统的体系结构。
当磁盘执行写入操作时发生的 基本操作 (假设磁盘上扇区中的文件数据已经被读取到分页缓存)。
1) 一个进程通过write()系统调用 VFS虚拟文件系统 请求写一个文件。
2) 内核更新已映射文件的分页缓存。
3) 内核线程 pdflush/Per-BDI flush将分页缓存刷新到磁盘。
4) 同时 VFS虚拟文件系统层 在一个bio(block input output)结构中放置每个块缓冲，并向块设备层提交写请求。
5) 块设备层 从上层得到请求，并执行一个 I/O电梯操作，将请求放置到I/O 请求队列。
6) 设备驱动器 （比如SCSI 或 其他设备特定的驱动器）将执行写操作。
7) 磁盘设备 固件执行硬件操作，如在盘片扇区上定位磁头，旋转，数据传输。
过去的20年中，处理器性能的改进要超过计算机系统中的其他组件，如处理器缓存、物理内存及磁盘等等。 访问内存和磁盘的速度较慢会限制整个系统的性能 ，怎么解决这个问题呢？引入 磁盘缓存机制 ，在较快的存储器中缓存频繁使用的数据，减少了访问较慢的存储器的次数。
磁盘缓存机制有以下3个地方解决：
引入存储层次结构 ，在CPU和磁盘之间放置L1缓存、L2缓存、物理内存和一些其他缓存减少这种不匹配，从而让进程减少访问较慢的内存和磁盘的次数，避免CPU花费更多的时间等待来自较慢磁盘驱动器的数据。
另外一种解决思路： 在更快的存储器上实现更高的缓存命中率，就可能更快地访问数据 。怎么提高缓存命中率呢？引入 参考局部性(locality of reference) 的技术。这项技术基于以下2个原则：
1) 大多数最近使用过的数据，在不久的将来有较高的几率被再次使用(时间局部性)。
2) 驻留在数据附近的数据有较高的几率被再次使用(空间局部性)。
Linux在许多组件中使用这些原则，比如分页缓存、文件对象缓存（索引节点缓存、目录条目缓存等等）、预读缓冲等。
以进程从磁盘读取数据并将数据复制到内存的过程为例。进程可以从缓存在内存中的数据副本中检索相同的数据，用于读和写。
1) 进程写入新数据
当一个进程试图改变数据时，进程首先在内存中改变数据。此时磁盘上的数据和内存中的数据是不相同的，并且内存中的数据被称为 脏页(dirty page) 。脏页中的数据应该尽快被同步到磁盘上，因为如果系统突然发生崩溃(电源故障)则内存中的数据会丢失。
2) 将内存中的数据刷新到磁盘
同步脏数据缓冲的过程被称为 刷新 。在Linux 2.6.32内核之前(Red Hat Enterprise Linux 5)，通过内核线程pdflush将脏页数据刷新到磁盘。在Linux 2.6.32内核中(Red Hat Enterprise Linux 6.x)pdflush被Per-BDI flush线程(BDI=Backing Device Interface)取代，Per-BDI flush线程以flush-MAJOR：MINOR的形式出现在进程列表中。当内存中脏页比例超过阀值时，就会发生刷新(flush)。
块层处理所有与块设备操作相关的活动。块层中的关键数据结构是bio(block input output)结构，bio结构是在虚拟文件系统层和块层之间的一个接口。
当执行写的时候，虚拟文件系统层试图写入由块缓冲区构成的页缓存，将连续的块放置在一起构成bio结构，然后将其发送到块层。
块层处理bio请求，并链接这些请求进入一个被称为I/O请求的队列。这个链接的操作被称为 I/O电梯调度(I/O elevator)。问个问题：为啥叫电梯调度呢？
Linux 2.4内核使用的是一种单一的通用I/O电梯调度方法，2.6内核提供4种电梯调度算法供用户自己选择。因为Linux操作系统适用的场合很广泛，所以I/O设备和工作负载特性都会有明显的变化。
1）CFQ(Complete Fair Queuing，完全公平队列)
CFQ电梯调度为每个进程维护一个I/O队列，从而 对进程实现一个QoS(服务质量)策略 。CFQ电梯调度能够很好地适应存在很多竞争进程的大型多用户系统。它积极地避免进程饿死并具有低延迟特征。从2.6.18内核发行版开始，CFQ电梯调度成为默认I/O调度器。
CFQ为每个进程/线程单独创建一个队列来管理产生的请求，各队列之间用时间片来调度，以保证每个进程都能分配到合适的I/O带宽。I/O调度器每次执行一个进程的4个请求。
2）Deadline
Deadline是一种循环的电梯调度(round robin)方法，Deadline 算法实现了一个近似于实时的I/O子系统。在保持良好的磁盘吞吐量的同时，Deadline电梯调度既提供了出色的块设备扇区的顺序访问，又确保一个进程不会在队列中等待太久导致饿死。
Deadline调度器为了兼顾这两个方面，引入了4个队列，这4个队列可分为两类，每一类都由读和写两种队列组成。一类队列用来对 请求 按 起始扇区序号 进行排序（通过红黑树来组织），称为sort_list；另一类对 请求 按 生成时间进行排序 （由链表来组织），称为fifo_list。每当确定了一个传输方向（读或写），系统都将会从相应的sort_list中将一批连续请求调度到请求队列里，具体的数目由fifo_batch来确定。 只有遇到三种情况才会导致一次批量传输的结束 ：1.对应的sort_list中已经没有请求了；2.下一个请求的扇区不满足递增的要求；3.上一个请求已经是批量传输的最后一个请求了。
所有的请求在生成时都会被赋上一个期限值，并且按期限值将它们排序在fifo_list中， 读请求的期限时长默认为500ms，写请求的期限时长默认为5s。 在Deadline调度器定义了一个writes_starved默认值为2，写请求的饥饿线。 内核总是优先处理读请求，当饿死进程的次数超过了writes_starved后，才会去考虑写请求 。 为什么内核会偏袒读请求呢? 这是从整体性能上进行考虑的。读请求和应用程序的关系是同步的，因为应用程序要等待读取完毕，方能进行下一步工作所以读请求会阻塞进程，而写请求则不一样。应用程序发出写请求后，内存的内容何时被写入块设备对程序的影响并不大，所以调度器会优先处理读请求。
3) NOOP
一个简单的FIFO 队列，不执行任何数据排序。NOOP 算法简单地合并相邻的数据请求，所以增加了少量的到磁盘I/O的处理器开销。NOOP电梯调度假设一个块设备拥有它自己的电梯算法。当后台存储设备能重新排序和合并请求，并能更好地了解真实的磁盘布局时，通常选择NOOP调度，
4）Anticipatory
Anticipatory本质上与Deadline一样，但Anticipatory电梯调度在处理最后一个请求之后会等待一段很短的时间，约6ms(可调整antic_expire改变该值)，如果在此期间产生了新的I/O请求，它会在每个6ms中插入新的I/O操作，这样可以将一些小的I/O请求合并成一个大的I/O请求，从而用I/O延时换取最大的I/O吞吐量。
Linux内核使用设备驱动程序得到设备的控制权。 设备驱动程序 通常是一个独立的内核模块，通常针对每个设备(或是设备组)而提供，以便这些设备在Linux操作系统上可用。一旦加载了设备驱动程序，将被当作Linux内核的一部分运行，并能控制设备的运行。
SCSI (Small Computer System Interface，小型计算机系统接口)是最常使用的I/O设备技术，尤其在企业级服务器环境中。SCSI在 Linux 内核中实现，可通过设备驱动模块来控制SCSI设备。 SCSI包括以下模块类型 ：
1) Upper IeveI drivers(上层驱动程序)。 sd_mod、sr_mod（SCSI-CDROM）、st（SCSI Tape）和sq（SCSI通用设备）等。
2) MiddIe IeveI driver(中层驱动程序) 。如scsi_mod实现了 SCSI 协议和通用SCSI功能。
3) Low IeveI drivers(底层驱动程序) 。提供对每个设备的较低级别访问。底层驱动程序基本上是特定于某一个硬件设备的，可提供给某个设备。
4) Pseudo drive(伪驱动程序) 。如ide-scsi，用于 IDE-SCSI仿真。
通常一个较大的性能影响是文件系统元数据怎样在磁盘上存放 。引入 磁盘条带阵列 (RAID 0、RAID 5和RAID 6)解决这个问题。在一个条带阵列上，磁头在移动到阵列中下一个磁盘之前，单个磁盘上写入的数据称为 CHUNKSIZE ，所有磁盘使用一次它后返回到第一个磁盘。 如果文件系统的布局没有匹配RAID的设计，则有可能会发生一个文件系统元数据块被分散到2个磁盘上，导致对2个磁盘发起请求 。或者 将所有的元数据在一个单独的磁盘上存储，如果该磁盘发生故障则可能导致该磁盘变成热点 。
设计RAID阵列需要考虑以下内容：
1) 文件系统使用的块大小。
2) RAID 阵列使用的CHUNK大小。
3) RAID 阵列中同等磁盘的数量。
块大小 指可以读取/写入到驱动器的最小数据量，对服务器的性能有直接的影响。块的大小由文件系统决定，在联机状态下不能更改，只有重新格式化才能修改。可以使用的块大小有1024B、2048B、4096B，默认为 4096 B。
stride条带 是在一个chunk中文件系统块的数量。如果文件系统块大小为4KB，则chunk大小为64KB，那么stride是64KB/4KB=16块。
stripe-width 是RAID阵列上一个条带中文件系统块的数量。比如 一个3块磁盘的RAID5阵列 。按照定义，在RAID5阵列每个条带中有1个磁盘包含奇偶校验内容。想要得到stripe-width，首先需要知道每个条带中有多少磁盘实际携带了数据块，即3磁盘-1校验磁盘=2数据磁盘。2个磁盘中的stride是chunk中文件系统块的数量。因此能计算 2（磁盘）*16（stride）=32（stripe）。
创建文件系统时可以使用mkfs给定数量：mk2fs -t ext4 -b 4096 -E stripe=16,stripe_width=64 /dev/vda
linux性能优化实战：linux磁盘i/o是怎么工作的（上）（24）
一、磁盘1、机械磁盘2、固态磁盘3、相同磁盘随机I/O比连续I/O慢很多4、最小单位5、接口6、RAID陈列卡7、网路存储二、通用块层1、概念2、第一功能3、第二功能4、I/O调度算法三、I/O栈1、Linux存储系统I/O栈全景图 2、全景图详... 查看详情
linux系统i/o模型及select、poll、epoll原理和应用
...了解一些基本概念，才能理解这些IO模型设计的依据操作系统使用虚拟内存来映射物理内存，对于32位的操作系统来说，虚拟地址空间为4G（2^32）。操作系统的核心是内核，为了保护用户进程不能直接操作内核，保证内核安全，... 查看详情
linux操作系统基础i/o(代码片段)
文章目录4.文件系统4.1磁盘4.2inode4.3软/硬链接5.文件的ACM6.动静态库4.文件系统4.1磁盘文件=文件内容+文件属性笼统的讲磁盘是我们计算机中的一个机械设备（SSD等等除外）磁盘写入的基本单位是：扇区站在操作系... 查看详情
linux磁盘i/o是怎么工作的（上）
...个内存缓存；而超级块、索引节点和逻辑块，都是存储在磁盘中的持久化数据。那么，磁盘是怎么工作的呢？又有哪些指标可以用来衡量它的性能呢？一、磁盘磁盘是可以持久化存储的设备，根据存储介质的不同，常见磁盘可以... 查看详情
linux基础基础i/o(代码片段)
文章目录4.文件系统4.1磁盘4.2inode4.3软/硬链接5.文件的ACM6.动静态库4.文件系统4.1磁盘文件=文件内容+文件属性笼统的讲磁盘是我们计算机中的一个机械设备（SSD等等除外）磁盘写入的基本单位是：扇区站在操作系... 查看详情
文件系统和磁盘工作原理
...子目录（称为挂载点），然后才能访问其中的文件。机械磁盘的最小读写单位是扇区，一般大小为512字节。如果每次都读写512字节这么小的单位的话，效率很低。所以，文件系统会把连续的扇区或页，组成逻辑块，然后以逻辑块... 查看详情
Windows 系统中是不是存在未缓冲的 I/O？
...ite等缓冲I/O不是我想要的。【问题讨论】：这是为了避免磁盘缓存，还是为了避免干扰管 查看详情
iotop—linux上监控磁盘i/o的利器详细使用说明
Iotop工具是一个免费的开源免费工具，用于监控Linux中的磁盘输入/输出(IO)使用情况。它可以帮助系统管理员找到消耗更多磁盘使用的特定进程，并有助于性能分析。从2.6.20内核开始支持Iotop工具。本教程介绍了如何在linux中安装... 查看详情
linux-磁盘i/o性能评估(代码片段)
文章目录概述RAID文件系统与裸设备的对比磁盘I/O性能评判标准常用命令“sar–d”命令组合“iostat–d”命令组合“iostat–x”单独统计某个磁盘的I/O“vmstat–d”命令组合小结概述RAID可以根据应用的不同，选择不同的RAID方式如... 查看详情
linux磁盘i/o是怎么工作的（下）
掌握了磁盘I/O的工作原理，怎么才能衡量磁盘的I/O性能？一、磁盘性能指标说到磁盘性能的衡量标准，必须要提到五个常见指标，也就是我们经常用到的，使用率、饱和度、IOPS、吞吐量以及响应时间等。这五个指标，是衡量... 查看详情
用于测量磁盘 i/o 等的 Linux 工具
】用于测量磁盘i/o等的Linux工具【英文标题】：Linuxtoolsformeasuringdiski/oetc【发布时间】：2014-11-1301:20:58【问题描述】：我需要在性能测试期间测量RedHat和CentOS上以下资源的利用率。请推荐最好的工具内存使用情况CPU使用率磁盘I/O... 查看详情
i/o通道的i/o通道(channel)
...器连接起来，而这些控制器又控制着一个或更多的设备（磁盘驱动器、终端、LAN端口，等等。）大型机通道和PCI总线之间的一个主要区别是大型机通道通过几对大的busandtag电缆（并行通道方式），或者通过常使用ESCON（EnterpriseSys... 查看详情
linux磁盘io调度算法(代码片段)
A、CFQ（完全公平排队I/O调度程序）最新的内核版本和发行版中，都选择CFQ做为默认的I/O调度器，对于通用的服务器是最好的选择。CFQ对于多媒体应用（video，audio）和桌面系统是最好的选择。CFQ赋予I/O请求一个优先级，而I/O优先... 查看详情
rk3399平台开发系列讲解（i/o篇）linux磁盘i/o的性能指标
《linux内核设计与实现》学习笔记——i/o调度算法
I/O调度子系统用于调度来自多个进程对块设备的I/O请求。电梯调度首先，如果队列中已存在一个对相邻磁盘扇区操作的请求，那么新请求将和这个已经存在的请求合并为一个请求。2.如果队列中存在一个驻留时间过长的请求，那... 查看详情
如何在 Linux 上清除磁盘 I/O 缓存？
】如何在Linux上清除磁盘I/O缓存？【英文标题】：HowtopurgediskI/OcachesonLinux?【发布时间】：2012-03-2201:13:02【问题描述】：我需要这样做以获得更可预测的基准测试。【问题讨论】：sync正在冲洗，而不是清除。在这种情况下，“冲... 查看详情
linux磁盘知识,分区与文件系统
硬件设备在Linux系统中的表现 设备文件 I/OPorts:I/O设备地址 一切皆文件： open(),read(),write(),close() 设备类型： &nbs 查看详情
五种i/o模型
...I/O、I/O复用、事件（信号）驱动I/O、异步I/O进程想要获取磁盘中的数据，需要发起系统调用，通知内核。因为只有内核才能和磁盘交互。当进程发起系统调用的时候，系统调用进入内核模式，然后开始I/O操作：磁盘将数据加载进... 查看详情