UIT 存储基础培训 - OS与存储

UnitedInformationTechnologyCo.,Ltd.UIT存储基础技术中心郭镭UnitedInformationTechnologyCo.,Ltd.第二章操作系统与存储块设备文件系统卷管理技术数据库与存储UnitedInformationTechnologyCo.,Ltd.操作系统与存储UnitedInformationTechnologyCo.,Ltd.设备分类-字符设备与块设备字符设备（Characterdevices）指那些无须缓冲直接读写的设备。字符设备以字节为单位进行读写，数据缓冲系统对它们的访问不提供缓冲。裸设备，也叫裸分区（原始分区），是一种没有经过格式化，不通过文件系统来读取的特殊字符设备块设备(Blockdevices)只能以块为单位进行读写，典型的块大小为512或1024字节。块设备允许随机访问，每次读写的数据量都是数据块长度的整数倍。块设备和字符设备的区别在概念上主要是字符设备跳过了缓冲区，块设备则要经过缓冲区。硬盘是既可以做块设备用，也可以做字符设备用。UnitedInformationTechnologyCo.,Ltd.块设备和块I/OSector块设备传输数据的最小单位Block文件系统的最小存储单位Segment内存交换单位或一部分Page磁盘缓存单位PageBlockSectorBlockI/OUnitedInformationTechnologyCo.,Ltd.Sector硬件设备存放数据的连续区域单位.一个sector的大小是512字节sector是磁盘设备和操作系统之间最小传输单位，多个sector可同时传输。如果磁盘设备支持的sector大小是512的整数倍且大于512字节，那么操作系统的底层block驱动程序帮我们自动转化。UnitedInformationTechnologyCo.,Ltd.sector是操作系统和块硬件设备之间传送数据的单位，那么block是文件系统管理数据的单位比如操作系统的虚拟文件系统VFS需要从硬件设备上读取一个block，实际上是从硬件设备读取了一个或多个sector.对于文件管理来说，每个文件对应的多个block可能是不连续的block最终要映射到sector上，所以一般block的大小是sector大小的整数倍不同的文件系统，可以使用的block的大小可以不同块BlockUnitedInformationTechnologyCo.,Ltd.块设备操作的基本概念对block设备的操作涉及到的内核组件ThegenericblocklayerThegenericblocklayer隐藏硬件细节，提供block设备的抽象视图。提供通用的数据结构描述disks和diskpartitions.I/OschedulerI/Oscheduler(I/O调度器)根据内核制定的策略对未决的(pending)I/O数据传送请求进行排序和调度。提高I/O调度器的效率也是影响整个系统对块设备上数据管理效率的一个方面。blockdevice最后，blockdevice设备驱动程序，完成和硬件的具体交互。UnitedInformationTechnologyCo.,Ltd.为什么需要I/O调度？磁盘寻道在计算机系统中是最慢的操作没有合适的I/O调度器，对系统性能影响非常大I/O调度可以安排磁头在一个方向上移动，减少seek次数像电梯（操作系统中一般称这样的算法为电梯算法)在全局范围内获得高吞吐量blockI/OrequestI/OSchedulerRequestqueuemaintenanceRequestdispatchI/OScheduler的工作SortrequestqueuesMergerequestqueuesDispatchI/Orequests提高读取磁盘的效率UnitedInformationTechnologyCo.,Ltd.逻辑卷管理传统分区缺点：磁盘的划分通过分区来实现，在系统安装之前用户必须正确选择每个分区的大小分区大小是固定不变的，同时也就限制文件系统和文件的大小分配给分区的磁盘空间必须是连续，这个特点限制了分区不能跨越多个物理卷LVM逻辑卷管理优点：可分配非连续空间，可以跨越多个硬盘可以动态增大逻辑卷的大小方便存储管理操作，包括文件系统的备份、分区的删除、新分区的建立和文件系统的恢复等新的硬盘很容易动态地添加到系统DriversVG操作系统物理存储LogicalVolumeManager(LVM)LVLV数据库文件系统VGLV文件系统UnitedInformationTechnologyCo.,Ltd.卷组VG：VolumeGrouphdisk0hdisk1hdisk2rootvgdatavg一个卷组VG可以拥有多个硬盘，但至少拥有一个硬盘(hdisk)一个硬盘(hdisk)只能属于一个VG，不能同时属于多个不同VG用户可以创建多个不同VG，rootvg是操作系统所在的VGUnitedInformationTechnologyCo.,Ltd.物理卷PV和PP存储管理器中，一个硬盘就是一个PV一个PV要划分为大小相等的PP同一个VG中的不同PV的PP大小要一样，默认的PP大小为4MPV必须加入一个VG中，系统才能使用其存储空间hdisk(硬盘)PVPPPhysicalVolume(物理卷)PhysicalPartition(物理分区)UnitedInformationTechnologyCo.,Ltd.逻辑卷LV123459678101112123459678101112PVPVLV逻辑卷(LogicalVolume)12345678……n存储管理一个很重要的特点就是引入了“逻辑卷”这个概念，几乎所有的存储管理都围绕“逻辑卷”展开逻辑卷LV有多个逻辑上连续的逻辑分区LP组成，逻辑分区与物理分区存在映射关系，他们大小一样VGLogicalPartition逻辑分区创建了逻辑卷后，可以在上面创建文件系统，还可以直接是裸设备，用于数据库软件的数据存取等逻辑卷空间不足，只要卷组中还有足够的PP数量，那么逻辑卷空间都可以动态增大LV逻辑卷的意义UnitedInformationTechnologyCo.,Ltd.逻辑卷LV与文件系统hd4LVhd1limhaihome(root)LVhd2binusrlpplibhd9varspoolvaretcmnt逻辑卷管理器：扮演的角色就是管理好逻辑卷与物理卷之间的映射关系，保证所有的上层存储操作命令都正确地把数据写入相应的物理设备中文件系统：是数据存储方式。它扮演的角色就是以清晰层次结构的文件和目录，去管理好用户数据存取，保证用户写入的数据以可靠的存储方式存放，且无差错地响应用户请求的数据不同文件系统的数据存在硬盘的不同逻辑卷中UnitedInformationTechnologyCo.,Ltd.逻辑卷管理器rootvgPVPV文件系统LVhd1hd6hd8lv00paging00Mount表jfspagespacejfslogjfspagespacePPhomelimhai类型varlimhaioracleoracleApp-dataMount点datatvg逻辑卷LV与文件系统–结构图UnitedInformationTechnologyCo.,Ltd.逻辑卷策略--镜像mirrorPP1PP2PP1PP2PP1PP2LP1LP2..hdisk0hdisk1hdisk2LV00镜像mirror，类似于RAID1，可以实现逻辑卷中逻辑分区的镜像，在独立的不同硬盘中保存两个或三个副本，从而保证硬盘出错时数据不受损坏而且是可用的镜像的调度策略Parallel(并行)：每个副本的写请求是同时进行的，当更新时间最长的副本完成后，控制就返回给程序。执行效率很高，但当副本更新时若有硬盘错误发生，数据的完整性有可能遭到破坏。读操作时候，读最相近的副本，所以响应速率快Sequential(串行)：当数据写到逻辑分区时，只有所有的副本都更新后控制才返回给程序，而且副本是一个个轮留更新。执行速率比并行镜像慢，但是数据完整性较好。读操作时候，总是先读主副本UnitedInformationTechnologyCo.,Ltd.逻辑卷策略--条带化striping1234567891011121314151617181471013162581114173691215181、没有做条带化的数据块流：2、做了条带化的数据块流：PVPV做条带化类似于RAID0条带化把数据块均匀地分布在不同硬盘上访问逻辑卷上的连续数据时多个硬盘驱动器并行操作，提高了I/O的吞吐量UnitedInformationTechnologyCo.,Ltd.物理卷内分配策略外部边缘外部中间中心内部中间内部边缘硬盘的平面图通常访问最频繁的LV分配在中心，访问不频繁的LV分配在边缘访问速度慢慢快UnitedInformationTechnologyCo.,Ltd.文件系统FileSystem概念：文件和对文件进行操纵和管理的软件集合。三个层次一、管理的对象及属性（1）文件（2）目录（3）物理存贮空间的管理二、管理的文件操作：（1）逻辑文件系统：受命write-write（2）基本I/O管理：write（3）基本文件系统：向driver发令（4）I/O控制层：driver三、管理的文件系统接口（1）命令接口：（2）程序接口：UnitedInformationTechnologyCo.,Ltd.文件系统层次模型UnitedInformationTechnologyCo.,Ltd.FileSystemDriver体系结构（本地）应用程序接口物理磁盘用户态核心态物理设备I/O管理器文件系统驱动程序存储设备驱动UnitedInformationTechnologyCo.,Ltd.应用程序服务器端用户态物理设备核心态用户态核心态客户端物理磁盘I/O管理器远程FSD(重定向器）远程FSD（服务器）本地FSD存储设备驱动FileSystemDriver体系结构（远程）UnitedInformationTechnologyCo.,Ltd.存储分配方法（文件物理组织）连续分配（磁带，磁盘都可采用）每个顺序文件分配一组相邻盘块。特点：简单（1）顺序访问容易且速度快，因磁头移动距离小，（2）要求连续空间，一段时间后需整理磁盘以消除外部碎片。（3）必须事先知道长度，文件不易动态增长和删除。链接分配文件离散地分配于各盘块中，以提高外存利用率，文件长度可变，易于增删，只能顺序存取。特点：只适合于顺序访问，对随机访问效率低，可靠性差。链接分配问题：不能高效直接存取；FAT需占较大的内存。索引分配概念：为每个文件分配一个索引块特点：（1）文件较大时有利。文件较小时浪费外存空间（还需为小文件建索引块）（2）当文件较大时，索引块太多，则需建立多级索引UnitedInformationTechnologyCo.,Ltd.日志文件系统日志文件系统最大的优点在于提供了更好的安全性。日志文件系统会将整个磁盘所做过的更动,像写日记一样完整的记录下来，一旦发生非预期的故障状况,会在下次启动时,自动检查已记录的日志,然后依照日志记录的动作再做一次，将系统恢复到当机前的正常状态。可以大幅减少不正常关机后所花费的系统修复时间,让数据的使用更有效率非日志文件系统发生故障时,需要辛苦地执行FSCK命令检查与修复整个文件系统。现在动辄数十GB的磁盘空间,一旦不正常关机,便要耗费相当多的时间来检查及修复文件系统,且不能百分之百保证所有的数据都不会流失UnitedInformationTechnologyCo.,Ltd.每个文件系统由逻辑块的序列组成，一个逻辑盘空间一般划分为几个用途各不相同的部分，即引导块、超级块、inode区以及数据区等。引