Linux中软件RAID的使用精品资料.doc

《Linux中软件RAID的使用精品资料.doc》由会员分享，可在线阅读，更多相关《Linux中软件RAID的使用精品资料.doc（36页珍藏版）》请在淘文阁 - 分享文档赚钱的网站上搜索。

1、Linux 中软件 RAID 的使用一.简介在Linux系统中目前以MD (Multiple Devices)虚拟块设备的方式实现软件RAID，利用多个底层的块设备虚拟出一个新的虚拟块设备，并且利用条带化(stripping)技术将数据块均匀分布到多个磁盘上来提高虚拟设备的读写性能，利用不同的数据冗余算法来保护用户数据不会因为某个块设备的故障而完全丢失，而且还能在设备被替换后将丢失的数据恢复到新的设备上。关于不同冗余级别的定义和数据块以及校验块的分布示意图可以参考存储专业委员会给出的参考资料“Common RAID Disk Data Format Specification ”。目前MD支持

2、linear, multipath, raid0 (stripping), raid1 (mirror), raid4, raid5, raid6, raid10等不同的冗余级别和组成方式，当然也能支持多个RAID阵列的层叠组成raid1+0, raid5+1等类型的阵列。在参考资料“Software RAID HOWTO”中介绍了早期软件RAID阵列功能特点和使用方式，但是因为软件RAID程序的功能不断增加，因此很有必要写份新的使用介绍。本文主要先讲解用户层mdadm如何管理软件RAID以及使用中经常遇到的问题和解决方法。在流行的Linux的发布版中，如FedoraCore,Gentoo,

3、Ubuntu,Debian,SuseLinux系统中一般已经将MD驱动模块直接编译到内核中或编译为可动态加载的驱动模块。我们可以在机器启动后通过cat /proc/mdstat看内核是否已经加载MD驱动或者cat /proc/devices是否有md块设备，并且可以使用lsmod看MD是否是以模块形式加载到系统中。rootfc5 mdadm-2.6.3# cat /proc/mdstatPersonalities :unused devices: rootfc5 mdadm-2.6.3# cat /proc/devices | grep md1 ramdisk9 md253 mdprootfc

4、5 mdadm-2.6.3# lsmod | grep mdmd_mod 73364 0如果Linux系统既没有将MD编译到内核也没有自动加载MD模块，则没有/proc/mdstat文件，那么需要执行命令modprobe md加载驱动模块。rootfc5 mdadm-2.6.3#cat /proc/mdstatcat: /proc/mdstat: No such file or directoryrootfc5 mdadm-2.6.3# modprobe mdrootfc5 mdadm-2.6.3# lsmod | grep mdmd_mod 73364 0如果系统中没有MD驱动模块则需要自己

5、从Linux内核源代码网站下载源代码包，并且重新编译内核，并且需要在内核的配置文件选择。*Multiple devices driver support (RAID and LVM) RAID support Linear (append) mode RAID-0 (striping) mode RAID-1 (mirroring) mode RAID-10 (mirrored striping) mode (EXPERIMENTAL) RAID-4/RAID-5/RAID-6 mode * Support adding drives to a raid-5 array Multipath I

6、/O support Faulty test module for MD在Linux系统中用户层以前使用raidtool工具集来管理MD设备，目前广泛使用mdadm软件来管理MD设备，而且该软件都会集成在Linux的发布版中。如果系统中没有安装可以到RAID驱动程序和mdadm软件的维护者Neil Brown的个人网站来下载源码包进行编译安装，或者下载RPM包直接安装。mdadm的最新版本是2.6.3。可以使用mdadm -version查看当前系统使用的版本。本文使用的是mdadm-2.6.3, Linux内核版本是Linux-2.6.22.1。下面的测试命令是在虚拟机环境中测试运行的。ro

7、otfc5 mdadm-2.6.3# uname -r2.6.22.1rootfc5 mdadm-2.6.3# ./mdadm -versionmdadm - v2.6.3 - 20th August 2007二. mdadm管理软RAID阵列mdadm程序是一个独立的程序，能完成所有的软RAID管理功能，主要有7种使用模式：模式名字主要功能Create使用空闲的设备创建一个新的阵列，每个设备具有元数据块Assemble将原来属于一个阵列的每个块设备组装为阵列Build创建或组装不需要元数据的阵列，每个设备没有元数据块Manage管理已经存储阵列中的设备，比如增加热备磁盘或者设置某个磁盘失效，

8、然后从阵列中删除这个磁盘Misc报告或者修改阵列中相关设备的信息，比如查询阵列或者设备的状态信息Grow改变阵列中每个设备被使用的容量或阵列中的设备的数目Monitor监控一个或多个阵列，上报指定的事件2.1 为磁盘划分分区如果MD驱动被编译到内核中，当内核调用执行MD驱动时会自动查找分区为FD(Linux raid autodetect)格式的磁盘。所以一般会使用fdisk工具将HD磁盘或者SD磁盘分区，再设置为FD的磁盘。rootfc5 mdadm-2.6.3# fdisk /dev/sdkDevice contains neither a valid DOS partition tabl

9、e, nor Sun, SGI or OSF disklabelBuilding a new DOS disklabel. Changes will remain in memory only,until you decide to write them. After that, of course, the previouscontent wont be recoverable.Warning: invalid flag 0x0000 of partition table 4 will be corrected by w(rite)Command (m for help):nCommand

10、action e extended p primary partition (1-4)pPartition number (1-4):1First cylinder (1-512, default 1):1Using default value 1Last cylinder or +size or +sizeM or +sizeK (1-512, default 512):512Using default value 512Command (m for help):tSelected partition 1Hex code (type L to list codes):FDChanged sy

11、stem type of partition 1 to fd (Linux raid autodetect)Command (m for help):wThe partition table has been altered!Calling ioctl() to re-read partition table.Syncing disks.rootfc5 mdadm-2.6.3# fdisk -l /dev/sdkDisk /dev/sdk: 1073 MB, 1073741824 bytes128 heads, 32 sectors/track, 512 cylindersUnits = cy

12、linders of 4096 * 512 = 2097152 bytes Device Boot Start End Blocks Id System/dev/sdk1 1 512 1048560 fd Linux raid autodetect软RAID阵列实际上也可以使用任何标准的块设备作为底层设备，如SCSI设备、IDE设备、RAM disk磁盘和NBD(Network Block Device)等，甚至是其他的MD设备。如果MD驱动是模块形式加载，需要在系统运行时由用户层脚本控制RAID阵列启动运行。如在FedoraCore系统中在/etc/rc.d/rc.sysinit文件中有启动

13、软RAID阵列的指令，若RAID的配置文件mdadm.conf存在，则调用mdadm检查配置文件里的选项，然后启动RAID阵列。echo raidautorun /dev/md0 | nash -quietif -f /etc/mdadm.conf ; then /sbin/mdadm -A -sfi2.2 创建新的阵列mdadm使用-create(或其缩写-C)参数来创建新的阵列，并且将一些重要阵列的标识信息作为元数据可以写在每一个底层设备的指定区间。-level(或者其缩写-l)表示阵列的RAID级别，-chunk(或者其缩写-c)表示每个条带单元的大小，以KB为单位，默认为64KB，条带

14、单元的大小配置对不同负载下的阵列读写性能有很大影响。-raid-devices(或者其缩写-n)表示阵列中活跃的设备个数，而-spare-devices(或者其缩写-x)表示阵列中热备盘的个数，一旦阵列中的某个磁盘失效，MD内核驱动程序自动用将热备磁盘加入到阵列，然后重构丢失磁盘上的数据到热备磁盘上。创建一个RAID 0设备：mdadm -create /dev/md0 -level=0 -chunk=32 -raid-devices=3 /dev/sdi-k1创建一个RAID 1设备：mdadm -C /dev/md0 -l1 -c128 -n2 -x1 /dev/sdi-k1创建一个RAI

15、D 5设备：mdadm -C /dev/md0 -l5 -n5 /dev/sdc-g -x1 /dev/sdb 创建一个RAID 6设备：mdadm -C /dev/md0 -l6 -n5 /dev/sdc-g -x2 /dev/sdb /dev/sdh创建一个RAID 10设备：mdadm -C /dev/md0 -l10 -n6 /dev/sdb-g -x1 /dev/sdh创建一个RAID1+0设备：mdadm -C /dev/md0 -l1 -n2 /dev/sdb /dev/sdcmdadm -C /dev/md1 -l1 -n2 /dev/sdd /dev/sdemdadm -C

16、/dev/md2 -l1 -n2 /dev/sdf /dev/sdgmdadm -C /dev/md3 -l0 -n3 /dev/md0 /dev/md1 /dev/md2当RAID1/4/5/6/10等创建成功后，需要计算每个条带的校验和信息并写入到相应磁盘上，所以RAID阵列有一个冗余组数据同步的初始化过程(resync)。但是MD设备只要创建成功后即可对外被上层应用读写使用，当然由于上层数据读写降低数据同步的性能。初始化的时间长短和磁盘阵列自身性能以及读写的应用负载相关，使用cat /proc/mdstat信息查询RAID阵列当前重构的速度和预期的完成时间。rootfc5 mdadm-2

17、.6.3# cat /proc/mdstatPersonalities : raid10md0 : active raid10 sdh6(S) sdg5 sdf4 sde3 sdd2 sdc1 sdb0 3145536 blocks 64K chunks 2 near-copies 6/6 UUUUUU =. resync = 15.3% (483072/3145536) finish=0.3min speed=120768K/secunused devices: rootfc5 mdadm-2.6.3# cat /proc/mdstatPersonalities : raid10md0 :

18、active raid10 sdh6(S) sdg5 sdf4 sde3 sdd2 sdc1 sdb0 3145536 blocks 64K chunks 2 near-copies 6/6 UUUUUUunused devices: 如果一个块设备已经正在被其他的MD设备或者文件系统使用，则不能用来创建新的MD设备。rootfc5 mdadm-2.6.3# ./mdadm -C /dev/md1 -l0 -n2 /dev/sdh /dev/sdimdadm: Cannot open /dev/sdh: Device or resource busymdadm: create abortedB

19、uild模式可以用来创建没有元数据的RAID0/1设备，不能创建RAID4/5/6/10等带有冗余级别的MD设备。rootfc5 mdadm-2.6.3# ./mdadm -BR /dev/md0 -l0 -n6 /dev/sdb-gmdadm: array /dev/md0 built and started. rootfc5 mdadm-2.6.3# ./mdadm -BR /dev/md0 -l1 -n2 /dev/sdb-cmdadm: array /dev/md0 built and started.rootfc5 mdadm-2.6.3# ./mdadm -BR /dev/md0

20、-l5 -n6 /dev/sdb-gmdadm: Raid level 5 not permitted with -build.rootfc5 mdadm-2.6.3# ./mdadm -BR /dev/md0 l6 -n6 /dev/sdb-gmdadm: Raid level 5 not permitted with -build.rootfc5 mdadm-2.6.3# ./mdadm -BR /dev/md0 l10 -n6 /dev/sdb-gmdadm: Raid level 10 not permitted with -build.使用阵列：MD设备可以像普通块设备那样直接读写，

21、也可以做文件系统格式化。#mkfs.ext3 /dev/md0#mkdir -p /mnt/md-test#mount /dev/md0 /mnt/md-test停止正在运行的阵列：当阵列没有文件系统或者其他存储应用以及高级设备使用的话，可以使用-stop(或者其缩写-S)停止阵列；如果命令返回设备或者资源忙类型的错误，说明/dev/md0正在被上层应用使用，暂时不能停止，必须要首先停止上层的应用，这样也能保证阵列上数据的一致性。rootfc5 mdadm-2.6.3# ./mdadm -stop /dev/md0mdadm: fail to stop array /dev/md0: Devi

22、ce or resource busyrootfc5 mdadm-2.6.3# umount /dev/md0rootfc5 mdadm-2.6.3#./mdadm -stop /dev/md0 mdadm: stopped /dev/md02.3 组装曾创建过的阵列模式-assemble或者其缩写(-A)主要是检查底层设备的元数据信息，然后再组装为活跃的阵列。如果我们已经知道阵列由那些设备组成，可以指定使用那些设备来启动阵列。rootfc5 mdadm-2.6.3# ./mdadm -A /dev/md0 /dev/sdb-hmdadm: /dev/md0 has been started

23、with 6 drives and 1 spare.如果有配置文件(/etc/mdadm.conf)可使用命令mdadm -As /dev/md0。mdadm先检查mdadm.conf中的DEVICE信息，然后从每个设备上读取元数据信息，并检查是否和ARRAY信息一致，如果信息一致则启动阵列。如果没有配置/etc/mdadm.conf文件，而且又不知道阵列由那些磁盘组成，则可以使用命令-examine(或者其缩写-E)来检测当前的块设备上是否有阵列的元数据信息。rootfc5 mdadm-2.6.3# ./mdadm -E /dev/sdimdadm: No md superblock det

24、ected on /dev/sdi.rootfc5 mdadm-2.6.3# ./mdadm -E /dev/sdb/dev/sdb: Magic : a92b4efc Version : 00.90.00 UUID : 0cabc5e5:842d4baa:e3f6261b:a17a477a Creation Time : Sun Aug 22 17:49:53 1999 Raid Level : raid10 Used Dev Size : 1048512 (1024.11 MiB 1073.68 MB) Array Size : 3145536 (3.00 GiB 3.22 GB) Rai

25、d Devices : 6 Total Devices : 7Preferred Minor : 0 Update Time : Sun Aug 22 18:05:56 1999 State : clean Active Devices : 6Working Devices : 7 Failed Devices : 0 Spare Devices : 1 Checksum : 2f056516 - correct Events : 0.4 Layout : near=2, far=1 Chunk Size : 64K Number Major Minor RaidDevice Statethi

26、s 0 8 16 0 active sync /dev/sdb 0 0 8 16 0 active sync /dev/sdb 1 1 8 32 1 active sync /dev/sdc 2 2 8 48 2 active sync /dev/sdd 3 3 8 64 3 active sync /dev/sde 4 4 8 80 4 active sync /dev/sdf 5 5 8 96 5 active sync /dev/sdg 6 6 8 112 6 spare /dev/sdh从上面命令结果可以找到阵列的唯一标识UUID和阵列包含的设备名字，然后再使用上面的命令来组装阵列，也

27、可以使用UUID标识来组装阵列。没有一致的元数据的信息设备(例如/dev/sda和/dev/sda1等)mdadm程序会自动跳过。rootfc5 mdadm-2.6.3# ./mdadm -Av -uuid=0cabc5e5:842d4baa:e3f6261b:a17a477a /dev/md0 /dev/sd*mdadm: looking for devices for /dev/md0mdadm: no recogniseable superblock on /dev/sdamdadm: /dev/sda has wrong uuid.mdadm: no recogniseable sup

28、erblock on /dev/sda1mdadm: /dev/sda1 has wrong uuid.mdadm: no RAID superblock on /dev/sdimdadm: /dev/sdi has wrong uuid.mdadm: /dev/sdi1 has wrong uuid.mdadm: no RAID superblock on /dev/sdjmdadm: /dev/sdj has wrong uuid.mdadm: /dev/sdj1 has wrong uuid.mdadm: no RAID superblock on /dev/sdkmdadm: /dev

29、/sdk has wrong uuid.mdadm: /dev/sdk1 has wrong uuid.mdadm: /dev/sdb is identified as a member of /dev/md0, slot 0.mdadm: /dev/sdc is identified as a member of /dev/md0, slot 1.mdadm: /dev/sdd is identified as a member of /dev/md0, slot 2.mdadm: /dev/sde is identified as a member of /dev/md0, slot 3.

30、mdadm: /dev/sdf is identified as a member of /dev/md0, slot 4.mdadm: /dev/sdg is identified as a member of /dev/md0, slot 5.mdadm: /dev/sdh is identified as a member of /dev/md0, slot 6.mdadm: added /dev/sdc to /dev/md0 as 1mdadm: added /dev/sdd to /dev/md0 as 2mdadm: added /dev/sde to /dev/md0 as 3

31、mdadm: added /dev/sdf to /dev/md0 as 4mdadm: added /dev/sdg to /dev/md0 as 5mdadm: added /dev/sdh to /dev/md0 as 6mdadm: added /dev/sdb to /dev/md0 as 0mdadm: /dev/md0 has been started with 6 drives and 1 spare.配置文件：/etc/mdadm.conf作为默认的配置文件，主要作用是方便跟踪软RAID的配置，尤其是可以配置监视和事件上报选项。Assemble命令也可以使用-config(或

32、者其缩写-c)来指定配置文件。我们通常可以如下命令来建立配置文件。rootfc5 mdadm-2.6.3#echo DEVICE /dev/sdb-h /dev/sdi-k1 /etc/mdadm.confrootfc5 mdadm-2.6.3# ./mdadm -Ds /etc/mdadm.confrootfc5 mdadm-2.6.3# cat /etc/mdadm.confDEVICE /dev/sdb /dev/sdc /dev/sdd /dev/sde /dev/sdf /dev/sdg /dev/sdh /dev/sdi1 /dev/sdj1 /dev/sdk1ARRAY /dev

33、/md1 level=raid0 num-devices=3 UUID=dcff6ec9:53c4c668:58b81af9:ef71989dARRAY /dev/md0 level=raid10 num-devices=6 spares=1 UUID=0cabc5e5:842d4baa:e3f6261b:a17a477a使用配置文件启动阵列时，mdadm会查询配置文件中的设备和阵列内容，然后启动运行所有能运行RAID阵列。如果指定阵列的设备名字，则只启动对应的阵列。rootfc5 mdadm-2.6.3# ./mdadm -Asmdadm: /dev/md1 has been started

34、 with 3 drives.mdadm: /dev/md0 has been started with 6 drives and 1 spare.rootfc5 mdadm-2.6.3# cat /proc/mdstatPersonalities : raid0 raid10md0 : active raid10 sdb0 sdh6(S) sdg5 sdf4 sde3 sdd2 sdc1 3145536 blocks 64K chunks 2 near-copies 6/6 UUUUUUmd1 : active raid0 sdi10 sdk12 sdj11 7337664 blocks 3

35、2k chunksunused devices: rootfc5 mdadm-2.6.3# ./mdadm -S /dev/md0 /dev/md1mdadm: stopped /dev/md0mdadm: stopped /dev/md1rootfc5 mdadm-2.6.3# ./mdadm -As /dev/md0mdadm: /dev/md0 has been started with 6 drives and 1 spare.rootfc5 mdadm-2.6.3# cat /proc/mdstatPersonalities : raid0 raid10md0 : active ra

36、id10 sdb0 sdh6(S) sdg5 sdf4 sde3 sdd2 sdc1 3145536 blocks 64K chunks 2 near-copies 6/6 UUUUUUunused devices: 2.4 查询阵列的状态我们可以通过cat /proc/mdstat信息查看所有运行的RAID阵列的状态，在第一行中首先是MD的设备名，active和inactive选项表示阵列是否能读写，接着是阵列的RAID级别，后面是属于阵列的块设备，方括号里的数字表示设备在阵列中的序号，(S)表示其是热备盘，(F)表示这个磁盘是faulty状态。在第二行中首先是阵列的大小，单位是KB，接着是

37、chunk-size的大小，然后是layout类型，不同RAID级别的layout类型不同，6/6和UUUUUU表示阵列有6个磁盘并且6个磁盘都是正常运行的，而5/6和_UUUUU 表示阵列有6个磁盘中5个都是正常运行的，下划线对应的那个位置的磁盘是faulty状态的。rootfc5 mdadm-2.6.3# cat /proc/mdstatPersonalities : raid6 raid5 raid4 raid1md0 : active raid5 sdh6(S) sdg5 sdf4 sde3 sdd2 sdc1 sdb0 5242560 blocks level 5, 64k chun

38、k, algorithm 2 6/6 UUUUUUunused devices: rootfc5 mdadm-2.6.3# ./mdadm /dev/md0 -f /dev/sdh /dev/sdbmdadm: set /dev/sdh faulty in /dev/md0mdadm: set /dev/sdb faulty in /dev/md0rootfc5 mdadm-2.6.3# cat /proc/mdstatPersonalities : raid6 raid5 raid4 raid1md0 : active raid5 sdh6(F) sdg5 sdf4 sde3 sdd2 sd

39、c1 sdb7(F) 5242560 blocks level 5, 64k chunk, algorithm 2 6/5 _UUUUUunused devices: 如果Linux系统目前支持sysfs也可以访问/sys/block/md0目录查询阵列信息。rootfc5 mdadm-2.6.3# ls -l /sys/block/md0/capability holders range size stat ueventdev md removable slaves subsystemrootfc5 mdadm-2.6.3# ls /sys/block/md0/md/array_state

40、dev-sdg rd1 suspend_lobitmap_set_bits dev-sdh rd2 sync_actionchunk_size layout rd3 sync_completedcomponent_size level rd4 sync_speeddev-sdb metadata_version rd5 sync_speed_maxdev-sdc mismatch_cnt reshape_position sync_speed_mindev-sdd new_dev resync_startdev-sde raid_disks safe_mode_delaydev-sdf rd0

41、 suspend_hirootfc5 mdadm-2.6.3# ls /sys/block/md0/slaves/sdb sdc sdd sde sdf sdg sdh我们也可以通过mdadm命令查看指定阵列的简要信息(使用-query或者其缩写-Q)和详细信息(使用-detail或者其缩写-D) 详细信息包括RAID的版本、创建的时间、RAID级别、阵列容量、可用空间、设备数量、超级块状态、更新时间、UUID信息、各个设备的状态、RAID算法级别类型和布局方式以及块大小等信息。设备状态信息分为active, sync, spare, faulty, rebuilding, removing等

42、等。rootfc5 mdadm-2.6.3# ./mdadm -query /dev/md0/dev/md0: 2.100GiB raid10 6 devices, 1 spare. Use mdadm -detail for more detail.rootfc5 mdadm-2.6.3# ./mdadm -detail /dev/md0/dev/md0: Version : 00.90.03 Creation Time : Sun Aug 22 17:49:53 1999 Raid Level : raid10 Array Size : 3145536 (3.00 GiB 3.22 GB)

43、 Used Dev Size : 1048512 (1024.11 MiB 1073.68 MB) Raid Devices : 6 Total Devices : 7Preferred Minor : 0 Persistence : Superblock is persistent Update Time : Sun Aug 22 21:55:02 1999 State : clean Active Devices : 6Working Devices : 7 Failed Devices : 0 Spare Devices : 1 Layout : near=2, far=1 Chunk Size : 64K UUID : 0cabc5e5:842d4baa:e3f6261b:a17a477a