Linux系统管理
1.存储管理
传统的磁盘分区
RAID技术,软RAID的实现
LVM
文件系统管理
ext,xfs,btrfs(了解)
2.程序包管理
rpm、yum、dnf
3.sed、gawk
4.进程管理
5.网络管理
网络基础知识(Cisco CCNA+CCNP)
网络属性管理
网络参数监测
6.Linux内核管理
内核编译和安装
内核的裁剪
定制内核
7.Linux系统启动流程
CentOS5、6、7
8.系统安装
kickstart、dhcp、pxe
9.shell脚本的完善
Linux存储管理
磁盘的接口类型:
IDE:并口,来源于ATA,133Mbps
SCSI:并口,
UltraSCSI320:320Mbps
UltraSCSI640:640Mbps
窄带:7 14
宽带:15 30
SATA:Serial ATA,串口
SATA1 2 3 6Gbps
SAS:串口
6Gbps
USB:
1.0 1.1 2.0 3.0:480Mbps 3.1:10Gbps
双通道:160MBps
IOPS:每秒IO次数
IDE:机械硬盘,50IOPS
SCSI:机械硬盘,100-200IOPS
固态硬盘,400左右
SATA:机械硬盘:100左右
固态硬盘,400
SAS:机械硬盘,200左右
固态硬盘,800左右
PCI-E固态硬盘:100000+ ES3000 DEC
IDE:主板上两个接口,4块IDE硬盘
SATA:4-6接口,4-6块硬盘
SCSI:7 15
SAS:16384块硬盘
写一个脚本,向每个默认shell为bash的用户问好,如:Hi root
#!/bin/bash
#
for I in $(grep "bash$" /etc/passwd | cut -d: -f1) ; do
echo "Hi $I"
done
回顾:
while until select case
break continue
function
Linux系统管理
存储管理
机械硬盘:
track:磁道,
sector:扇区,512Bytes,现在所说的扇区,实际上是平均值;
cylinder:柱面,从磁道向所有盘片做投影
partition:分区,分区就是基于柱面来划分的存储空间
head:磁头,每个磁盘表面都有一个磁头;
设备文件:/dev
设备文件是关联到硬件设备的驱动程序和设备的访问入口;
设备号:
major:主设备号,区分设备的类型,用于标明设备所需的驱动程序;
minor:次设备号,区分同种类型下的不同设备,是特定设备的访问入口;
mknod命令:
mknod - make block or character special files
mknod [OPTION]... NAME TYPE [MAJOR MINOR]
设备类型:
块设备:用于随机访问的设备,数据存储和交换的单位是块;
字符设备:用于线性访问的设备,数据的交换单位一般是字符;
设备文件名:IANA-->ICANN
/dev/
IDE:hd[a-d]
SCSI/SATA/SAS/USB:sd[a-z]
RHEL6、CentOS6开始:
所有的接口类型的硬盘设备统一命名为sd[a-z]
设备引用方式:
设备文件名
卷标(Volume Lable)
link
UUID:全局唯一标识符,128bit
如何使用一个新的硬盘设备?
分区
创建文件系统(格式化)
挂载分区
为何分区?
1.优化I/O性能
2.实现磁盘空间的配额限制
3.进行高速修复
4.隔离系统文件和其他程序文件
5.安装多个操作系统
如何分区?
MBR:硬盘空间小于2TB
MBR:Master(Main) Boot Record, 主引导记录,起源于1982年,
0磁道0扇区:512Byte
446Bytes:boot loader,引导加载程序,GRUB
64Bytes:partition table,分区表,每16Bytes表明一个分区的内容;因此一共有四个主分区;
注意:
1.主分区+扩展分区,最多可以有4个,其分区表位的编号依次为:1,2,3,4
2.逻辑分区的编号从5开始,不管前面的四个数字编号是否被占用;
2Bytes:结束标记,55AA
GPT:硬盘空间大于2TB
GUID Partition Table,GUID分区表,支持128个分区
UEFI(统一扩展固件接口)的硬件可以支持GPT Boot Legacy
通常使用的分区工具:
fdisk:
用于创建和管理MBR分区,对于一块硬盘,最多只能管理15个分区;
gdisk:GNU disk
用于创建和管理GPT分区,
如果使用fdisk或gdisk命令对于已经有分区并挂载的磁盘的剩余空间进行再次分区,分区的信息即便是保存了,也不会被内核重新读取;如果要让内核识别此类分区:
1.重启计算机;
2.partprobe命令或者partx命令,强制内核重读分区表;
CentOS5/7:partprobe -a [device] 如果省略了设备名,则表示重读所有磁盘的分区表
CentOS6/7:partx -a [device]
kpartx -af [device]
fdisk分区示例:
fdisk - Partition table manipulator for Linux
fdisk -l [device...]
查看指定磁盘的分区表,如果省略device参数,则显示所有磁盘设备的分区表;
fdisk device
对于指定设备进行分区管理;
fdisk子命令:
d delete a partition
l list known partition types
m print this menu
n add a new partition
e extended
p primary partition (1-4)
l logical
p print the partition table
q quit without saving changes
t change a partition's system id
w write table to disk and exit
parted:GNU
高级分区工具,实时生效;
parted - a partition manipulation program
parted [options] [device [command [options...]...]]
parted /dev/sdb mklabel gpt|msdos
parted /dev/sdb print
parted /dev/sdb mkpart primary 1 200
parted /dev/sdb rm 1
~]# echo '- - -' > /sys/class/scsi_host/host2/scan
强制内核识别在开机状态下插上的SCSI接口的磁盘
写一个脚本,将一个命令所依赖的共享库文件复制到/mnt/sysroot/lib64目录中,如果库文件已经存在于目标目录中,就不复制。
#!/bin/bash
#
DEST=/mnt/sysroot/lib64
if [ ! -d $DEST ] ; then
mkdir -p $DEST
fi
until [ "$CMD" == 'quit' ] ; do
read -p "give me a command: " CMD
if which --skip-alias $CMD &> /dev/null ; then
for I in $(ldd $(which --skip-alias $CMD) | grep -o "/[^[:space:]]\+") ; do
SRCLIB=$(basename $I)
if [ ! -e ${DEST}${SRCLIB} ] ; then
cp $I $DEST
fi
done
else
echo "Command not invalid."
fi
done
回顾:
机械式硬盘的基本术语和工作原理
使用新硬盘
分区
创建文件系统——格式化
挂载
分区方法:
fdisk parted
partprobe partx -a device
创建文件系统:
FHS /bin /dev /etc
权限
文件的命名规则
为什么要创建文件系统?
一百万册图书
平面分类管理
想要搜索需要的图书,需要遍历;
空间分类管理
门类
几次有限的但有效的查找即可;
创建文件系统实际上就是给分区进行存储空间的逻辑编址;
格式化:
低级格式化:
物理层面完成格式化,在磁盘设备出厂时,通过低级格式化来创建磁道;
主要作用:划分磁道
高级格式化:
分区之后进行,
主要作用:用来创建文件系统,为分区构建逻辑编址单元,簇,块
无论是簇还是块,都是将一个或多个扇区组织在一起,共同完成数据存储;
簇:512B 1024 2048 4096 8192 16384 32768 65536
块:1024 2048 4096
注意:
1.一个块只能放置一个文件的内容,一个文件可以占用多个块;
2.如果在某个分区中,将创建大量的小文件,把块划分的小一些;反之,块就大些
3.如果分区空间比较大,块也应该大一些;
在一个分区中创建了文件系统:
首先,会将分区划分成大小相等的若干块;
元数据块
元数据——inode(index node)
文件的属性:
文件大小
文件权限
文件所有者
文件时间戳
数据块指针
存放元数据的固定的存储空间,称为inode;
每个inode都有其对应的inode编号
数据块
存放文件中所包含的流式数据
特殊文件:
设备文件:block special 或 character special
仅仅是将元数据中的数据块指针换成了设备号
符号链接文件:symbolic link
仅仅是将元数据中的数据块指针换成了另一个文件的访问路径;
这类文件只占据元数据区域,没有数据块占用;
随着磁盘空间越来越大,划分的块的数量也越来越多,管理起来很不方便
划分块组可以解决该问题
块组:
每个块组中有独立的元数据块和数据块
存放数据的时候,以块组内的数据块优先选择,如果块组内的数据块不够,可以通过存储策略来请多个块组协同存储;
超级块:
主要定义了有多少个块组,以及每个块组的边界。
为了防止超级块发生故障倒置整个文件系统崩溃,对超级块进行冗余备份。
日志块:
对于数据的写入操作做记录的块;
防止数据不一致;
数据不一致通常都是由不洁关机,不洁断电导致;
一个完整的文件系统:
超级块,inode,inode bitmap,block bitmap,data block,journal block
想要查找/var/log/messages文件的内容,是怎样的过程?
首先查找/目录inode编号,从元数据区域中找到对应inode,再读取inode中的数据块指针,找到存放/目录内容的数据块;
然后,在数据块中查找名称为var的文件名,如果有,就定位其inode编号,再到元数据区域中查找对应编号的inode,再根据数据块指针找到保存var目录内容的数据块;
再然后,在该数据块中查找名称为log的文件名,如果有,就定位其inode编号,再到元数据区域中查找对应编号的inode,再根据数据块指针找到保存log目录内容的数据块;
之后,在该数据块中查找名称为messages的文件名,如果有,就定位其inode编号,再到元数据区域总查找对应编号的inode,再根据数据块指针找到messages文件对银的数据块,就可以读取数据;
系统调用
Linux支持的文件系统:
位于内核空间中的文件系统驱动
1.内核一部分
2.内核模块
位于用户空间中的文件系统管理应用程序
管理命令
Linux自己的文件系统:
ext ext2 ext3 ext4(最大分区50TB,可以做根分区,可以做启动分区)
xfs(企业级64位文件系统,最大分区500TB,可以做根和启动分区)
reiserfs(良好的反删除功能)
btrfs(技术预览版)
光盘文件系统:iso9660
网络文件系统:NFS、CIFS
集群文件系统:gfs2、ocfs2
内核级的分布式文件系统:ceph
伪文件系统:proc、sysfs、tmpfs、hugepagefs
windows的文件系统:vfat,ntfs
Unix的文件系统:ufs,FFS,JFS,zfs
交换分区文件系统:swap
用户空间中的分布式文件系统:mogilefs,moosefs,glusterfs
对于不同的发行版的Linux,都有其默认的文件系统选择:
RHEL、CentOS
5:ext3
6:ext4
7:xfs
文件系统的管理工具:
写一个脚本,如果发现用户hacker登录,则将登录时间和主机记录于日志/var/log/login.log中;
#!/bin/bash
#
if who | grep -q "\
for I in $(who | grep "\
echo -n $I >> /var/log/login.log
done
fi
管理文件系统:
创建文件系统:
mkfs
mkfs.ext2, mkfs.ext3, mkfs.ext4, mkfs.xfs, mkfs.btrfs, ...
文件系统检测和修复工具
fsck
fsck.ext3, fsxk.ext3, fsck.ext4, fsck.xfs, ...
文件系统属性查看工具
dumpe2fs
文件系统的属性调整工具
tune2fs
创建文件系统工具:
mkfs命令:
mkfs - build a Linux filesystem
mkfs [options] [-t type] [fs-options] device [size]
mkfs -t ext2 /dev/sdb1
注意:
1.不要使用磁盘设备名称和扩展分区设备名称作为mkfs命令的参数;
如果使用磁盘设备作为mkfs的参数,所有的分区都将被删除
如果使用扩展分区作为mkfs的参数,所有的逻辑分区都将被删除
2.能够作为mkfs命令参数的设备,是主分区设备和逻辑分区设备;
如果只是计划创建ext系列文件系统的话,可以使用mke2fs命令:
mke2fs:
mke2fs - create an ext2/ext3/ext4 filesystem
常用选项:
-b block-size:在创建文件系统时,调整块大小;
-i bytes-per-inode:指明inode与字节的比率,即:多少个字节可以建一个inode,默认值为16384;
-j:创建有日志功能的文件系统,就是ext3
-N number-of-inodes:直接指明要给此文件系统创建的inode的数量;
-m reserved-blocks-percentage:指定为超级用户root预留的磁盘空间的百分比;默认是5;
-t fstype:指定文件系统类型,ext2 ext3 ext4,默认是ext2
-O [^]feature[,...]:关闭或开启文件系统的特性
-L volume-label:为文件系统指定卷标
如果只计划修改ext系列文件系统的卷标,可以使用e2label命令:
e2label:
e2label - Change the label on an ext2/ext3/ext4 filesystem
e2label device [ new-label ]
注意:如果不加卷标信息,表示查看指定设备的卷标;
如果添加了卷标信息, 表示修改指定设备的卷标;
如果想要修改ext系列文件系统的属性,可以使用tune2fs命令:
tune2fs:
tune2fs - adjust tunable filesystem parameters on ext2/ext3/ext4 filesystems
调整那些在ext2,3,4文件系统上的可修改的参数;
常用选项:
-j:将ext2文件系统修改为ext3;
-m reserved-blocks-percentage:修改为超级用户预留的磁盘空间的百分比;
-o [^]mount-options[,...]:修改文件系统的默认挂载选项;
-r reserved-blocks-count:修改为超级用户预留的磁盘空间的块的数量;
-L volume-name:修改文件系统的卷标
-O [^]feature[,...]:修改文件系统的特性,将其关闭或启用;
-l:显示超级块的内容 相当于dumpe2fs -h
文件系统的检测修改工具:
fsck
-t fstype:指定要检测的文件系统类型;
-a:无需交互,自动修复所有问题
-r:交互式修复问题
ext系列文件系统专门的检测修复工具:
e2fsck
-y:在交互过程的所有的问题,都以"yes"回答;
-f:强制检测修复;即使文件系统处于clean状态;
blkid:
blkid - command-line utility to locate/print block device attributes
blkid -L label:根据卷标进行查找
blkid -U uuid:根据UUID进行查找
findfs:
findfs - Find a filesystem by label or UUID
findfs LABEL=label
findfs UUID=uuid
创建swap文件系统
前提:分区类型必须是swap类型
修改的方法是:在fdisk交互模式中,使用t命令将指定分区的类型修改为82即可;
mkswap
mkswap - set up a Linux swap area
-L LABEL:设置交互分区的卷标
-f:强制执行
使用文件系统——挂载
FHS
根文件系统之外的其他文件系统如果想要被访问;都必须通过某种方式关联到根文件系统上,具体做法就是把其他文件系统装载到根文件系统中的某个目录之中;这个过程称为"挂载";用于关联其他文件系统的那个目录,称为挂载点;
挂载点:mount point,也是其他文件系统的访问入口;例如:/boot
要求:
1.作为挂载点的目录必须事先存在;
2.作为挂载点的目录应该是没有被使用或不能被其他进程使用的目录;
3.作为挂载点的目录一旦挂载文件系统,其内原有的文件将被隐藏;
完成挂载操作,使用mount命令:
mount
mount - mount a filesystem
mount [-fnrsvw] [-t vfstype] [-o options] device dir
常用选项:
-r:readonly,以只读的方式挂载目标文件系统;光盘
-w:read and write,以读写的方式挂载目标文件系统;
-n:默认情况下,设备挂载或卸载的操作会同步更新到/etc/mtab中,如果在挂载时使用了-n选项,则表示我们要禁用此特性,即便挂载成功,也不会更新到/etc/mtab中。
-t vsftype:指明要挂载的设备上创建的文件系统类型;如果省略该选项,mount命令会通过blkid来判断要挂载的目标设备的文件系统类型;
-L LABEL:挂载文件系统时,使用卷标代替设备名称
-U UUID:挂载文件系统时,使用UUID代替设备名称
-a:mount -a:按照/etc/fstab文件中填写的设备进行自动挂载;
-o option:
sync/nosync:同步/异步操作
atime/noatime:文件或目录被读取访问时,是否更新访问时间戳;
diratime/nodiratime:目录被读取访问时,是否更新访问时间戳;
ro/rw:是以只读/读写的方式挂载文件系统;
dev/nodev:在此文件系统中是否允许创建设备文件;
exec/noexec:在此文件系统中是否允许运行程序文件;
auto/noauto:是否允许使用mount -a方式挂载/etc/fstab中的文件系统;
user/nouser:是否允许普通用户挂载此文件系统;
suid/nosuid:是否允许程序文件上的SUID和SGID特殊权限生效;
relatime/norelatime:是否参考inode访问时间来修改其修改时间和改变时间
remount:不经卸载实现重新挂载,可以应用新的挂载选项;
acl:可以使文件系统支持facl功能;
defaults:默认选项;包括:rw, suid, dev, exec, auto, nouser, async, and relatime
loop:使用环回设备;将镜像文件挂载到挂载点;
defaults,ro,nosuid
-B, --bind:将某个目录绑定至另一个目录;
mount --bind|-B 源目录 目标目录
卸载文件系统:
umount mount_point|device
挂载光盘:
1.保证光盘镜像文件放入虚拟机光驱
2.保证光驱处于"已连接"状态
3.创建光盘挂载点,mount -r /dev/sr0 mount_point
挂载U盘:
需要事先让系统识别U盘设备,然后根据设备名进行挂载;/dev/sdc1
挂载交互分区:
swapon, swapoff
swapon, swapoff - enable/disable devices and files for paging and swapping
-a:自动挂载存储于/etc/fstab文件中的交互分区设备;
df
-h -T -P
free
-k -m -g
/etc/fstab文件的格式:
共6个字段,使用空白字符分隔:
1.要挂载的设备
设备文件名
LABEL
UUID
伪文件系统
2.挂载点
swap设备无需挂载点,指定swap即可;
3.文件系统类型
4.挂载选项:defaults
5.转储频率:
使用dump命令备份分区的频率
0:表示不备份
1:每天备份一次
2:每隔一天备份一次
6.自检次序
0:不自检
1:优先自检,通常只设置在根文件系统上;
2:次级自检
...
9:最低优先级自检
Linux系统中常有的压缩和解压缩工具:
压缩:以时间换空间的一种操作;
压缩的原理:标记和替换
压缩比:压缩之前与压缩之后的文件的大小的比值;
纯文本文件压缩比较大
视频、图像等文件压缩比小
能够实现压缩功能的工具:
compress/uncompress:.Z扩展名
gzip/gunzip:.gz扩展名
bzip2/bunzip2:.bz2扩展名
xz/unxz:.xz扩展名,目前压缩比最高的工具
zip/unzip:.zip扩展名
gzip:
gzip, gunzip, zcat - compress or expand files
-d:解压缩
-#:以指定的压缩比进行压缩,1-9,9为最高级;默认6
-c:将压缩结果输出到标准输出,不会对原文件进行压缩;
gzip -c /PATH/TO/FILE > /PATH/TO/COMPRESS_FILE.gz
bzip2:
bzip2, bunzip2 - a block-sorting file compressor, v1.0.4
bzcat - decompresses files to stdout
-d:解压缩
-#:指定压缩比进行压缩,1-9,默认为6
-k:保留原文件不删除,创建新的压缩文件;
xz:
xz, unxz, xzcat - Compress or decompress .xz files
-d:解压缩
-#:指定压缩比进行压缩,1-9,默认为6
-k:保留原文件不删除,创建新的压缩文件;
tar:归档程序
tar——tape archive:磁带档案
tar [OPTION...] [FILE]...
主选项:
-c:创建档案文件
-x:释放档案文件的内容
-t:查看档案文件中包含的文件
-u/-r:向档案文件中添加新的文件
辅助选项:
-f:指定档案的文件的路径
-C:在释放档案文件中的内容时,指定释放的路径;
-z:在创建档案文件时,调用gzip进行压缩
-j:在创建档案文件时,调用bzip2进行压缩
-J:在创建档案文件时,调用xz进行压缩(可能不支持)
--exclude:在释放档案文件时,排除某个文件;
-k:在释放档案文件时,不会覆盖同名文件;
cpio
写一个脚本:给脚本传递几个文件,选择压缩方式进行压缩;
#!/bin/bash
#
read -p "Please input some files:" file
select I in gzip bzip2 xz ; do
case $I in
gzip)
gzip file
;;
bzip2)
bzip2 file
;;
xz)
xz file
;;
*)
echo "Input again some files:"
;;
esac
done
#!/bin/bash
#
filedest=/usr/bin/file
read -p "Please input some files:" file1 file2 file3 file4
select I in gzip bzip2 xz ; do
case $I in
gzip)
tar -czf ${filedest}.tar.gz file1 file2 file3 file4
;;
bzip2)
tar -cjf ${filedest}.tar.bz2 file1 file2 file3 file4
;;
xz)
tar -cJf ${filedest}.tar.xz file1 file2 file3 file4
;;
*)
echo "Input again some files:"
;;
esac
done
/etc/issue /etc/init.d /etc/java /etc/yum
file.tar