【shell】shell字符串分割|文件分割|剪切|截取

目录

一、字符串分割

1、awk分割（按位字节/分隔符/通配符分割）

print 按列和字节分割截取

split 按分割符分割截取

按通配符分割

2、利用shell 中 变量 的字符串替换成空格分割

3、设置分隔符，通过 IFS 变量 

4、利用tr 指令实现字符替换

二、文件分割

按行切割

按时间切割（符合条件的切割）

文件合并- cat

三、行截取|截取匹配字符（串）前半段/后半段

Shell：字符串的分割截取

从字符串中提取数字|字母|小数

删除空格/空行

附录

linux下awk内置函数的使用(split/substr/length):https://www.cnblogs.com/sunada2005/p/3493941.html

四、gsub函数

五、正则表达式

---

一、字符串分割

1、awk分割（按位字节/分隔符/通配符分割）

print 按列和字节分割截取

awk  '{print substr(,1,8)}' 打印所有列的1-8字节

awk '{print substr($1,1,8)}'  打印1列的1-8字节

awk '{print substr($1,7)}'  打印1列的7-最后所有字节

split 按分割符分割截取

把 ceph_12.2.1.centos.x86_64.tar.gz-2021-10-08-08后面的2021-10-08-08按“-”分割，取最后一个数字。

#split($1, arr, "-") ，把第一列，以“-”为分割符分割，把分割得到的结果放入arr数字中。（arr数组从1开始）

echo "ceph_12.2.1.centos.x86_64.tar.gz-2021-10-08-08"|awk '{split($1, arr, "-"); print arr[5]}'

如果要以双引号作为分隔符则需要转译：awk '{split($1, arr, "\"")

#注意split是awk的内置函数，更多见文章末尾

按通配符分割

字符串“mlnx-iproute2-5.19.0-1.58112.x86_64.rpm”以"-数字" 作为分割符分割截取

[root@localhost rpms]#rpm=mlnx-iproute2-5.19.0-1.58112.x86_64.rpm
[root@localhost rpms]# echo $rpm|awk -F '-[0-9]' '{print $1}' #以"-数字" 作为分割符
mlnx-iproute2

$ echo "ceph_12.2.1.centos.x86_64.tar.gz-2021-10-08-08"|awk '{split($1, arr, "-"); print arr[5]}'

$ ceph_12.2.1.centos.x86_64.tar.gz

2、利用shell 中 变量 的字符串替换成空格分割

原理：

${parameter//pattern/string} 

用string来替换parameter变量中所有匹配的pattern

参考文章： Shell 脚本中字符串的相关操作https://blog.csdn.net/u010003835/article/details/80749220

string="hello,shell,split,test"  中的“，”替换成空格后赋值给array 就成了数组赋值

#!/bin/bash
 
string="hello,shell,split,test"  
array=(${string//,/ })  
 
for var in ${array[@]}
do
   echo $var
done 

 3、设置分隔符，通过 IFS 变量 

原理

自定义IFS变量, 改变分隔符, 对字符串进行切分

参考文章：

Shell中的IFS解惑-https://blog.csdn.net/whuslei/article/details/7187639  

#!/bin/bash
 
string="hello,shell,split,test"  
#对IFS变量 进行替换处理

OLD_IFS="$IFS"  #保存当前shell默认的分割符，一会要恢复回去
IFS=","                  #将shell的分割符号改为，“”
array=($string)     #分割符是“，”，"hello,shell,split,test" 赋值给array 就成了数组赋值
IFS="$OLD_IFS"  #恢复shell默认分割符配置
 
for var in ${array[@]}
do
   echo $var
done

4、利用tr 指令实现字符替换

原理

由于只是对单个字符进行的替换，则可以用  echo args |   tr "oldSpilt" "newSpilt"  的方式实现。

r 指令讲解

背景介绍

tr命令可以对来自标准输入的字符进行替换、压缩和删除。它可以将一组字符变成另一组字符，经常用来编写优美的单行命令，作用很强大。

语法
tr(选项)(参数)
选项
  -c或——complerment：取代所有不属于第一字符集的字符；
  -d或——delete：删除所有属于第一字符集的字符；
  -s或--squeeze-repeats：把连续重复的字符以单独一个字符表示；
  -t或--truncate-set1：先删除第一字符集较第二字符集多出的字符。
参数
  字符集1：指定要转换或删除的原字符集。当执行转换操作时，必须使用参数“字符集2”指定转换的目标字符集。但执行删除操作时，不需要参数“字符集2”；
  字符集2：指定要转换成的目标字符集。

 

#!/bin/bash
 
string="hello,shell,split,test"  
array=(`echo $string | tr ',' ' '` )  
 
for var in ${array[@]}
do
   echo $var
done 
 

 

Shell 中实现字符串切割的几种方法_https://blog.csdn.net/u010003835/article/details/80750003/

二、文件分割

按行切割

基础版

split   -l  1000  test.txt  -d  -a  3  test_

-l:按行分隔，每1000行切割test.txt文件
-d:添加数字后缀
-a:以3位数数字做尾数
test_:分割后的文件的前缀

升级版

split   -l  1000  test.txt  -d  -a  3  test_split_&&ls|grep test_split_ | xargs -n1 -i {} mv {} {}.txt

在基础版的结果上，先执行ls命令，查找test_split_开头的文件，然后逐个重命名为.txt
链接：https://www.jianshu.com/p/f4a16185c65f

按时间切割（符合条件的切割）

某系统的日志全部写在一个日志文件内，所以这个文件非常大，每次查阅的时候非常的不方便。所以，相关人员希望能够查询某个时间段内的日志：

#!/bin/bash

# 设定变量
log=3.log
s='2017-08-01T01:3'
e='2017-08-01T01:4'

# 根据条件获得开始和结束的行号
sl=`cat -n $log | grep "$s" | head -1 | sed 's/^[ 	]*//g' | cut -f1`
el=`cat -n $log | grep "$e" | tail -1 | sed 's/^[ 	]*//g' | cut -f1`

# 获取结果并输出到 res.log 文件
sed -n  "$sl","$el"'p' $log >> res.log

摘抄自：https://www.tinymind.net.cn/articles/a8582b1bfe4b71

https://cloud.tencent.com/developer/article/1015516

按大小分割

split -b  10m  large_file.bin new_file_prefix

linux命令（38）：split 分割文件 https://www.bbsmax.com/A/x9J2jDaEJ6/

文件合并- cat

# 合并文件
cat /data/users_* > users.sql
cat  small_files* > large_file

https://blog.csdn.net/yaxuan88521/article/details/118100308
https://sunsite.blog.csdn.net/article/details/122703056

三、行截取|截取匹配字符（串）前半段/后半段

Shell：字符串的分割截取

一 按位置截取(第n个,n-m个,n之后的,n之前的...)

expr substr "$a" 1 8                      #截取字符变量的前n位如：n=8）
echo $a|awk '{print substr(,1,8)}'  #截取字符变量的前n位如：n=8）
echo $a|cut -c1-8                         #截取字符变量的前n位如：n=8）
expr $a : '\(.\\).*'                          
echo $a|dd bs=1 count=8 2>/dev/null

  /> cut -c 1-4 /etc/passwd          #取每行的前1-4个字符。
  /> cut -c -4  /etc/passwd            #取每行的前4个字符。 
  /> cut -c4- /etc/passwd             #取每行的第4个到最后字符。
  /> cut -c1,4 /etc/passwd           #取每行的第一个和第四个字符。
  /> cut -c1-4,5 /etc/passwd        #取每行的1-4和第5个字符。
原文链接：https://blog.csdn.net/DragonGirI/article/details/108877813

Shell字符串截取（非常详细）:http://c.biancheng.net/view/1120.html

${varible:n1:n2}             #截取变量varible从n1到n2之间的字符串

EXCLAIM=cowabunga
echo ${EXCLAIM:0:3}   #截取${EXCLAIM}从0位开始截取3个字节
cow
echo ${EXCLAIM:3:7}  #截取${EXCLAIM}从3位开始截取7个字节
abunga

export str="123456789"
echo ${str:3:(6-3)}        #截取${EXCLAIM}从3开始,截取6-3长度
456
从以上第二个表达式可以看出这个用法，即：${str:3:(6-3)}。可以归纳为：${str:begin:len}，且支持数学表达式，如：6-3。

二  按指定子字符串 截取之前/之后的内容

第一种方法:

*号在 指定字符左边，表示从左往右，*号在 指定字符右边，表示从右往左。# or %表示匹配第一个，## or %% 表示匹配最后一个相同字符串

===========================>

string='AAAtoBBBtoCC'

从左向右数:截取匹配到的第一个chars后的字符串

result=${string#*chars}

${string#*to}===>"BBBtoCC"

从左向右数:截取匹配到的最后一个字符串chars后的字符串

result=${string##*chars}

${string##*to}===>"CC"

<===========================

string='AAAtoBBBtoCC'
从右向左数:截取匹配的最后一个字符串chars后的字符串

result=${string%%chars*}

${string%%chars*}===>'AAA'

从右向左数:截取匹配的第一个字符串chars后的字符串

result=${string%chars*}

${string%chars*}===>'AAAtoBBB'

(以上的“ * ”只是一个通配符，可以不要)

说明:

使用#号可以截取指定字符（或者子字符串）右边的所有字符：

${string#*chars}

其中，string 表示被截取的字符串，chars 是指定的字符（或者子字符串），遇到特殊字符如“[”、"]" 要加转译符\

三、按照指定要求分割,截取列，比如获取后缀名

以":"为分隔符,取 1列和5列, #-d后面的冒号表示字段之间的分隔符，-f表示取分割后的

cut -d : -f 1,5 /etc/passwd

例如:
    /> cat /etc/passwd
    root:x:0:0:root:/root:/bin/bash
    bin:x:1:1:bin:/bin:/sbin/nologin
    daemon:x:2:2:daemon:/sbin:/sbin/nologin
    adm:x:3:4:adm:/var/adm:/sbin/nologin
    ... ...
    /> cut -d : -f 1,5 /etc/passwd     #-d后面的冒号表示字段之间的分隔符，-f表示取分割后的哪些字段
    root:root                                 #这里取出的是第一个和第五个字段。
    bin:bin
    daemon:daemon
    adm:adm
    ... ...

以":"为分隔符,取 3列直到最后一列

    /> cut -d: -f 3- /etc/passwd       #从第三个字段开始显示，直到最后一个字段。
    0:0:root:/root:/bin/bash
    1:1:bin:/bin:/sbin/nologin
    2:2:daemon:/sbin:/sbin/nologin
    3:4:adm:/var/adm:/sbin/nologin
    4:7:lp:/var/spool/lpd:/sbin/nologin
    ... ...    

   

格式	说明
STRING="ceph version 12.2.1-UniStorOS_V100R001B65 version hello";echo ${STRING}
${STRING: start :length}	从 string 字符串的左边第 start 个字符开始，向右截取 length 个字符。
${STRING: start}	从 string 字符串的左边第 start 个字符开始截取，直到最后。
${STRING: 0-start :length}	从 string 字符串的右边第 start 个字符开始，向右截取 length 个字符。
${STRING: 0-start}	从 string 字符串的右边第 start 个字符开始截取，直到最后。
${STRING#*chars}	从 string 字符串第一次出现 chars 的位置开始，截取 chars 右边的所有字符。
${STRING##*chars}	从 string 字符串最后一次出现 chars 的位置开始，截取 chars 右边的所有字符。
${STRING}表示要截取的字符串 chars是指定的字符（字符串） *是通配符的一种，表示任意长度的字符串 chars*连接起来表示：忽略左边的左右字符，直到遇到chars（chars不会被截取）
${STRING%chars*}	从 string 字符串第一次出现chars 的位置开始，截取 chars 左边的所有字符。
${STRING%%chars*}	从 string 字符串最后一次出现 chars 的位置开始，截取 chars 左边的所有字符。
这里一定要注意*的位置 截取方式：截取chars左边的字符，忽略chars右边的字符（所以*在chars右侧） 同样不会截取到指定字符chars

# STRING="ceph version 12.2.1-UniStorOS_V100R001B65 version hello";echo ${STRING}
ceph version 12.2.1-UniStorOS_V100R001B65 version hello
# echo ${STRING#*version}
12.2.1-UniStorOS_V100R001B65 version hello
# echo ${STRING##*version}
hello
# echo ${STRING%version*}
ceph version 12.2.1-UniStorOS_V100R001B65
# echo ${STRING%%version*}
ceph

从字符串中提取数字|字母|小数

1 #/bin/bash
2 #正则表达式写在[]里，^代表非
3 echo " 0ab12 AB34 Cc " | sed 's/[^0-9]//g'
4 #输出 01234
5 echo " 0ab12 AB34 Cc " | sed 's/[^a-z]//g'
6 #输出 abc
7 echo " 0ab12 AB34 Cc " | sed 's/[^a-zA-Z]//g'
8 #输出 abABCc
9 echo " 0ab12 AB34 Cc " | sed 's/[0-9]//g'
10 #输出 ” ab AB Cc “，输出内容包含空格

最新更新在：【shell】数值加减乘除|运算|字符串转数字|提取数字字母小数|大小写转换_https://blog.csdn.net/bandaoyu/article/details/120655099

删除空格/空行

见：http://t.csdn.cn/NmTnw 《【Shell】Sed 删除、替换、增加字符串》

附录

linux下awk内置函数的使用(split/substr/length):https://www.cnblogs.com/sunada2005/p/3493941.html

转自：http://gdcsy.blog.163.com/blog/static/12734360920130241521280/

一、split 初始化和类型强制
       awk的内建函数split允许你把一个字符串分隔为单词并存储在数组中。你可以自己定义域分隔符或者使用现在FS(域分隔符)的值。
格式：

   split (string, array, field separator)
   split (string, array)  -->如果第三个参数没有提供，awk就默认使用当前FS值。

例子：
例1：替换分隔符

1 2 3

time="12:34:56" out=`echo $time | awk '{split($0,a,":");print a[1],a[2],a[3]}'` echo $out

 例2：计算指定范围内的和(计算每个人1月份的工资之和)

1 2 3 4 5 6 7 8 9 10

[root@test ~]# cat test.txt Tom　　  2012-12-11      car     53000 John　　 2013-01-13      bike    41000 vivi    2013-01-18      car     42800 Tom　　  2013-01-20      car     32500 John　　 2013-01-28      bike    63500 [root@test ~]# awk '{split($2,a,"-");if(a[2]==01){b[$1]+=$4}}END{for(i in b)print i,b[i]}' test.txt   vivi 2800 Tom2500 John4500

 二、substr 截取字符串

        返回从起始位置起，指定长度之子字符串；若未指定长度，则返回从起始位置到字符串末尾的子字符串。
格式：
  substr(s,p) 返回字符串s中从p开始的后缀部分
  substr(s,p,n) 返回字符串s中从p开始长度为n的后缀部分
例子：

1 2	[root@test ~]# echo "123" | awk '{print substr($0,1,1)}' 1

解释：

awk -F ',' '{print substr($3,6)}'    --->  表示是从第3个字段里的第6个字符开始，一直到设定的分隔符","结束.
substr($3,10,8)  --->  表示是从第3个字段里的第10个字符开始，截取8个字符结束.
substr($3,6)     --->  表示是从第3个字段里的第6个字符开始，一直到结尾

三、length 字符串长度
   length函数返回没有参数的字符串的长度。length函数返回整个记录中的字符数。

1 2	[root@test ~]# echo "123" | awk '{print length}' 3

四、gsub函数

gsub函数则使得在所有正则表达式被匹配的时候都发生替换。gsub(regular expression, subsitution string, target string);简称 gsub（r,s,t)。

举例：把一个文件里面所有包含 abc 的行里面的 abc 替换成 def，然后输出第一列和第三列

1	awk '$0 ~ /abc/ {gsub("abc", "def", $0); print $1, $3}' abc.txt

五、正则表达式

字符	功能
+	指定如果一个或多个字符或扩展正则表达式的具体值（在 +（加号）前）在这个字符串中，则字符串匹配。命令行： awk '/smith+ern/' testfile 将包含字符 smit，后跟一个或多个 h 字符，并以字符 ern 结束的字符串的任何记录打印至标准输出。此示例中的输出是： smithern, harry smithhern, anne
?	指定如果零个或一个字符或扩展正则表达式的具体值（在 ?（问号）之前）在字符串中，则字符串匹配。命令行： awk '/smith?/' testfile 将包含字符 smit，后跟零个或一个 h 字符的实例的所有记录打印至标准输出。此示例中的输出是： smith, alan smithern, harry smithhern, anne smitters, alexis
|	指定如果以 |（垂直线）隔开的字符串的任何一个在字符串中，则字符串匹配。命令行： awk '/allen | alan /' testfile 将包含字符串 allen 或 alan 的所有记录打印至标准输出。此示例中的输出是： smiley, allen smith, alan
( )	在正则表达式中将字符串组合在一起。命令行： awk '/a(ll)?(nn)?e/' testfile 将具有字符串 ae 或 alle 或 anne 或 allnne 的所有记录打印至标准输出。此示例中的输出是： smiley, allen smithhern, anne
{m}	指定如果正好有 m 个模式的具体值位于字符串中，则字符串匹配。命令行： awk '/l{2}/' testfile 打印至标准输出 smiley, allen
{m,}	指定如果至少 m 个模式的具体值在字符串中，则字符串匹配。命令行： awk '/t{2,}/' testfile 打印至标准输出： smitters, alexis
{m, n}	指定如果 m 和 n 之间（包含的 m 和 n）个模式的具体值在字符串中（其中m<= n），则字符串匹配。命令行： awk '/er{1, 2}/' testfile 打印至标准输出： smithern, harry smithern, anne smitters, alexis
[String]	指定正则表达式与方括号内 String 变量指定的任何字符匹配。命令行： awk '/sm[a-h]/' testfile 将具有 sm 后跟以字母顺序从 a 到 h 排列的任何字符的所有记录打印至标准输出。此示例的输出是： smawley, andy
[^ String]	在 [ ]（方括号）和在指定字符串开头的 ^ (插入记号) 指明正则表达式与方括号内的任何字符不匹配。这样，命令行： awk '/sm[^a-h]/' testfile 打印至标准输出： smiley, allen smith, alan smithern, harry smithhern, anne smitters, alexis
~,!~	表示指定变量与正则表达式匹配（代字号）或不匹配（代字号、感叹号）的条件语句。命令行： awk '$1 ~ /n/' testfile 将第一个字段包含字符 n 的所有记录打印至标准输出。此示例中的输出是： smithern, harry smithhern, anne
^	指定字段或记录的开头。命令行： awk '$2 ~ /^h/' testfile 将把字符 h 作为第二个字段的第一个字符的所有记录打印至标准输出。此示例中的输出是： smithern, harry
$	指定字段或记录的末尾。命令行： awk '$2 ~ /y$/' testfile 将把字符 y 作为第二个字段的最后一个字符的所有记录打印至标准输出。此示例中的输出是： smawley, andy smithern, harry
. （句号）	表示除了在空白末尾的终端换行字符以外的任何一个字符。命令行： awk '/a..e/' testfile 将具有以两个字符隔开的字符 a 和 e 的所有记录打印至标准输出。此示例中的输出是： smawley, andy smiley, allen smithhern, anne
*（星号）	表示零个或更多的任意字符。命令行： awk '/a.*e/' testfile 将具有以零个或更多字符隔开的字符 a 和 e 的所有记录打印至标准输出。此示例中的输出是： smawley, andy smiley, allen smithhern, anne smitters, alexis
\ (反斜杠)	转义字符。当位于在扩展正则表达式中具有特殊含义的任何字符之前时，转义字符除去该字符的任何特殊含义。例如，命令行： /a\/\// 将与模式 a // 匹配，因为反斜杠否定斜杠作为正则表达式定界符的通常含义。要将反斜杠本身指定为字符，则使用双反斜杠。有关反斜杠及其使用的更多信息，请参阅以下关于转义序列的内容。

举例：把一个文件里面所有包含 abc 的行里面的 abc 替换成 def，然后输出第一列和第三列

1	awk '$0 ~ /abc/ {gsub("abc", "def", $0); print $1, $3}' abc.txt