轉自:http://linuxtoy.org/archives/sed-awk.html
sed 和 awk 都是 Linux 下常用的流編輯器，他們各有各的特色，本文并不是要做什么對比，而是權當好玩，把《SED 單行腳本快速參考》這文章，用 awk 做了一遍~ 至于孰好孰壞，那真是很難評論了。一般來說，sed 的命令會更短小一些，同時也更難讀懂；而 awk 稍微長點，但是 if、while 這樣的，邏輯性比較強，更加像“程序”。到底喜歡用哪個，就讓各位看官自己決定吧！

文本間隔：

# 在每一行后面增加一空行

sed G
awk '{printf("%s\n\n",$0)}'

# 將原來的所有空行刪除并在每一行后面增加一空行。
# 這樣在輸出的文本中每一行后面將有且只有一空行。

sed '/^$/d;G'
awk '!/^$/{printf("%s\n\n",$0)}'

# 在每一行后面增加兩行空行

sed 'G;G'
awk '{printf("%s\n\n\n",$0)}'

# 將第一個腳本所產生的所有空行刪除（即刪除所有偶數行）

sed 'n;d'
awk '{f=!f;if(f)print $0}'

# 在匹配式樣“regex”的行之前插入一空行

sed '/regex/{x;p;x;}'
awk '{if(/regex/)printf("\n%s\n",$0);else print $0}'

# 在匹配式樣“regex”的行之后插入一空行

sed '/regex/G'
awk '{if(/regex/)printf("%s\n\n",$0);else print $0}'

# 在匹配式樣“regex”的行之前和之后各插入一空行

sed '/regex/{x;p;x;G;}'
awk '{if(/regex/)printf("\n%s\n\n",$0);else print $0}'

編號：

# 為文件中的每一行進行編號（簡單的左對齊方式）。這里使用了“制表符”
# （tab，見本文末尾關于’\t’的用法的描述）而不是空格來對齊邊緣。

sed = filename | sed 'N;s/\n/\t/'
awk '{i++;printf("%d\t%s\n",i,$0)}'

# 對文件中的所有行編號（行號在左，文字右端對齊）。

sed = filename | sed 'N; s/^/     /; s/ *\(.\{6,\}\)\n/\1  /'
awk '{i++;printf("%6d  %s\n",i,$0)}'

# 對文件中的所有行編號，但只顯示非空白行的行號。

sed '/./=' filename | sed '/./N; s/\n/ /'
awk '{i++;if(!/^$/)printf("%d %s\n",i,$0);else print}'

# 計算行數 （模擬 “wc -l”）

sed -n '$='
awk '{i++}END{print i}'

文本轉換和替代：

# Unix環境：轉換DOS的新行符（CR/LF）為Unix格式。

sed 's/.$//'                     # 假設所有行以CR/LF結束
sed 's/^M$//'                    # 在bash/tcsh中，將按Ctrl-M改為按Ctrl-V
sed 's/\x0D$//'                  # ssed、gsed 3.02.80，及更高版本
awk '{sub(/\x0D$/,"");print $0}'

# Unix環境：轉換Unix的新行符（LF）為DOS格式。

sed "s/$/`echo -e \\\r`/"        # 在ksh下所使用的命令
sed 's/$'"/`echo \\\r`/"         # 在bash下所使用的命令
sed "s/$/`echo \\\r`/"           # 在zsh下所使用的命令
sed 's/$/\r/'                    # gsed 3.02.80 及更高版本
awk '{printf("%s\r\n",$0)}'

# DOS環境：轉換Unix新行符（LF）為DOS格式。

sed "s/$//"                      # 方法 1
sed -n p                         # 方法 2

DOS環境的略過

# DOS環境：轉換DOS新行符（CR/LF）為Unix格式。
# 下面的腳本只對UnxUtils sed 4.0.7 及更高版本有效。要識別UnxUtils版本的
# sed可以通過其特有的“–text”選項。你可以使用幫助選項（“–help”）看
# 其中有無一個“–text”項以此來判斷所使用的是否是UnxUtils版本。其它DOS
# 版本的的sed則無法進行這一轉換。但可以用“tr”來實現這一轉換。

sed "s/\r//" infile >outfile     # UnxUtils sed v4.0.7 或更高版本
tr -d \r <infile >outfile        # GNU tr 1.22 或更高版本

DOS環境的略過

# 將每一行前導的“空白字符”（空格，制表符）刪除
# 使之左對齊

sed 's/^[ \t]*//'                # 見本文末尾關于'\t'用法的描述
awk '{sub(/^[ \t]+/,"");print $0}'

# 將每一行拖尾的“空白字符”（空格，制表符）刪除

sed 's/[ \t]*$//'                # 見本文末尾關于'\t'用法的描述
awk '{sub(/[ \t]+$/,"");print $0}'

# 將每一行中的前導和拖尾的空白字符刪除

sed 's/^[ \t]*//;s/[ \t]*$//'
awk '{sub(/^[ \t]+/,"");sub(/[ \t]+$/,"");print $0}'

# 在每一行開頭處插入5個空格（使全文向右移動5個字符的位置）

sed 's/^/     /'
awk '{printf("     %s\n",$0)}'

# 以79個字符為寬度，將所有文本右對齊
# 78個字符外加最后的一個空格

sed -e :a -e 's/^.\{1,78\}$/ &/;ta'
awk '{printf("%79s\n",$0)}'

# 以79個字符為寬度，使所有文本居中。在方法1中，為了讓文本居中每一行的前
# 頭和后頭都填充了空格。 在方法2中，在居中文本的過程中只在文本的前面填充
# 空格，并且最終這些空格將有一半會被刪除。此外每一行的后頭并未填充空格。

sed  -e :a -e 's/^.\{1,77\}$/ & /;ta'                     # 方法1
sed  -e :a -e 's/^.\{1,77\}$/ &/;ta' -e 's/\( *\)\1/\1/'  # 方法2
awk '{for(i=0;i<39-length($0)/2;i++)printf(" ");printf("%s\n",$0)}'  #相當于上面的方法二

# 在每一行中查找字串“foo”，并將找到的“foo”替換為“bar”

sed 's/foo/bar/'                 # 只替換每一行中的第一個“foo”字串
sed 's/foo/bar/4'                # 只替換每一行中的第四個“foo”字串
sed 's/foo/bar/g'                # 將每一行中的所有“foo”都換成“bar”
sed 's/\(.*\)foo\(.*foo\)/\1bar\2/' # 替換倒數第二個“foo”
sed 's/\(.*\)foo/\1bar/'            # 替換最后一個“foo”
awk '{gsub(/foo/,"bar");print $0}'   # 將每一行中的所有“foo”都換成“bar”

# 只在行中出現字串“baz”的情況下將“foo”替換成“bar”

sed '/baz/s/foo/bar/g'
awk '{if(/baz/)gsub(/foo/,"bar");print $0}'

# 將“foo”替換成“bar”，并且只在行中未出現字串“baz”的情況下替換

sed '/baz/!s/foo/bar/g'
awk '{if(/baz$/)gsub(/foo/,"bar");print $0}'

# 不管是“scarlet”“ruby”還是“puce”，一律換成“red”

sed 's/scarlet/red/g;s/ruby/red/g;s/puce/red/g'  #對多數的sed都有效
gsed 's/scarlet\|ruby\|puce/red/g'               # 只對GNU sed有效
awk '{gsub(/scarlet|ruby|puce/,"red");print $0}'

# 倒置所有行，第一行成為最后一行，依次類推（模擬“tac”）。
# 由于某些原因，使用下面命令時HHsed v1.5會將文件中的空行刪除

sed '1!G;h;$!d'               # 方法1
sed -n '1!G;h;$p'             # 方法2
awk '{A[i++]=$0}END{for(j=i-1;j>=0;j--)print A[j]}'

# 將行中的字符逆序排列，第一個字成為最后一字，……（模擬“rev”）

sed '/\n/!G;s/\(.\)\(.*\n\)/&\2\1/;//D;s/.//'
awk '{for(i=length($0);i>0;i--)printf("%s",substr($0,i,1));printf("\n")}'

# 將每兩行連接成一行（類似“paste”）

sed '$!N;s/\n/ /'
awk '{f=!f;if(f)printf("%s",$0);else printf(" %s\n",$0)}'

# 如果當前行以反斜杠“\”結束，則將下一行并到當前行末尾
# 并去掉原來行尾的反斜杠

sed -e :a -e '/\\$/N; s/\\\n//; ta'
awk '{if(/\\$/)printf("%s",substr($0,0,length($0)-1));else printf("%s\n",$0)}'

# 如果當前行以等號開頭，將當前行并到上一行末尾
# 并以單個空格代替原來行頭的“=”

sed -e :a -e '$!N;s/\n=/ /;ta' -e 'P;D'
awk '{if(/^=/)printf(" %s",substr($0,2));else printf("%s%s",a,$0);a="\n"}END{printf("\n")}'

# 為數字字串增加逗號分隔符號，將“1234567”改為“1,234,567”

gsed ':a;s/\B[0-9]\{3\}\>/,&/;ta'                     # GNU sed
sed -e :a -e 's/\(.*[0-9]\)\([0-9]\{3\}\)/\1,\2/;ta'  # 其他sed

#awk的正則沒有后向匹配和引用，搞的比較狼狽，呵呵。

awk '{while(match($0,/[0-9][0-9][0-9][0-9]+/)){$0=sprintf("%s,%s",substr($0,0,RSTART+RLENGTH-4),substr($0,RSTART+RLENGTH-3))}print $0}'

# 為帶有小數點和負號的數值增加逗號分隔符（GNU sed）

gsed -r ':a;s/(^|[^0-9.])([0-9]+)([0-9]{3})/\1\2,\3/g;ta'

#和上例差不多

awk '{while(match($0,/[^\.0-9][0-9][0-9][0-9][0-9]+/)){$0=sprintf("%s,%s",substr($0,0,RSTART+RLENGTH-4),substr($0,RSTART+RLENGTH-3))}print $0}'

# 在每5行后增加一空白行 （在第5，10，15，20，等行后增加一空白行）

gsed '0~5G'                      # 只對GNU sed有效
sed 'n;n;n;n;G;'                 # 其他sed
awk '{print $0;i++;if(i==5){printf("\n");i=0}}'

選擇性地顯示特定行：

# 顯示文件中的前10行 （模擬“head”的行為）

sed 10q
awk '{print;if(NR==10)exit}'

# 顯示文件中的第一行 （模擬“head -1”命令）

sed q
awk '{print;exit}'

# 顯示文件中的最后10行 （模擬“tail”）

sed -e :a -e '$q;N;11,$D;ba'

#用awk干這個有點虧，得全文緩存，對于大文件肯定很慢

awk '{A[NR]=$0}END{for(i=NR-9;i<=NR;i++)print A[i]}'

# 顯示文件中的最后2行（模擬“tail -2”命令）

sed '$!N;$!D'
awk '{A[NR]=$0}END{for(i=NR-1;i<=NR;i++)print A[i]}'

# 顯示文件中的最后一行（模擬“tail -1”）

sed '$!d'                        # 方法1
sed -n '$p'                      # 方法2

#這個比較好辦，只存最后一行了。

awk '{A=$0}END{print A}'

# 顯示文件中的倒數第二行

sed -e '$!{h;d;}' -e x              # 當文件中只有一行時，輸出空行
sed -e '1{$q;}' -e '$!{h;d;}' -e x  # 當文件中只有一行時，顯示該行
sed -e '1{$d;}' -e '$!{h;d;}' -e x  # 當文件中只有一行時，不輸出

#存兩行唄（當文件中只有一行時，輸出空行）

awk '{B=A;A=$0}END{print B}'

# 只顯示匹配正則表達式的行（模擬“grep”）

sed -n '/regexp/p'               # 方法1
sed '/regexp/!d'                 # 方法2
awk '/regexp/{print}'

# 只顯示“不”匹配正則表達式的行（模擬“grep -v”）

sed -n '/regexp/!p'              # 方法1，與前面的命令相對應
sed '/regexp/d'                  # 方法2，類似的語法
awk '!/regexp/{print}'

# 查找“regexp”并將匹配行的上一行顯示出來，但并不顯示匹配行

sed -n '/regexp/{g;1!p;};h'
awk '/regexp/{print A}{A=$0}'

# 查找“regexp”并將匹配行的下一行顯示出來，但并不顯示匹配行

sed -n '/regexp/{n;p;}'
awk '{if(A)print;A=0}/regexp/{A=1}'

# 顯示包含“regexp”的行及其前后行，并在第一行之前加上“regexp”所在行的行號 （類似“grep -A1 -B1”）

sed -n -e '/regexp/{=;x;1!p;g;$!N;p;D;}' -e h
awk '{if(F)print;F=0}/regexp/{print NR;print b;print;F=1}{b=$0}'

# 顯示包含“AAA”、“BBB”和“CCC”的行（任意次序）

sed '/AAA/!d; /BBB/!d; /CCC/!d'   # 字串的次序不影響結果
awk '{if(match($0,/AAA/) && match($0,/BBB/) && match($0,/CCC/))print}'

# 顯示包含“AAA”、“BBB”和“CCC”的行（固定次序）

sed '/AAA.*BBB.*CCC/!d'
awk '{if(match($0,/AAA.*BBB.*CCC/))print}'

# 顯示包含“AAA”“BBB”或“CCC”的行 （模擬“egrep”）

sed -e '/AAA/b' -e '/BBB/b' -e '/CCC/b' -e d    # 多數sed
gsed '/AAA\|BBB\|CCC/!d'                        # 對GNU sed有效
awk '/AAA/{print;next}/BBB/{print;next}/CCC/{print}'
awk '/AAA|BBB|CCC/{print}'

# 顯示包含“AAA”的段落 （段落間以空行分隔）
# HHsed v1.5 必須在“x;”后加入“G;”，接下來的3個腳本都是這樣

sed -e '/./{H;$!d;}' -e 'x;/AAA/!d;'
awk 'BEGIN{RS=""}/AAA/{print}'
awk -vRS= '/AAA/{print}'

# 顯示包含“AAA”“BBB”和“CCC”三個字串的段落 （任意次序）

sed -e '/./{H;$!d;}' -e 'x;/AAA/!d;/BBB/!d;/CCC/!d'
awk -vRS= '{if(match($0,/AAA/) && match($0,/BBB/) && match($0,/CCC/))print}'

# 顯示包含“AAA”、“BBB”、“CCC”三者中任一字串的段落 （任意次序）

sed -e '/./{H;$!d;}' -e 'x;/AAA/b' -e '/BBB/b' -e '/CCC/b' -e d
gsed '/./{H;$!d;};x;/AAA\|BBB\|CCC/b;d'         # 只對GNU sed有效
awk -vRS= '/AAA|BBB|CCC/{print "";print}'

# 顯示包含65個或以上字符的行

sed -n '/^.\{65\}/p'

cat ll.txt | awk '{if(length($0)>=65)print}'

# 顯示包含65個以下字符的行

sed -n '/^.\{65\}/!p'            # 方法1，與上面的腳本相對應
sed '/^.\{65\}/d'                # 方法2，更簡便一點的方法
awk '{if(length($0)<=65)print}'

# 顯示部分文本——從包含正則表達式的行開始到最后一行結束

sed -n '/regexp/,$p'
awk '/regexp/{F=1}{if(F)print}'

# 顯示部分文本——指定行號范圍（從第8至第12行，含8和12行）

sed -n '8,12p'                   # 方法1
sed '8,12!d'                     # 方法2
awk '{if(NR>=8 && NR<12)print}'

# 顯示第52行

sed -n '52p'                     # 方法1
sed '52!d'                       # 方法2
sed '52q;d'                      # 方法3, 處理大文件時更有效率
awk '{if(NR==52){print;exit}}'

# 從第3行開始，每7行顯示一次

gsed -n '3~7p'                   # 只對GNU sed有效
sed -n '3,${p;n;n;n;n;n;n;}'     # 其他sed
awk '{if(NR==3)F=1}{if(F){i++;if(i%7==1)print}}'

# 顯示兩個正則表達式之間的文本（包含）

sed -n '/Iowa/,/Montana/p'       # 區分大小寫方式
awk '/Iowa/{F=1}{if(F)print}/Montana/{F=0}'

選擇性地刪除特定行：

# 顯示通篇文檔，除了兩個正則表達式之間的內容

sed '/Iowa/,/Montana/d'
awk '/Iowa/{F=1}{if(!F)print}/Montana/{F=0}'

# 刪除文件中相鄰的重復行（模擬“uniq”）
# 只保留重復行中的第一行，其他行刪除

sed '$!N; /^\(.*\)\n\1$/!P; D'
awk '{if($0!=B)print;B=$0}'

# 刪除文件中的重復行，不管有無相鄰。注意hold space所能支持的緩存大小，或者使用GNU sed。

sed -n 'G; s/\n/&&/; /^\([ -~]*\n\).*\n\1/d; s/\n//; h; P'  #bones7456注：我這里此命令并不能正常工作
awk '{if(!($0 in B))print;B[$0]=1}'

# 刪除除重復行外的所有行（模擬“uniq -d”）

sed '$!N; s/^\(.*\)\n\1$/\1/; t; D'
awk '{if($0==B && $0!=l){print;l=$0}B=$0}'

# 刪除文件中開頭的10行

sed '1,10d'
awk '{if(NR>10)print}'

# 刪除文件中的最后一行

sed '$d'

#awk在過程中并不知道文件一共有幾行，所以只能通篇緩存，大文件可能不適合，下面兩個也一樣

awk '{B[NR]=$0}END{for(i=0;i<=NR-1;i++)print B[i]}'

# 刪除文件中的最后兩行

sed 'N;$!P;$!D;$d'
awk '{B[NR]=$0}END{for(i=0;i<=NR-2;i++)print B[i]}'

# 刪除文件中的最后10行

sed -e :a -e '$d;N;2,10ba' -e 'P;D'   # 方法1
sed -n -e :a -e '1,10!{P;N;D;};N;ba'  # 方法2
awk '{B[NR]=$0}END{for(i=0;i<=NR-10;i++)print B[i]}'

# 刪除8的倍數行

gsed '0~8d'                           # 只對GNU sed有效
sed 'n;n;n;n;n;n;n;d;'                # 其他sed
awk '{if(NR%8!=0)print}' |head

# 刪除匹配式樣的行

sed '/pattern/d'                      # 刪除含pattern的行。當然pattern可以換成任何有效的正則表達式
awk '{if(!match($0,/pattern/))print}'

# 刪除文件中的所有空行（與“grep ‘.’ ”效果相同）

sed '/^$/d'                           # 方法1
sed '/./!d'                           # 方法2
awk '{if(!match($0,/^$/))print}'

# 只保留多個相鄰空行的第一行。并且刪除文件頂部和尾部的空行。
# （模擬“cat -s”）

sed '/./,/^$/!d'        #方法1，刪除文件頂部的空行，允許尾部保留一空行
sed '/^$/N;/\n$/D'      #方法2，允許頂部保留一空行，尾部不留空行
awk '{if(!match($0,/^$/)){print;F=1}else{if(F)print;F=0}}'  #同上面的方法2

# 只保留多個相鄰空行的前兩行。

sed '/^$/N;/\n$/N;//D'
awk '{if(!match($0,/^$/)){print;F=0}else{if(F<2)print;F++}}'

# 刪除文件頂部的所有空行

sed '/./,$!d'
awk '{if(F || !match($0,/^$/)){print;F=1}}'

# 刪除文件尾部的所有空行

sed -e :a -e '/^\n*$/{$d;N;ba' -e '}'  # 對所有sed有效
sed -e :a -e '/^\n*$/N;/\n$/ba'        # 同上，但只對 gsed 3.02.*有效
awk '/^.+$/{for(i=l;i<NR-1;i++)print "";print;l=NR}'

# 刪除每個段落的最后一行

sed -n '/^$/{p;h;};/./{x;/./p;}'

#很長，很ugly，應該有更好的辦法

awk -vRS= '{B=$0;l=0;f=1;while(match(B,/\n/)>0){print substr(B,l,RSTART-l-f);l=RSTART;sub(/\n/,"",B);f=0};print ""}'

特殊應用：

# 移除手冊頁（man page）中的nroff標記。在Unix System V或bash shell下使
# 用’echo’命令時可能需要加上 -e 選項。

sed "s/.`echo \\\b`//g"    # 外層的雙括號是必須的（Unix環境）
sed 's/.^H//g'             # 在bash或tcsh中, 按 Ctrl-V 再按 Ctrl-H
sed 's/.\x08//g'           # sed 1.5，GNU sed，ssed所使用的十六進制的表示方法
awk '{gsub(/.\x08/,"",$0);print}'

# 提取新聞組或 e-mail 的郵件頭

sed '/^$/q'                # 刪除第一行空行后的所有內容
awk '{print}/^$/{exit}'

# 提取新聞組或 e-mail 的正文部分

sed '1,/^$/d'              # 刪除第一行空行之前的所有內容
awk '{if(F)print}/^$/{F=1}'

# 從郵件頭提取“Subject”（標題欄字段），并移除開頭的“Subject:”字樣

sed '/^Subject: */!d; s///;q'
awk '/^Subject:.*/{print substr($0,10)}/^$/{exit}'

# 從郵件頭獲得回復地址

sed '/^Reply-To:/q; /^From:/h; /./d;g;q'

#好像是輸出第一個Reply-To:開頭的行？From是干啥用的？不清楚規則。。

awk '/^Reply-To:.*/{print;exit}/^$/{exit}'

# 獲取郵件地址。在上一個腳本所產生的那一行郵件頭的基礎上進一步的將非電郵地址的部分剃除。（見上一腳本）

sed 's/ *(.*)//; s/>.*//; s/.*[:<] *//'

#取尖括號里的東西吧？

awk -F'[<>]+' '{print $2}'

# 在每一行開頭加上一個尖括號和空格（引用信息）

sed 's/^/> /'
awk '{print "> " $0}'

# 將每一行開頭處的尖括號和空格刪除（解除引用）

sed 's/^> //'
awk '/^> /{print substr($0,3)}'

# 移除大部分的HTML標簽（包括跨行標簽）

sed -e :a -e 's/<[^>]*>//g;/</N;//ba'
awk '{gsub(/<[^>]*>/,"",$0);print}'

# 將分成多卷的uuencode文件解碼。移除文件頭信息，只保留uuencode編碼部分。
# 文件必須以特定順序傳給sed。下面第一種版本的腳本可以直接在命令行下輸入；
# 第二種版本則可以放入一個帶執行權限的shell腳本中。（由Rahul Dhesi的一
# 個腳本修改而來。）

sed '/^end/,/^begin/d' file1 file2 ... fileX | uudecode   # vers. 1
sed '/^end/,/^begin/d' "$@" | uudecode                    # vers. 2

#我不想裝個uudecode驗證，大致寫個吧

awk '/^end/{F=0}{if(F)print}/^begin/{F=1}' file1 file2 ... fileX

# 將文件中的段落以字母順序排序。段落間以（一行或多行）空行分隔。GNU sed使用
# 字元“\v”來表示垂直制表符，這里用它來作為換行符的占位符——當然你也可以
# 用其他未在文件中使用的字符來代替它。

sed '/./{H;d;};x;s/\n/={NL}=/g' file | sort | sed '1s/={NL}=//;s/={NL}=/\n/g'
gsed '/./{H;d};x;y/\n/\v/' file | sort | sed '1s/\v//;y/\v/\n/'
awk -vRS= '{gsub(/\n/,"\v",$0);print}' ll.txt | sort | awk '{gsub(/\v/,"\n",$0);print;print ""}'

# 分別壓縮每個.TXT文件，壓縮后刪除原來的文件并將壓縮后的.ZIP文件
# 命名為與原來相同的名字（只是擴展名不同）。（DOS環境：“dir /b”
# 顯示不帶路徑的文件名）。

echo @echo off >zipup.bat
dir /b *.txt | sed "s/^\(.*\)\.TXT/pkzip -mo \1 \1.TXT/" >>zipup.bat

DOS 環境再次略過，而且我覺得這里用 bash 的參數 ${i%.TXT}.zip 替換更帥。

下面的一些 SED 說明略過，需要的朋友自行查看原文。