Linux CURL學(xué)習(xí)(轉(zhuǎn))
curl的應(yīng)用方式,一是可以直接通過命令行工具,另一種是利用libcurl庫做上層的開發(fā)。本篇主要總結(jié)一下命令行工具的http相關(guān)的應(yīng)用, 尤其是http下載方面的;下一篇再講基于libcurl庫的開發(fā)。
curl的命令行工具功能非常強大,這些數(shù)據(jù)交互的功能基本上都是通過URL方式進行的,我們先來看看curl對多個URL的靈活操作,這些規(guī)則使我們的 批處理需求應(yīng)用起來非常方便。
1、用{}表示多個URL
如 http://site.{one,two,three}.com, 只要在{}中寫上不同的部分,就可以表示3個URL了。
2、用[]表示多個URL
如 ftp://ftp.numericals.com/file[1-100].txt,ftp://ftp.numericals.com/file[001-100].txt,ftp://ftp.letters.com/file[a-z].txt, []中表示按數(shù)字或字母的順序排列。
還能表示不連續(xù)的排列,如 http://www.numericals.com/file[1-100:10].txt,http://www.letters.com/file[a-z:2].txt,":" 后面的數(shù)字表示等差排列的階躍數(shù)。
3、結(jié)合起來使用
如 http://any.org/archive[1996-1999]/vol[1-4]/part{a,b,c}.html。
curl命令行工具的基本語句為:curl [options] [URL...],即 curl [選項] [下載地址]。因此,如果你想下載百度的首頁,最簡單的方法啟動cmd,進入curl安裝目錄,輸入命令:curl http://www.baidu.com,回車,你的輸出窗口將立即出現(xiàn)百度首頁 的html數(shù)據(jù)。
對于所有的布爾型option,基本上--option表示支持這個選項,--no-option表示禁用這個選項。下面總結(jié)幾個比較有用的 options。
1、-o/--output <file>
這個基本上要算最常用的選項了,用于將下載的數(shù)據(jù)保存到某個文件中。如 curl -o baidu.html http://www.baidu.com則將百度首頁保存到baidu.html 文件中了。下載過程中標(biāo)準(zhǔn)輸出還會顯示下載的統(tǒng)計信息,比如進度、下載字節(jié)數(shù)、下載速度等。如果指定輸出為"-",則下載數(shù)據(jù)會輸出到標(biāo)準(zhǔn)輸出。
如果輸出的文件是一個多級目錄的話,則要配合--create-dirs選項,--create-dirs將自動創(chuàng)建設(shè)置的輸出目錄。
如果希望保存到本地的文件名和服務(wù)器上的相同,就可以直接用-O選項(大寫O),而省去指定本地文件名。
如果下載多個數(shù)據(jù)文件,可以使用上面提到的多URL規(guī)則。下載文件名也可以批量自定義,就是使用"#"。可以將"#"加到文件名當(dāng)中,這樣實際文件名中 的#將被多個URL中的當(dāng)前字符串代替,如 curl http://{site,host}.host[1-5].com -o "#1_#2",#1將被"site"或"host"代替,#2將被1-5之間的數(shù)字代替,也就是被當(dāng)前被處理的URL中的字符串代替。
另外下載數(shù)據(jù)的時候,可以加個"-#"選項,用一個進度條來代替文本表示進度。
2、-c/--cookie-jar <file name> 和 -b/--cookie <name=data>
這是兩個操作cookie的選項,很多服務(wù)器是需要cookie信息的。用前一個選項可以指定一個文件,將其他文件中的cookie或者從服務(wù)器得到的 cookie寫到文件中;后一個選項則用來向服務(wù)器發(fā)送cookie信息,可以用"name=data"的形式,也可以直接跟一個保存cookie的文件 名。
3、-x/--proxy <proxyhost[:port]>
該選項為http指定代理及端口,如果不指定端口,默認(rèn)為1080。如 curl -x 201.36.208.19:3128 http://curl.haxx.se/。
4、-u/--user <user:password> 和 -U/--proxy-user <user:password>
登錄某些頁面或ftp需要先進行認(rèn)證,輸入用戶名和密碼。curl的這個選項可以直接處理這類操作,用指定的賬號和密碼進行登錄認(rèn)證。
后面的選項指定代理的用戶名和密碼,這樣便可以直接用這個代理訪問網(wǎng)頁了,如 curl -U user:password -x 201.36.208.19:3128 http://curl.haxx.se/。
5、-A/--user-agent <agent string>
該選項可以指定客戶端類型,服務(wù)器通過該選項判斷用戶應(yīng)用的平臺及瀏覽器信息。如 curl -A "Mozilla/4.0 (compatible; MSIE 6.0; Windows NT 5.0)" http://www.clientinfo.com,
表示告訴服務(wù)器,客戶端是運行在Windows 2000系統(tǒng)上的IE6.0。
6、-d/--data <data>
該選項用來以POST方式向http服務(wù)器發(fā)送特定數(shù)據(jù),最常用的就是提交表單。如 curl -d "user=username&password=111" http://www.login.com, 表示用賬號username和密碼111向站點發(fā)送登錄申請。其中多個數(shù)據(jù)段可以用"&"進行連接一起發(fā)送;如果數(shù)據(jù)前面加上符號"@",則數(shù)據(jù) 來源為后面指定的文件,如 curl -d password=@D:/pw.txthttp://www.login.com。
7、-C/--continue-at <offset>
改選項提供斷點續(xù)傳功能,與-o選項配合使用。如 curl -c -O http://vfile.home.news.cn/music/public/vd05/200905/31/a8/MUfs052009053117155750a8be70.mp3。 如果指定offset,則從offset的位置開始續(xù)傳。如果未指定offset,或者直接用"-C -",則curl會自己分析該從什么位置開始續(xù)傳。
8、-r/--range <range>
該選項指定下載字節(jié)的范圍,常應(yīng)用于分塊下載文件。range的表示方式有多種,如100-500,則指定從100開始的400個字節(jié)數(shù)據(jù);-500表示 最后的500個字節(jié);5000-表示從第5000個字節(jié)開始的所有字節(jié);另外還可以同時指定多個字節(jié)塊,中間用","分開。如
curl -r 0-1024000 -o new_divide_1.mp3 http://vfile.home.news.cn/music/public/vd05/200905/31/a8/MUfs052009053117155750a8be70.mp3 &
curl -r 1024001-2048000 -o new_divide_2.mp3 http://vfile.home.news.cn/music/public/vd05/200905/31/a8/MUfs052009053117155750a8be70.mp3 &
curl -r 2048001- -o new_divide_3.mp3 http://vfile.home.news.cn/music/public/vd05/200905/31/a8/MUfs052009053117155750a8be70.mp3
這樣就會將目標(biāo)mp3文件分塊下載為3個文件,然后可以用dos的copy命令:copy new_divide_1.mp3/b + new_divide_2.mp3/b + new_divide_3.mp3/b new_divide.mp3即可將3個分塊文件合并為一個完整的mp3文件。
9、-w/--write-out <format>
該選項格式化輸出一些用戶操作的數(shù)據(jù)信息,用到的格式化輸出符除了"/n","/r","/t"這些常見轉(zhuǎn)義符外,還包括"@"和"%"。其 中"@filename"表示輸出filename文件中的數(shù)據(jù),"@-"表示輸出用戶寫入標(biāo)準(zhǔn)輸入的數(shù)據(jù);"%"標(biāo)識符后面跟上定義的關(guān)鍵字, 則可以輸出對應(yīng)的curl數(shù)據(jù),常用的關(guān)鍵字有:
http_code —— 上次操作返回的響應(yīng)碼;
time_total —— 上次操作耗時,單位為秒;
time_connect —— TCP連接遠(yuǎn)程主機的耗時,單位為秒;
time_pretransfer —— 文件真正開始傳輸之前交互耗時,單位為秒,可能主要包括一些命令處理和協(xié)議分析的耗時;
time_starttransfer —— 文件的第一個字節(jié)開始傳輸之前的耗時,單位為秒,包括time_pretransfer和服務(wù)器計算結(jié)果的時間;
size_download —— 下載的總字節(jié)數(shù);
size_upload —— 上傳的總字節(jié)數(shù);
size_request —— 發(fā)送http請求的總字節(jié)數(shù);
speed_download —— curl成功下載的平均下載速度;
speed_upload —— curl成功上傳的平均上傳速度;
舉例:curl -o page.html -s -w %{time_connect}:%{time_starttransfer}:%{time_total} http://curl.haxx.se/,其中-s表示安靜模式,即略去所有 狀態(tài)信息。
10、--connect-timeout <seconds> 和 -m/--max-time <seconds>
前者表示允許的連接的最長耗時,單位為秒;后者表示允許的整個操作的最長耗時,單位為秒,這個選項對于控制一個批處理操作的時長非常有用。
11、--limit-rate <speed> 、 -Y/--speed-limit <speed> 和 -y/--speed-time <time>
--limit-rate <speed>指定最大的數(shù)據(jù)傳輸率,單位為bytes/s,也可以用'k'或'K'表示kb/s,'m'或'M'表示mb/s,'g'或 'G'表示gb/s,所給的speed為平均傳輸率,短時間峰值可能會超過此值;
-Y/--speed-limit <speed>指定最小傳輸率,單位為bytes/s,如果小于speed值,則傳輸中止,如此時-y選項沒有被設(shè)置,默認(rèn)time為 30;-y/--speed-time <time>指定-Y選項的有效時間段,如果-Y選項沒有被設(shè)置,默認(rèn)為1。
12、--max-filesize <bytes>
該選項指定所要下載的文件的最大長度,如果超過bytes值,則下載并不開始,curl返回退出碼63。
13、--retry <num> 、 --retry-delay <seconds> 和 --retry-max-time <seconds>
當(dāng)傳輸過程中出現(xiàn)錯誤,如超時、FTP 5xx返回碼或者HTTP 5xx返回碼,curl會進行按照設(shè)置進行重試,這幾個選項都與重試有關(guān)。--retry <num>設(shè)置重試次數(shù),--retry-delay <seconds>設(shè)置兩次重試的間隔時間,--retry-max-time <seconds>設(shè)置兩次重試間隔的最長時間。默認(rèn)情況下,curl不進行重試;如果重試,第一次間隔1秒,之后每次都間隔上一次的2倍時 間,直到間隔時間達(dá)到10分鐘,之后的重試都將采用10分鐘間隔。如果這3個選項的值被重新設(shè)置,則執(zhí)行設(shè)置值。
14、-T/--upload-file <file>
該選項是上傳命令,如向http服務(wù)器上傳一個文件:curl -T D:/new_divide.mp3 http://www.uploadserver.com/path/; 向一個ftp服務(wù)器上傳文件:curl -T D:/new_divide.mp3 -u user:password ftp://upload_site:port/path/。
curl定義了一組"EXIT CODES",用來標(biāo)識在出現(xiàn)錯誤時的相關(guān)信息,目前范圍從1-83,具體信息可以查閱curl庫自帶的文檔。這些退出碼對于我們分析錯誤及原因有很大幫 助。
以上簡單介紹了一下利用curl命令行工具進行一些簡單的http和ftp應(yīng)用,大家可以試著多用一下,會慢慢發(fā)現(xiàn)curl的強大功能,有很多獨特的功能 用起來非常簡單方便。
posted on 2012-09-17 08:07 草原上的駱駝 閱讀(1189) 評論(0) 編輯 收藏 所屬分類: Linux