qileilove

          blog已經(jīng)轉(zhuǎn)移至github,大家請(qǐng)?jiān)L問(wèn) http://qaseven.github.io/

          python實(shí)現(xiàn)簡(jiǎn)單爬蟲(chóng)功能

           在我們?nèi)粘I暇W(wǎng)瀏覽網(wǎng)頁(yè)的時(shí)候,經(jīng)常會(huì)看到一些好看的圖片,我們就希望把這些圖片保存下載,或者用戶(hù)用來(lái)做桌面壁紙,或者用來(lái)做設(shè)計(jì)的素材。

            我們最常規(guī)的做法就是通過(guò)鼠標(biāo)右鍵,選擇另存為。但有些圖片鼠標(biāo)右鍵的時(shí)候并沒(méi)有另存為選項(xiàng),還有辦法就通過(guò)就是通過(guò)截圖工具截取下來(lái),但這樣就降低圖片的清晰度。好吧~!其實(shí)你很厲害的,右鍵查看頁(yè)面源代碼。

            我們可以通過(guò)python 來(lái)實(shí)現(xiàn)這樣一個(gè)簡(jiǎn)單的爬蟲(chóng)功能,把我們想要的代碼爬取到本地。下面就看看如何使用python來(lái)實(shí)現(xiàn)這樣一個(gè)功能。

           

           

          一,獲取整個(gè)頁(yè)面數(shù)據(jù)

           

          首先我們可以先獲取要下載圖片的整個(gè)頁(yè)面信息。

          getjpg.py

          復(fù)制代碼
          #coding=utf-8 import urllib  def getHtml(url):     page = urllib.urlopen(url)     html = page.read()     return html  html = getHtml("http://tieba.baidu.com/p/2738151262")  print html
          復(fù)制代碼

            Urllib 模塊提供了讀取web頁(yè)面數(shù)據(jù)的接口,我們可以像讀取本地文件一樣讀取wwwftp上的數(shù)據(jù)。首先,我們定義了一個(gè)getHtml()函數(shù):

            urllib.urlopen()方法用于打開(kāi)一個(gè)URL地址。

            read()方法用于讀取URL上的數(shù)據(jù),向getHtml()函數(shù)傳遞一個(gè)網(wǎng)址,并把整個(gè)頁(yè)面下載下來(lái)。執(zhí)行程序就會(huì)把整個(gè)網(wǎng)頁(yè)打印輸出。

           

           

          二,篩選頁(yè)面中想要的數(shù)據(jù)

           

            Python 提供了非常強(qiáng)大的正則表達(dá)式,我們需要先要了解一點(diǎn)python 正則表達(dá)式的知識(shí)才行。

          http://www.cnblogs.com/fnng/archive/2013/05/20/3089816.html

           

          假如我們百度貼吧找到了幾張漂亮的壁紙,通過(guò)到前段查看工具。找到了圖片的地址,如:src=”http://imgsrc.baidu.com/forum......jpg”pic_ext=”jpeg”

          修改代碼如下:

          復(fù)制代碼
          import re import urllib  def getHtml(url):     page = urllib.urlopen(url)     html = page.read()     return html  def getImg(html):     reg = r'src="(.+?\.jpg)" pic_ext'     imgre = re.compile(reg)     imglist = re.findall(imgre,html)     return imglist           html = getHtml("http://tieba.baidu.com/p/2460150866") print getImg(html)
          復(fù)制代碼

            我們又創(chuàng)建了getImg()函數(shù),用于在獲取的整個(gè)頁(yè)面中篩選需要的圖片連接。re模塊主要包含了正則表達(dá)式:

            re.compile() 可以把正則表達(dá)式編譯成一個(gè)正則表達(dá)式對(duì)象.

            re.findall() 方法讀取html 中包含 imgre(正則表達(dá)式)的數(shù)據(jù)。

              運(yùn)行腳本將得到整個(gè)頁(yè)面中包含圖片的URL地址。

           

           

          三,將頁(yè)面篩選的數(shù)據(jù)保存到本地

           

          把篩選的圖片地址通過(guò)for循環(huán)遍歷并保存到本地,代碼如下:

           

          復(fù)制代碼
          #coding=utf-8 import urllib import re  def getHtml(url):     page = urllib.urlopen(url)     html = page.read()     return html  def getImg(html):     reg = r'src="(.+?\.jpg)" pic_ext'     imgre = re.compile(reg)     imglist = re.findall(imgre,html)     x = 0     for imgurl in imglist:         urllib.urlretrieve(imgurl,'%s.jpg' % x)         x+=1   html = getHtml("http://tieba.baidu.com/p/2460150866")  print getImg(html)
          復(fù)制代碼

           

            這里的核心是用到了urllib.urlretrieve()方法,直接將遠(yuǎn)程數(shù)據(jù)下載到本地。

            通過(guò)一個(gè)for循環(huán)對(duì)獲取的圖片連接進(jìn)行遍歷,為了使圖片的文件名看上去更規(guī)范,對(duì)其進(jìn)行重命名,命名規(guī)則通過(guò)x變量加1。保存的位置默認(rèn)為程序的存放目錄。

          程序運(yùn)行完成,將在目錄下看到下載到本地的文件。

           

          分類(lèi): python

          posted on 2014-03-04 11:33 順其自然EVO 閱讀(231) 評(píng)論(0)  編輯  收藏 所屬分類(lèi): python

          <2025年6月>
          25262728293031
          1234567
          891011121314
          15161718192021
          22232425262728
          293012345

          導(dǎo)航

          統(tǒng)計(jì)

          常用鏈接

          留言簿(55)

          隨筆分類(lèi)

          隨筆檔案

          文章分類(lèi)

          文章檔案

          搜索

          最新評(píng)論

          閱讀排行榜

          評(píng)論排行榜

          主站蜘蛛池模板: 开封市| 蒲江县| 双辽市| 梁河县| 大城县| 广宗县| 肥东县| 花莲县| 丹江口市| 贡山| 辽阳市| 霍州市| 涟水县| 娄底市| 越西县| 珠海市| 邓州市| 漳浦县| 外汇| 德惠市| 大兴区| 拉孜县| 云和县| 印江| 祁东县| 吴江市| 梓潼县| 德化县| 阿合奇县| 木里| 盖州市| 涪陵区| 宁河县| 漯河市| 镇远县| 高雄县| 土默特左旗| 眉山市| 阿克苏市| 南皮县| 梅河口市|