Python抓取網頁內容應用代碼分析
作者:佚名
Python抓取網頁內容的實現,其操作方法是比較簡單的。我們可以通過這里介紹的兩種不同方法來對這一應用技術進行充分的掌握。
我們今天將會通過這篇文章,為大家詳細介紹一下Python抓取網頁內容的兩種不同方法。大家可以以此為參考對象,在實際應用中選擇一種適合自己的應用方式來幫助我們完成實際開發中的需求。
Python抓取網頁內容方法一、用urllib2/sgmllib包,將目標網頁的所有URL列出。
- import urllib2
- from sgmllib import SGMLParser
- class URLLister(SGMLParser):
- def reset(self):
- SGMLParser.reset(self)
- self.urls = []
- def start_a(self, attrs):
- href = [v for k, v in attrs if k=='href']
- if href:
- self.urls.extend(href)
- f = urllib2.urlopen("http://www.donews.com/")
- if f.code == 200:
- parser = URLLister()
- parser.feed(f.read())
- f.close()
- for url in parser.urls: print url
Python抓取網頁內容方法二、用python調用IE抓取目標網頁(Require win32com, pythoncom)的所有圖像的url和大小
- import win32com.client, pythoncom
- import time
- ie = win32com.client.DispatchEx('InternetExplorer.Application.1')
- ie.Visible = 1
- ie.Navigate("http://news.sina.com.cn")
- while ie.Busy:
- time.sleep(0.05)
- doc = ie.Document
- for i in doc.images:
- print i.src, i.width, i.height
這種方法可以利用IE本身的Javascript. DHTML的支持,來做自動提交Form,和處理Javascript。
以上就是我們為大家介紹的Python抓取網頁內容的兩種不同的方法。
【編輯推薦】
責任編輯:曹凱
來源:
博客園