python爬蟲獲取多頁天涯帖子-創新互聯

今天練習了抓取多頁天涯帖子，重點復習的知識包括

創新互聯是一家集網站建設,八公山企業網站建設,八公山品牌網站建設,網站定制,八公山網站建設報價,網絡營銷,網絡優化,八公山網站推廣為一體的創新建站企業，幫助傳統企業提升企業形象加強企業競爭力。可充分滿足這一群體相比中小企業更為豐富、高端、多元的互聯網需求。同時我們時刻保持專業、時尚、前沿，時刻以成就客戶成長自我，堅持不斷學習、思考、沉淀、凈化自己，讓我們為更多的企業打造出實用型網站。

• soup.find_all和soup.selcet兩個篩選方式對應不同的參數；
• 希望將獲取到的多個內容組合在一起返回的時候，要用'zip()'的代碼來實現；
• 兩層代碼結構之間的關系如何構造；

這里有一個疑問：有時候一個標簽可以有多個屬性，不知道soup.find_all()能不能接受不止一個屬性以縮小查找的范圍。

# 引入庫和請求頭文件
import requests
from bs4 import BeautifulSoup
headers = {
  'User-Agent':'Mozilla/5.0 (Macintosh; Intel Mac OS X 10_12_0) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/62.0.3202.94 Safari/537.36'
}

# 定義主體函數。函數主體由四部分組成：
#1.請求網址
#2.解析網頁，形成可查找的html格式
#3.通過soup.select或者sopu.find_all查找需要的標簽
#4.通過zip()代碼將多個內容合并在一起

def get_content(url):
  res = requests.get(url,headers = headers)
  res.encoding = 'utf-8'
  soup = BeautifulSoup(res.text,'html.parser')
  contents = soup.find_all('div','bbs-content')
  authors = soup.find_all('a','js-vip-check')
  for author,content in zip(authors,contents):
    data = {
    'author':author.get_text().strip(),
    'content': content.get_text().strip()
  }
    print(data)
# 在這里構造一個兩層鏈接結構：帖子的1、2、3、4頁和帖子的詳情頁的關系在這里實現
if __name__ == '__main__':
  urls = ['http://bbs.tianya.cn/post-develop-2271894-{}.shtml'.format(str(i)) for i in range (1,5)] # 要注意，這里的‘5'是不包括在范圍里的
  for url in urls:
    get_content(url)

另外有需要云服務器可以了解下創新互聯scvps.cn，海內外云服務器15元起步，三天無理由+7*72小時售后在線，公司持有idc許可證，提供“云服務器、裸金屬服務器、高防服務器、香港服務器、美國服務器、虛擬主機、免備案服務器”等云主機租用服務以及企業上云的綜合解決方案，具有“安全穩定、簡單易用、服務可用性高、性價比高”等特點與優勢，專為企業上云打造定制，能夠滿足用戶豐富、多元化的應用場景需求。

名稱欄目：python爬蟲獲取多頁天涯帖子-創新互聯
新聞來源：http://m.kartarina.com/article10/dcjhdo.html

成都網站建設公司_創新互聯，為您提供面包屑導航、虛擬主機、網站維護、域名注冊、標簽優化、搜索引擎優化

廣告

聲明：本網站發布的內容（圖片、視頻和文字）以用戶投稿、用戶轉載內容為主，如果涉及侵權請盡快告知，我們將會在第一時間刪除。文章觀點不代表本網站立場，如需處理請聯系客服。電話：028-86922220；郵箱：631063699@qq.com。內容未經允許不得轉載，或轉載時需注明來源： 創新互聯