建站
咨詢
售后
建站咨詢
新聞中心
小編給大家分享一下怎么用python爬蟲獲取豆瓣的書評(píng)，相信大部分人都還不怎么了解，因此分享這篇文章給大家參考一下，希望大家閱讀完這篇文章后大有收獲，下面讓我們一起去了解一下吧！
我們提供的服務(wù)有：做網(wǎng)站、網(wǎng)站建設(shè)、微信公眾號(hào)開發(fā)、網(wǎng)站優(yōu)化、網(wǎng)站認(rèn)證、番禺ssl等。為近千家企事業(yè)單位解決了網(wǎng)站和推廣的問題。提供周到的售前咨詢和貼心的售后服務(wù)，是有科學(xué)管理、有技術(shù)的番禺網(wǎng)站制作公司
python的五大特點(diǎn)是什么
python的五大特點(diǎn)：1.簡(jiǎn)單易學(xué)，開發(fā)程序時(shí)，專注的是解決問題,而不是搞明白語言本身。2.面向?qū)ο?，與其他主要的語言如C++和Java相比, Python以一種非常強(qiáng)大又簡(jiǎn)單的方式實(shí)現(xiàn)面向?qū)ο缶幊獭?.可移植性，Python程序無需修改就可以在各種平臺(tái)上運(yùn)行。4.解釋性，Python語言寫的程序不需要編譯成二進(jìn)制代碼,可以直接從源代碼運(yùn)行程序。5.開源，Python是 FLOSS(自由/開放源碼軟件)之一。
1、分析網(wǎng)站
整個(gè)豆瓣的框架設(shè)計(jì)都是簡(jiǎn)單的靜態(tài)頁面，只需要頁面代碼參數(shù)。
urls=[]
pages=79 #可以根據(jù)頁面數(shù)據(jù)來設(shè)定
for page in range(0,pages):
url = 'https://book.douban.com/subject/26369699/reviews?start={}'.format(page)
urls=urls.append(url)通過觀察每個(gè)頁面的網(wǎng)站規(guī)則，可以推測(cè)start的計(jì)算公式，例如上面的代碼自動(dòng)生成所有數(shù)據(jù)的地址。
2、爬取網(wǎng)頁
需要登錄并將cookie傳遞給請(qǐng)求頭，以便正常請(qǐng)求數(shù)據(jù)。您可以在開發(fā)人員模型的RequestHeaders中獲得cookies值。
def getHTML(url):
headers={'User-Agent': 'Mozilla/5.0 (Macintosh; Intel Mac OS X 10_13_6) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/89.0.4389.114 Safari/537.36',
'Connection': 'keep-alive',
'Cookie': '', #你的cookies
'Referer': 'https://book.douban.com/subject/26369699/reviews',
}
request = urllib.request.Request(url,headers=headers)
response = urllib.request.urlopen(request)
content = response.read().decode('utf-8')
return content以上是“怎么用python爬蟲獲取豆瓣的書評(píng)”這篇文章的所有內(nèi)容，感謝各位的閱讀！相信大家都有了一定的了解，希望分享的內(nèi)容對(duì)大家有所幫助，如果還想學(xué)習(xí)更多知識(shí)，歡迎關(guān)注創(chuàng)新互聯(lián)行業(yè)資訊頻道！
本文標(biāo)題：怎么用python爬蟲獲取豆瓣的書評(píng)
標(biāo)題鏈接：http://fisionsoft.com.cn/article/ipjodc.html
