Python批量爬取大众点评数据

众所周知，某点评是一直有JS加密的，所以关于它的外包一直都很贵，有些公司甚至用来面试，可见他的难度。
但是吧，最近他好像没有加密了，这~
不值钱了啊！
那当时就忍不住了，就得用Python开始整活了！

 
 

话不多说，让我们上代码！
全部代码

今天就没那么多步骤了，直接上代码！

1. import requests
2. import parsel
4. url = 'https://www.dianping.com/search/keyword/344/0_%E7%81%AB%E9%94%85/p2'
5. headers = {
6.     'Cookie': 'fspop=test; cy=344; cye=changsha; _lxsdk_cuid=181f2b8ceedc8-00c68dfc700b1e-c4c7526-384000-181f2b8ceedc8; _lxsdk=181f2b8ceedc8-00c68dfc700b1e-c4c7526-384000-181f2b8ceedc8; _hc.v=fa46cfdd-99f6-80af-c226-f8777fc1f097.1657634607; s_ViewType=10; _lx_utm=utm_source%3DBaidu%26utm_medium%3Dorganic; Hm_lvt_602b80cf8079ae6591966cc70a3940e7=1657634608,1657690542; lgtoken=0ecd60582-14f9-4437-87ad-7b55881b56df; WEBDFPID=3x389w8ww1vw5vuzy491zvxxu36989x2818u39v38389795895568429-1657776946569-1657690545731QSUUAWGfd79fef3d01d5e9aadc18ccd4d0c95072230; dper=6cfaf0f82f34d241b584d587fc92a7117ba6c082354d350ed861c0a256d00ba3beb93db7dc5485b4e2e4e4085a92126fa2e5f1dbe1b6eaefd1c814167fce943e; ll=7fd06e815b796be3df069dec7836c3df; Hm_lpvt_602b80cf8079ae6591966cc70a3940e7=1657690573; _lxsdk_s=181f60e4e6c-cad-fea-c91%7C%7C40',
7.     'Host': 'www.dianping.com',
8.     'Referer': 'https://www.dianping.com/search/keyword/344/0_%E7%81%AB%E9%94%85',
9.     'User-Agent': 'Mozilla/5.0 (Windows NT 10.0; WOW64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/101.0.0.0 Safari/537.36',
10. }
12. response = requests.get(url=url, headers=headers)
13. selector = parsel.Selector(response.text)
14. href = selector.css('.shop-list ul li .pic a::attr(href)').getall()
15. print(href)
16. for index in href:
17.     html_data = requests.get(url=index, headers=headers).text
18.     selector_1 = parsel.Selector(html_data)
19.     title = selector_1.css('.shop-name::text').get()  # 店名
20.     count = selector_1.css('#reviewCount::text').get()  # 评论
21.     Price = selector_1.css('#avgPriceTitle::text').get()  # 人均消费
22.     item_list = selector_1.css('#comment_score .item::text').getall()  # 评价
23.     taste = item_list[0].split(': ')[-1]  # 口味评分
24.     environment = item_list[1].split(': ')[-1]  # 环境评分
25.     service = item_list[-1].split(': ')[-1]  # 服务评分
26.     address = selector_1.css('#address::text').get()  # 地址
27.     tel = selector_1.css('.tel ::text').getall()[-1]  # 电话
28.     dit = {
29.         '店名': title,
30.         '评论': count,
31.         '人均消费': Price,
32.         '口味': taste,
33.         '环境': environment,
34.         '服务': service,
35.         '地址': address,
36.         '电话': tel,
37.         '详情页': index,
38.     }
39.     print(dit)

复制代码

 
注释我就不注释了，有点赶时间，女朋友喊我去吃饭呢！

 
 

不过没关系，还好我有先见之明，已经录了视频，都发在这里了，代码不明白的话，可以看视频有一步步的讲解。
视频地址：Python爬取大众点评

1. # 我给大家准备了这些资料：Python视频教程、100本Python电子书、基础、爬虫、数据分析、web开发、机器学习、人工智能、面试题、Python学习路线图、问题解答！
2. # 都放在这个扣群啦 ： 279199867

复制代码

 
效果展示


本文代码只是爬取了部分内容，视频中还讲解了让数据更好看，多页爬取，保存Excel表格等等。

 
 
给大家展示一下效果

 
 

 
 

好了，今天的分享就到这，下次再见！

免责声明：如果侵犯了您的权益，请联系站长，我们会及时删除侵权内容，谢谢合作！