7.User-Agent（用户署理）

User-Agent 即用户署理，简称“UA”，它是一个特殊字符串头。网站服务器通过识别 “UA”来确定用户所使用的操纵体系版本、CPU 类型、浏览器版本等信息。而网站服务器则通过判断 UA 来给客户端发送差别的页面
网络爬虫使用程序代码来访问网站，而非人类亲自点击访问，因此爬虫程序也被称为“网络呆板人”。绝大多数网站都具备一定的反爬本领，克制网爬虫大量地访问网站，以免给网站服务器带来压力
网站通过识别请求头中 User-Agent 信息来判断是否是爬虫访问网站。假如是，网站起首对该 IP 举行预警，对其举行重点监控，当发现该 IP 高出规定时间内的访问次数， 将在一段时间内克制其再次访问网站
常见的 User-Agent 请求头

体系	浏览器	User-Agent字符串
Mac	Chrome	Mozilla/5.0 (Macintosh; Intel Mac OS X 10_12_6) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/73.0.3683.75 Safari/537.36
Mac	Firefox	Mozilla/5.0 (Macintosh; Intel Mac OS X 10.12; rv:65.0) Gecko/20100101 Firefox/65.0
Mac	Safari	Mozilla/5.0 (Macintosh; Intel Mac OS X 10_12_6) AppleWebKit/605.1.15 (KHTML, like Gecko) Version/12.0.3 Safari/605.1.15
Windows	Edge	Mozilla/5.0 (Windows NT 10.0; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/64.0.3282.140 Safari/537.36 Edge/18.17763
Windows	IE	Mozilla/5.0 (Windows NT 10.0; WOW64; Trident/7.0; rv:11.0) like Gecko
Windows	Chrome	Mozilla/5.0 (Windows NT 10.0; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/72.0.3626.121 Safari/537.36
iOS	Chrome	Mozilla/5.0 (iPhone; CPU iPhone OS 7_0_4 like Mac OS X) AppleWebKit/537.51.1 (KHTML, like Gecko) CriOS/31.0.1650.18 Mobile/11B554a Safari/8536.25
iOS	Safari	Mozilla/5.0 (iPhone; CPU iPhone OS 8_3 like Mac OS X) AppleWebKit/600.1.4 (KHTML, like Gecko) Version/8.0 Mobile/12F70 Safari/600.1.4
Android	Chrome	Mozilla/5.0 (Linux; Android 4.2.1; M040 Build/JOP40D) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/31.0.1650.59 Mobile Safari/537.36
Android	Webkit	Mozilla/5.0 (Linux; U; Android 4.4.4; zh-cn; M351 Build/KTU84P) AppleWebKit/534.30 (KHTML, like Gecko) Version/4.0 Mobile Safari/534.30

 通过在线识别工具，可以查看本机的浏览器版本以及 UA 信息

您当前使用的浏览器UserAgent信息如下
浏览器名字	Chrome
浏览器版本	106.0.0.0
体系平台	Windows
原始UA信息	Mozilla/5.0 (Windows NT 10.0; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/106.0.0.0 Safari/537.36 Edg/106.0.1370.47

爬虫程序UA信息 

向 HTTP 测试网站（httpbin.org）发送 GET 请求来查看请求头信息，从而获取爬虫程序的 UA

1. # 导入模块
2. import urllib.request
3. # 向网站发送get请求
4. response = urllib.request.urlopen('http://httpbin.org/get')
5. html = response.read().decode()
6. print(html)

复制代码

运行效果：

1. {
2.   "args": {},
3.   "headers": {
4.     "Accept-Encoding": "identity",
5.     "Host": "httpbin.org",
6.     "User-Agent": "Python-urllib/3.9", #UserAgent信息包含在请求头中！
7.     "X-Amzn-Trace-Id": "Root=1-635646d0-5f26ba47125fd9d508274f3c"
8.   },
9.   "origin": "113.235.123.41",
10.   "url": "http://httpbin.org/get"
11. }

复制代码

从输出效果可以看出，User-Agent 竟然是 Python-urllib/3.9，这显然是爬虫程序访问网站。因此就须要重构 User-Agent，将其伪装成“浏览器”访问网站
注意：httpbin.org 这个网站能测试 HTTP 请求和相应的各种信息，比如 cookie、IP、headers 和登录验证等，且支持 GET、POST 等多种方法，对 Web 开发和测试很有资助
重构爬虫UA信息

使用urllib.request.Request()方法重构 User-Agent 信息

1. from urllib import request
2. # 定义变量url与headers
3. url = 'http://httpbin.org/get' # 向测试网站发送请求
4. # 重构请求头，可以使用任意浏览器的UA信息
5. headers = {
6.     'User-Agent': 'Mozilla/5.0 (Windows NT 10.0; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/106.0.0.0 Safari/537.36 Edg/106.0.1370.47'
7. }
8. # 创建请求对象，包装UA信息
9. req = request.Request(url=url,headers=headers)
10. # 发送请求，获取响应对象
11. res = request.urlopen(req)
12. # 提取响应内容
13. html = res.read().decode('utf-8')
14. print(html)

复制代码

运行效果：

1. {
2.   "args": {},
3.   "headers": {
4.     "Accept-Encoding": "identity",
5.     "Host": "httpbin.org",
6.     "User-Agent": "Mozilla/5.0 (Windows NT 10.0; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/106.0.0.0 Safari/537.36 Edg/106.0.1370.47",
7.     "X-Amzn-Trace-Id": "Root=1-63564a2b-13daf2dd7b1db5545a26052e"
8.   },
9.   "origin": "113.235.123.41",
10.   "url": "http://httpbin.org/get"
11. }

复制代码

重构了 User-Agent 字符串信息，如许就解决了网站通过识别 User-Agent 来封杀爬虫程序的问题

免责声明：如果侵犯了您的权益，请联系站长，我们会及时删除侵权内容，谢谢合作！更多信息从访问主页：qidao123.com:ToB企服之家，中国第一个企服评测及商务社交产业平台。