7.User-Agent（用户代理）

User-Agent 即用户代理，简称“UA”，它是一个特殊字符串头。网站服务器通过识别 “UA”来确定用户所使用的操作系统版本、CPU 类型、浏览器版本等信息。而网站服务器则通过判断 UA 来给客户端发送不同的页面

网络爬虫使用程序代码来访问网站，而非人类亲自点击访问，因此爬虫程序也被称为“网络机器人”。绝大多数网站都具备一定的反爬能力，禁止网爬虫大量地访问网站，以免给网站服务器带来压力

网站通过识别请求头中 User-Agent 信息来判断是否是爬虫访问网站。如果是，网站首先对该 IP 进行预警，对其进行重点监控，当发现该 IP 超过规定时间内的访问次数， 将在一段时间内禁止其再次访问网站

常见的 User-Agent 请求头

 通过在线识别工具，可以查看本机的浏览器版本以及 UA 信息

爬虫程序UA信息 

向 HTTP 测试网站（httpbin.org）发送 GET 请求来查看请求头信息，从而获取爬虫程序的 UA

# 导入模块
import urllib.request
# 向网站发送get请求
response = urllib.request.urlopen('http://httpbin.org/get')
html = response.read().decode()
print(html)

运行结果：

{
  "args": {}, 
  "headers": {
    "Accept-Encoding": "identity", 
    "Host": "httpbin.org", 
    "User-Agent": "Python-urllib/3.9", #UserAgent信息包含在请求头中！
    "X-Amzn-Trace-Id": "Root=1-635646d0-5f26ba47125fd9d508274f3c"
  }, 
  "origin": "113.235.123.41", 
  "url": "http://httpbin.org/get"
}

从输出结果可以看出，User-Agent 竟然是 Python-urllib/3.9，这显然是爬虫程序访问网站。因此就需要重构 User-Agent，将其伪装成“浏览器”访问网站

注意：httpbin.org 这个网站能测试 HTTP 请求和响应的各种信息，比如 cookie、IP、headers 和登录验证等，且支持 GET、POST 等多种方法，对 Web 开发和测试很有帮助

重构爬虫UA信息

使用urllib.request.Request()方法重构 User-Agent 信息

from urllib import request
# 定义变量url与headers
url = 'http://httpbin.org/get' # 向测试网站发送请求
# 重构请求头，可以使用任意浏览器的UA信息
headers = {
    'User-Agent': 'Mozilla/5.0 (Windows NT 10.0; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/106.0.0.0 Safari/537.36 Edg/106.0.1370.47'
}
# 创建请求对象，包装UA信息
req = request.Request(url=url,headers=headers)
# 发送请求，获取响应对象
res = request.urlopen(req)
# 提取响应内容
html = res.read().decode('utf-8')
print(html)

运行结果：

{
  "args": {}, 
  "headers": {
    "Accept-Encoding": "identity", 
    "Host": "httpbin.org", 
    "User-Agent": "Mozilla/5.0 (Windows NT 10.0; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/106.0.0.0 Safari/537.36 Edg/106.0.1370.47", 
    "X-Amzn-Trace-Id": "Root=1-63564a2b-13daf2dd7b1db5545a26052e"
  }, 
  "origin": "113.235.123.41", 
  "url": "http://httpbin.org/get"
}

重构了 User-Agent 字符串信息，这样就解决了网站通过识别 User-Agent 来封杀爬虫程序的问题