scrapy服务器重试机制失效问题
当前问题以,有自定义中间件,并加入代码问题导致
准备:
有时间的提前了解下默认的重试中间件:RetryMiddleware
以下都属于中间件的配置项,需要在(setting)配置项中加入
Scrapy 的默认重试机制配置项主要包括以下几个设置:
- RETRY_ENABLED: 用于开启或关闭重试机制,默认为 True 。
- RETRY_TIMES: 定义了请求失败后重试的次数,默认值通常是 3 。
- DOWNLOAD_TIMEOUT: 定义了下载操作的超时时间,默认值通常是 180 秒 。
- RETRY_HTTP_CODES: 定义了触发重试的HTTP状态码列表,默认情况下可能包含 429, 404, 403 等 。
- RETRY_PRIORITY_ADJUST: 当请求重试时,用于调整请求优先级的值,默认值为 -1
可能导致失效的问题:
1、多余配置项导致数据内容有误。
自定义中间件中自定义配置内容:
2、代码请求异常被捕获没有抛出。
3、配置项遗漏异常配置。
4、参数解析过程加入多余配置阻碍程序。
5、请求不允许添加返回其他数据,会导致重试失效。