当前位置: 首页 > article >正文

关于selenium元素找不到的问题(Unable to locate element: {“method“:“xpath“,“selector“:“)

之前一个任务让用selenium爬取制定网站的一些数据,写了代码,在本机上写完后,移植到服务器上,然后在服务器上跑了两次发现,元素找不到了
Unable to locate element: {"method":"xpath","selector":"
然后由于服务器没有图形化界面,不能一步一步的调试,后来使用

driver.get("https://www.baidu.com/")
# 等待页面加载
time.sleep(10)
html = driver.page_source

# 将页面源代码写入到本地文件
with open("百度.html", "w", encoding="utf-8") as file:
    file.write(html)

将界面下载下来,发现,呕吼,IP被封了,被封了,封了,了……
然后换了台服务器,然后为了防止再次被封,加入了

options.add_argument(f"x-user-uuid={uuid.uuid4()}")
# 添加随机User-Agent,模拟不同的浏览器和设备,减少被网站识别为爬虫
user_agent = ua.random
options.add_argument(f'--user-agent={user_agent}')

然后,运行了一次,完美解决!(其实是又产生了新的问题QAQ)
过了两周,查看日志发现,裂开了,又不好使了,然后,我重新运行了一遍,想找找问题,结果他又好使了。我真的裂开,裂开了啊,再然后下载页面,发现他会出现两种页面,并且页面源代码完全不同??????怀疑人生
后来花了好久好久的时间,终于找到了问题,问题就出在:

# 添加随机User-Agent,模拟不同的浏览器和设备,减少被网站识别为爬虫
user_agent = ua.random
options.add_argument(f'--user-agent={user_agent}')

他会随机模拟出手机标识,即让网站发送手机浏览器适应的页面
所以最终解决办法,修改这段代码:

ua = UserAgent()

# 定义一个函数来生成随机的桌面 User-Agent
def get_random_desktop_user_agent():
    desktop_browsers = ['Chrome', 'Firefox', 'Edge', 'Safari']
    browser = random.choice(desktop_browsers)
    return ua[browser]

# 生成随机的桌面 User-Agent
user_agent = get_random_desktop_user_agent()
options.add_argument(f'--user-agent={user_agent}')

http://www.kler.cn/a/402130.html

相关文章:

  • 使用ufw配置防火墙,允许特定范围IP访问
  • 保存数据到Oracle时报错ORA-17004: 列类型无效: 1111
  • 前端接入Paymax支付请求
  • Jmeter的后置处理器(二)
  • C 语言标准库 - <stdlib.h>
  • Java策略模式应用实战
  • 使用GDB或Delve对已经运行起来的Go程序进行远程调试
  • 11.13机器学习_KNN和模型选择调优
  • 基于docker搭建mysql主从架构
  • 网络安全协议
  • git在创建分支时如何将默认分支名字设为master
  • Python 使用Django进行单元测试unittest
  • 活着就好20241120
  • I.MX6U 裸机开发12.主频修改和PLL配置
  • 用PHP实现一个简单的http服务器
  • 学习记录:js算法(九十八):课程表 II
  • 【Python数据可视化分析实战】数据爬取—京东手机品牌信息数据爬取和数据分析与可视化
  • 等保二级需要哪些安全设备?
  • openfoam中通过precice耦合的流固耦合案例如何单独运行流体这样可以防止报错float exception
  • 如何利用virtualenv和python命令创建Python虚拟环境
  • AI赋能电商:开启智慧零售新纪元
  • 高阶数据结构——图
  • Go语言里简短声明语句词法域问题
  • 【Electron】Electron Forge如何支持Element plus?
  • 视频里的音频怎么提取出来成单独文件?音频提取照着这些方法做
  • 论文阅读:Mixture-of-Agents Enhances Large Language Model Capabilities