当前位置: 首页 > article >正文

Scrapy框架入门

一、Scrapy简介

Scrapy是一款快速而强大的web爬虫框架,基于Twisted的异步处理框架、Twisted是事件驱动的。

Scrapy是由python实现的爬虫框架:架构清晰、可扩展性强、可以灵活完成需求。

一、Scrapy应用

scrapy及其他模块的安装

pip3 install scrapy
pip3 install wheel
pip3 install pywin32

        安装Scrapy之后,你可以使用scrapy startproject命令来创建一个新的Scrapy项目。例如,如果你想创建一个名为scrapydemo的项目,你可以运行

scrapy startproject scrapydemo

这个命令会生成一个名为scrapydemo的目录,该目录的结构大致如下:

myproject/  
    scrapy.cfg            # 项目的配置文件  
    myproject/            # 项目的Python模块,将会从这里引用代码  
        __init__.py  
        items.py          # 项目中的item文件  
        middlewares.py    # 项目中的middlewares文件  
        pipelines.py      # 项目中的pipelines文件  
        settings.py       # 项目的设置文件  
        spiders/          # 放置spider代码的目录  
            __init__.py

创建好项目之后接着创建爬虫文件,例如我们爬取以下网站 Quotes to Scrapeicon-default.png?t=O83Ahttps://quotes.toscrape.com/

在终端继续输入以下代码:

cd scrapydemo
scrapy genspider quotes quotes.toscrape.com

接下来就要配置项目文件...请移步主页


http://www.kler.cn/news/324440.html

相关文章:

  • Django 常用注解
  • python的pyinstaller
  • InnoDB索引结构
  • 【分布式微服务云原生】8分钟掌握微服务通信的艺术:Dubbo与OpenFeign全面解析
  • MacOS上安装MiniConda的详细步骤
  • SVG 滤镜:探索图形设计的无限可能
  • 低代码可视化-UniApp二维码可视化-代码生成器
  • C#测试调用FreeSpire.PDFViewer浏览PDF文件
  • 浅谈C++之Redis缓存
  • 遥感图像变换检测实践上手(TensorRT+UNet)
  • 一文理解mysql 联合索引和各种SQL语句分析
  • 软考论文《论模型驱动架构设计方法及其应用》精选试读
  • Python邮件发送附件:怎么配置SMTP服务器?
  • Java 常用运算符简单总结
  • JS中的事件和DOM操作
  • 【表达式求值算法】拆解复杂问题:实现计算器
  • 17.第二阶段x86游戏实战2-线程发包和明文包
  • Python近红外光谱数据分析
  • 几个将ppt文件压缩变小的方法!
  • [CKA]CKA预约和考试
  • 产品包装检测系统源码分享
  • OpenGL ES简述(1)
  • 如何使用 WebRTC 获取摄像头视频
  • 组播基础-2-IGMP协议
  • ★ C++进阶篇 ★ map和set
  • 个人健康管理小程序(源码+参考文档+定制)
  • python中序列化和反序列化
  • 一步一步优化一套生成式语言模型系统
  • docker简介、安装、基础知识
  • 基于webComponents的纯原生前端框架