Python高级特性与网络爬虫(五):Scrapy框架简介_7、scrapy是一个基于( )开发的爬虫框架。-CSDN博客

网站介绍:文章浏览阅读681次。Scrapy框架简介scrapy是一个基于Twisted的异步处理框架,是一个纯Python实现的爬虫框架,其架构清晰,模块之间的耦合程度低,可扩展性很强,我们可以通过定制开发几个模块就可以实现一个功能强大的爬虫。一个Scrapy框架如下图所示主要由以下几个部分组成:Engine:引擎,处理整个系统的数据流处理、触发事务,是整个框架的核心Item:项目,它定义了爬取结果的数据结构,爬取的数据会被赋值成该Item对象Scheduler:调度器,接收引擎发过来的请求并将其加入到队列中,在引擎再次请求_7、scrapy是一个基于( )开发的爬虫框架。