单机爬虫（Scrapy）到分布式爬虫（Scrapy-Redis）的完美实战。从0讲解爬虫基本原理，对爬虫中所需要用到的知识点进行梳理，从搭建开发环境、设计数据库开始，通过爬取三个知名网站的真实数据，带你由浅入深的掌握Scrapy原理、各模块使用、组件开发，Scrapy的进阶开发以及反爬虫的策略，彻底掌握Scrapy之后，带你基于Scrapy、Redis、elasticsearch和django打造一个完整的搜索引擎网站。
整个开发过程中还会讲到很多爬虫开发的知识， 这些知识不管是对Web系统的理解还是面试都是非常重要的知识点，包括正则表达式、url去重的策略、深度优先和广度优先遍历算法及实现、session和cookie的区别以及如何通过多种方式去实现模拟登录。
项目实战：
爬取技术社区文章：
掌握：xpath， css选择器 / items设计 / pipeline， twisted保存数据到mysql
爬取问答网站：
掌握：session和cookie原理 / scrapy FormRequest和requests模拟知乎登陆
item loader方式提取数据
item loader方式提取数据
爬取招聘网站：
掌握：link extractor / scrapy Rule提取url / CrawlSpider爬取全站
原文链接：https://vuesite.cn/9952.html，转载请注明出处。