940 Open source projects that are alternatives of or similar to Alipayspider Scrapy

豆瓣电影top250、斗鱼爬取json数据以及爬取美女图片、淘宝、有缘、CrawlSpider爬取红娘网相亲人的部分基本信息以及红娘网分布式爬取和存储redis、爬虫小demo、Selenium、爬取多点、django开发接口、爬取有缘网信息、模拟知乎登录、模拟github登录、模拟图虫网登录、爬取多点商城整站数据、爬取微信公众号历史文章、爬取微信群或者微信好友分享的文章、itchat监听指定微信公众号分享的文章

Python爬虫实战 - 模拟登陆各大网站 包含但不限于：滑块验证、拼多多、美团、百度、bilibili、大众点评、淘宝，如果喜欢请start ❤️

Simple and friendly Bot for Instagram, using Selenium and Scrapy with Python.

V2EX爬虫

Distributed web crawler admin platform for spiders management regardless of languages and frameworks. 分布式爬虫管理平台，支持任何语言和框架

With Selenium headless browsing and CAPTCHA solving

A web search engine built with Python which uses TF-IDF and PageRank to sort search results.

An open source webapp for scraping: towards a public service for webscraping

A series of distributed components for Scrapy. Including RabbitMQ-based components, Kafka-based components, and RedisBloom-based components for Scrapy.

百度贴吧爬虫(基于scrapy和mysql)

🚀电商网站爬虫合集，淘宝京东亚马逊等

A Facebook crawler

Dynamic configurable crawl (动态可配置化爬虫)

Iota is a web scraper which can find all of the images and links/suburls on a webpage

NScrapy is a .net core corss platform Distributed Spider Framework which provide an easy way to write your own Spider

日常爬虫

10 photo website spiders, 10 个国外图库的 scrapy 爬虫代码

千万级图片爬虫、视频爬虫 [开源版本] Image Spider

一个基于Scrapy的数据采集爬虫代码库

Spider项目将会不断更新本人学习使用过的爬虫方法！！！

PTT 圖片下載器 (抓取整個看板的圖片，並用文章標題作為資料夾的名稱 ) (使用Scrapy)

Generating spiders dynamically to crawl and check those free proxy ip on the internet with scrapy.

Build and deploy a machine learning app from scratch 🚀

🔧 🔩 🔨 收集整理了爬虫相关的工具、模拟登陆技术、代理IP、scrapy模板代码等内容。

爬取百度贴吧、TapTap、appstore、微博官方博主上的游戏评论(基于redis_scrapy)，过滤器采用了bloomfilter。

A multi-thread crawler framework with many builtin image crawlers provided.

Word2vec 千人千面 个性化搜索 + Scrapy2.3.0(爬取数据) + ElasticSearch7.9.1(存储数据并提供对外Restful API) + Django3.1.1 搜索

招聘网数据爬虫

admin ui for scrapy/open source scrapinghub

🏀 Python3 网络爬虫实战（部分含详细教程）猫眼 腾讯视频 豆瓣 研招网 微博 笔趣阁小说 百度热点 B站 CSDN 网易云阅读 阿里文学 百度股票 今日头条 微信公众号 网易云音乐 拉勾 有道 unsplash 实习僧 汽车之家 英雄联盟盒子 大众点评 链家 LPL赛程 台风 梦幻西游、阴阳师藏宝阁 天气 牛客网 百度文库 睡前故事 知乎 Wish

Distributed Crawler Management Framework Based on Scrapy, Scrapyd, Django and Vue.js

爬虫学习仓库，适合零基础的人学习，对新手比较友好

徒手实现定时爬取知乎，从中发掘有价值的信息，并可视化爬取的数据作网页展示。

微博话题关键词,个人微博采集, 微博博文一键删除 selenium获取cookie,requests处理

基于python语言开发的千万级别搜索引擎

免费 IP 代理池。Scrapy 爬虫框架插件

🎊 Design and implement of lightweight crawler framework.

Creating Scrapy scrapers via the Django admin interface

163music spider by scrapy.

收集各种免费的 Python 爬虫项目

python爬虫小项目【持续更新】【笔趣阁小说下载、Tweet数据抓取、天气查询、网易云音乐逆向、天天基金网查询、微博数据抓取（生成cookie）、有道翻译逆向、企查查免登陆爬虫、大众点评svg加密破解、B站用户爬虫、拉钩免登录爬虫、自如租房字体加密、知乎问答

Collection of scrapy spiders which can scrape posts, images, and so on from public Facebook Pages.

[Crawler/Scraper for Golang]🕷A lightweight distributed friendly Golang crawler framework.一个轻量的分布式友好的 Golang 爬虫框架。

今日头条科技新闻接口爬虫

基于Scrapy框架的豆瓣电影爬虫

Uno Crawler por https://douban.com

🎯Python 3 网络爬虫实战、数据分析合集 | 当当 | 网易云音乐 | unsplash | 必胜客 | 猫眼 |

🎊 Design and implement of lightweight crawler framework.

A set of spiders and scrapers to extract location information from places that post their location on the internet.

💖 High available distributed ip proxy pool, powerd by Scrapy and Redis

小密圈备份，圈子/话题/图片/文件。

INFO-SPIDER 是一个集众多数据源于一身的爬虫工具箱🧰，旨在安全快捷的帮助用户拿回自己的数据，工具代码开源，流程透明。支持数据源包括GitHub、QQ邮箱、网易邮箱、阿里邮箱、新浪邮箱、Hotmail邮箱、Outlook邮箱、京东、淘宝、支付宝、中国移动、中国联通、中国电信、知乎、哔哩哔哩、网易云音乐、QQ好友、QQ群、生成朋友圈相册、浏览器浏览历史、12306、博客园、CSDN博客、开源中国博客、简书。

Python入门网络爬虫之精华版

NetDiscovery 是一款基于 Vert.x、RxJava 2 等框架实现的通用爬虫框架/中间件。

A python web scraper for public email lists.

💐Marmot | Web Crawler/HTTP protocol Download Package 🐭

Web app for Scrapyd cluster management, Scrapy log analysis & visualization, Auto packaging, Timer tasks, Monitor & Alert, and Mobile UI. DEMO 👉

A django admin site for scrapy

Scrapy middleware to handle javascript pages using selenium

Seeker - another job board aggregator.