396 Open source projects that are alternatives of or similar to Novel-crawler

微信公众号爬虫

LSpider 一个为被动扫描器定制的前端爬虫

裁判文书网爬虫

直接通过链家 API 抓取数据的极速爬虫，宇宙最快~~ 🚀

JavaScript + BeautifulSoup = JSSoup

Iota is a web scraper which can find all of the images and links/suburls on a webpage

dynamic crawler for web vulnerability scanner

文章采集工具 Article collection tool

基于python语言开发的千万级别搜索引擎

scala结合actor编写的分布式网络爬虫

爬虫集合

portia-dashboard is a visual web crawler based on scrapinghub/portia

⚡ Light weight Golang spider framework | 轻量的 Golang 爬虫框架

web spider built by puppeteer, support task-queue and task-scheduling by decorators，support nedb / mongodb, support data visualization; 基于puppeteer的web爬虫框架，提供灵活的任务队列管理调度方案，提供便捷的数据保存方案（nedb/mongodb），提供数据可视化和用户交互的实现方案

🕷️ A simple crawler (spider) writen in php just for fun, with zero dependencies

admin ui for scrapy/open source scrapinghub

Dynamic configurable crawl (动态可配置化爬虫)

京东口罩库存监控爬虫(非selenium)，扫码登录、查价、加购、下单、秒杀

Text-to-SQL in the Wild: A Naturally-Occurring Dataset Based on Stack Exchange Data

BitTorrent DHT Protocol && DHT Spider.

犇犇爬虫

一个功能全面的微信读书爬虫 wereader

This taobao spider has been archived

多线程知乎用户爬虫，基于python3

scrapy spider for scraping imdb {movie_id: [recommended, ...]}

一个简单的基于DHT协议的BT磁力链接爬虫

🍿爬虫代理IP池(proxy pool) python🍟一个还ok的IP代理池

爬虫工程师常用的 Chrome 插件 | Chrome extensions used by crawler developer

Google search results crawler, get google search results that you need

⭐ 图虫网爬虫

🔞 JAVClub - 让你的大姐姐不再走丢

基于nodejs的网络聊天室、爬虫，vue音乐播放器，及php后台开发的管理系统等项目

A Penetration Testing Framework, Information gathering tool & Website Vulnerability Scanner

Your web font utility belt. It can subset web fonts. It can find unicode-ranges for you automatically. It makes julienne fries.

招聘网数据爬虫

Crawling GitHub Trending Pages every day

A Laravel wrapper for CrawlerDetect - the web crawler detection library

gathertool是golang脚本化开发库，目的是提高对应场景程序开发的效率；轻量级爬虫库，接口测试&压力测试库，DB操作库等。

sync playlist between music platform

🕷️用于爬取B站前top100的小视频

Web crawler.

蜘蛛纸牌 for mac

Bilibili.com视频批量下载工具包

资讯爬虫App

Distributed Crawler Management Framework Based on Scrapy, Scrapyd, Django and Vue.js

基于Electron爬虫程序

小说精品屋是一个多平台（web、安卓app、微信小程序）、功能完善的屏幕自适应小说漫画连载系统，包含精品小说专区、轻小说专区和漫画专区。包括小说/漫画分类、小说/漫画搜索、小说/漫画排行、完本小说/漫画、小说/漫画评分、小说/漫画在线阅读、小说/漫画书架、小说/漫画阅读记录、小说下载、小说弹幕、小说/漫画自动采集/更新/纠错、小说内容自动分享到微博、邮件自动推广、链接自动推送到百度搜索引擎等功能。

项目已经移动至：https://github.com/BaiduSpider/BaiduSpider ！！ 一个爬取百度搜索结果的爬虫，目前支持百度网页搜索，百度图片搜索，百度知道搜索，百度视频搜索，百度资讯搜索，百度文库搜索，百度经验搜索和百度百科搜索。

Elegant Scraper and Crawler Framework for Golang

妹子图

🕷️ The progressive PHP crawler framework! 优雅的渐进式PHP采集框架。

超高速异步协程Python爬虫

A fast and powerfull dashboard (admin) finder

Grapy, a fast high-level web crawling framework for Python 3.3 or later base on asyncio.

A spider tapestry weaver

A web crawler for Go

该项目是一个使用celery作为主体框架的爬虫应用，能够灵活的添加爬虫任务，并且同时运行多站点的爬虫工作，所有组件都能够原生支持规模并发和分布式，加上celery原生的分布式调用，实现大规模并发。

A spider on Dcard. Strong and speedy.

A spiders' program for weixin which made by Express & cheerio

零基础学习python爬虫