394 Open source projects that are alternatives of or similar to Cockroach

Golang爬虫 爬取汽车之家 二手车产品库

🏀 Python3 网络爬虫实战（部分含详细教程）猫眼 腾讯视频 豆瓣 研招网 微博 笔趣阁小说 百度热点 B站 CSDN 网易云阅读 阿里文学 百度股票 今日头条 微信公众号 网易云音乐 拉勾 有道 unsplash 实习僧 汽车之家 英雄联盟盒子 大众点评 链家 LPL赛程 台风 梦幻西游、阴阳师藏宝阁 天气 牛客网 百度文库 睡前故事 知乎 Wish

Geziyor, a fast web crawling & scraping framework for Go. Supports JS rendering.

Python多线程下载 草榴(t66y.com) 网站【新時代的我們】和【達蓋爾的旗幟】两个板块帖子内的图片

微信公众号文章的爬虫

爬取CSDN上的博客文章

create some tools use go lang.

Async Python 3.6+ web scraping micro-framework based on asyncio

Incredibly fast crawler designed for OSINT.

Download images from Google, Bing, Baidu. 谷歌、百度、必应图片下载.

Cross Platform C# Web crawler framework, headless browser, parallel crawler. Please star this project! +1.

[DEPRECATED] Simple, flexible, delightful web crawler/spider package

知乎用户公开个人信息爬虫, 能够爬取用户关注关系，基于Python、使用代理、多线程

Your web font utility belt. It can subset web fonts. It can find unicode-ranges for you automatically. It makes julienne fries.

整合第三方网站的视频和弹幕资源, 为白嫖党提供最佳看番追剧体验

🤖 微信订阅机器人 | 🐟 微信订阅机器人之闲鱼二手商品监控

知乎爬虫程序，定时跟踪问题数据，定时推送热门话题

🐞 立马理财销售统计(爬虫+页面展示)

🕷 CrawlerDetect is a PHP class for detecting bots/crawlers/spiders via the user agent

Creating Scrapy scrapers via the Django admin interface

capture pictures from website like sina, lofter, huaban and so on

Distributed web crawler admin platform for spiders management regardless of languages and frameworks. 分布式爬虫管理平台，支持任何语言和框架

抖音 SDK，数据采集，爬虫抓取不是梦

爬取百度贴吧、TapTap、appstore、微博官方博主上的游戏评论(基于redis_scrapy)，过滤器采用了bloomfilter。

Yet Another Web Spider

Nodejs实现的一个磁力链接爬虫 http://findit.keenwon.com (原域名http://findit.so )

A configurable web spider with a easy-to-use web console

🕷some website spider application base on proxy pool (support http & websocket)

小说精品屋-plus是一个多端（PC、WAP）阅读、功能完善的原创文学CMS系统，由前台门户系统、作家后台管理系统、平台后台管理系统、爬虫管理系统等多个子系统构成，支持多模版、会员充值、订阅模式、新闻发布和实时统计报表等功能，新书自动入库，老书自动更新。

The Resources for "Natural Language to Logical Form" ; "自然语言转逻辑形式"研究资料收集。

Testing Using Python Demo. 使用Python测试脚本demo。

Simple, clear and fast Web Crawler framework build on python3.6+, powered by asyncio.

Beanbun 是用 PHP 编写的多进程网络爬虫框架，具有良好的开放性、高可扩展性，基于 Workerman。

A web crawler (for bug hunting) that gathers more than you can imagine.

自学入门 Python 优质中文资源索引，包含 书籍 / 文档 / 视频，适用于 爬虫 / Web / 数据分析 / 机器学习 方向

简简单单spider

Some toolkits implements part of BT Protocol, like DHT spider.

一个简单的分布式爬虫框架

Last-Statement-of-Death-Row, 人之将死，其言也善

GUI of AlipayOrdersSupervisor, implemented in Java and Swing

网易云爬虫解决方案

🕷招聘网站爬虫合集，不定期更新分支

根据腾讯安全应急响应中心的架构编写的一款超强爬虫（广度优先搜索）

a puppeteer walker 🕷 🕸

Node.js seed downloader (Node.js 种子神器)

🤖 A spider and server for Luoo.qy

AV 电影管理系统， avmoo , javbus , javlibrary 爬虫，线上 AV 影片图书馆，AV 磁力链接数据库，Japanese Adult Video Library,Adult Video Magnet Links - Japanese Adult Video Database

Some classic web crawler projects.一些经典的爬虫

💐 Full Amazon Automatic Download

日常小脚本，懒人欢乐多。

Rust Web Crawler saving pages on Redis

python crawler spider

NetCloud Web Spider

GOPA, a spider written in Go.（NOTE: this project moved to https://github.com/infinitbyte/gopa ）

AlipaySpider on Scrapy(use chrome driver); 支付宝爬虫(基于Scrapy)

BaiduSpider，一个爬取百度搜索结果的爬虫，目前支持百度网页搜索，百度图片搜索，百度知道搜索，百度视频搜索，百度资讯搜索，百度文库搜索，百度经验搜索和百度百科搜索。

lots of spider (很多爬虫）

蓝天采集器是一款免费的数据采集发布爬虫软件，采用php+mysql开发，可部署在云服务器，几乎能采集所有类型的网页，无缝对接各类CMS建站程序，免登录实时发布数据，全自动无需人工干预！是网页大数据采集软件中完全跨平台的云端爬虫系统

经济责任审计知识图谱：网络爬虫、关系抽取、领域词汇判定

Powerful web scraping framework for Crystal