All Projects → yaleimeng → Free_proxy_pool

yaleimeng / Free_proxy_pool

Licence: other
对免费代理IP网站进行爬取,收集汇总为自己的代理池。关键是验证代理的有效性、匿名性、去重复

Programming Languages

python
139335 projects - #7 most used programming language

Projects that are alternatives of or similar to Free proxy pool

IpProxyPool
Golang 实现的 IP 代理池, 涉及到的技术点: go gorm proxy proxypool ip crawler 爬虫 mysql viper cobra
Stars: ✭ 36 (-45.45%)
Mutual labels:  proxypool
Proxy pool
ip proxy pool
Stars: ✭ 126 (+90.91%)
Mutual labels:  proxypool
Fooproxy
稳健高效的评分制-针对性- IP代理池 + API服务,可以自己插入采集器进行代理IP的爬取,针对你的爬虫的一个或多个目标网站分别生成有效的IP代理数据库,支持MongoDB 4.0 使用 Python3.7(Scored IP proxy pool ,customise proxy data crawler can be added anytime)
Stars: ✭ 195 (+195.45%)
Mutual labels:  proxypool
Proxy Pool
java代理IP池 Proxy Pool,提供可用率达到95%以上的代理IP。
Stars: ✭ 325 (+392.42%)
Mutual labels:  proxypool
Jcrandomproxy
随机代理
Stars: ✭ 105 (+59.09%)
Mutual labels:  proxypool
Fp Server
Free proxy server, continuously crawling and providing proxies, based on Tornado and Scrapy. 免费代理服务器,基于Tornado和Scrapy,在本地搭建属于自己的代理池
Stars: ✭ 154 (+133.33%)
Mutual labels:  proxypool
proxi
Proxy pool. Finds and checks proxies with rest api for querying results. Can find over 25k proxies in under 5 minutes.
Stars: ✭ 32 (-51.52%)
Mutual labels:  proxypool
Proxybroker
Proxy [Finder | Checker | Server]. HTTP(S) & SOCKS 🎭
Stars: ✭ 2,767 (+4092.42%)
Mutual labels:  proxypool
Proxy
A simple tool for fetching usable proxies from several websites.
Stars: ✭ 124 (+87.88%)
Mutual labels:  proxypool
Proxypool
高质量免费代理池——每日1w+代理资源滚动更新
Stars: ✭ 192 (+190.91%)
Mutual labels:  proxypool
Proxypool
跨语言IP代理池,Python实现。
Stars: ✭ 326 (+393.94%)
Mutual labels:  proxypool
Proxy Pool
爬虫代理IP池服务,可供其他爬虫程序通过restapi获取
Stars: ✭ 91 (+37.88%)
Mutual labels:  proxypool
Proxy pool
Python爬虫代理IP池(proxy pool)
Stars: ✭ 13,964 (+21057.58%)
Mutual labels:  proxypool
Python3Webcrawler
🌈Python3网络爬虫实战:QQ音乐歌曲、京东商品信息、房天下、破解有道翻译、构建代理池、豆瓣读书、百度图片、破解网易登录、B站模拟扫码登录、小鹅通、荔枝微课
Stars: ✭ 208 (+215.15%)
Mutual labels:  proxypool
Ok ip proxy pool
🍿爬虫代理IP池(proxy pool) python🍟一个还ok的IP代理池
Stars: ✭ 196 (+196.97%)
Mutual labels:  proxypool
http-proxy-amqp
an amqp connection pool implementation
Stars: ✭ 17 (-74.24%)
Mutual labels:  proxypool
Free Proxy List
Free proxy list, free proxy world - visit our website
Stars: ✭ 133 (+101.52%)
Mutual labels:  proxypool
BaiduSpider
项目已经移动至:https://github.com/BaiduSpider/BaiduSpider !! 一个爬取百度搜索结果的爬虫,目前支持百度网页搜索,百度图片搜索,百度知道搜索,百度视频搜索,百度资讯搜索,百度文库搜索,百度经验搜索和百度百科搜索。
Stars: ✭ 29 (-56.06%)
Mutual labels:  spiders
Proxypool
An Efficient ProxyPool with Getter, Tester and Server
Stars: ✭ 3,050 (+4521.21%)
Mutual labels:  proxypool
Spoon
🥄 A package for building specific Proxy Pool for different Sites.
Stars: ✭ 173 (+162.12%)
Mutual labels:  proxypool

Free_proxy_pool

对免费代理IP网站进行爬取,收集汇总为自己的代理池。其中关键是验证代理的有效性、匿名性、去重复。

  • 本代理池的定位是初学者能看懂,能使用的单机库。所以不打算使用高大上的Redis或者MongoDB等数据库。抓到的代理仅与磁盘文件交互。
  • 本项目无需安装,下载后查看example即可学会使用。简洁易用的get_a_proxy(),便于在请求网页的参数中直接使用。
  • 运行所依赖的第三方库:requests、bs4、lxml、chardet。
  • 爬虫组件<200行代码,把高可用率的代理网站一网打尽。如果爬虫全开,一次性可以采集高匿代理300--700个。
  • 下表数据仅表明各网站在某一时段的代理质量,每天不同时段会有波动,整体质量比较高。
代理网站 评估数 可用数 有效率 更新周期
66ip 536 113 21.1% 10分钟
89ip 600 79 11.7% 10分钟
爱家网 1274 105 8.2% 每天2篇
codebusy 278 84 30.2% 1分钟
小舒代理 534 78 14.6% 每天2篇
小河虾 600 70 11.7% 10分钟

如果感觉对您有帮助,欢迎给我加一个星星,或者fork。
为了避免大家浪费精力,经验证无实用价值的免费代理网站列举如下,是为“黑名单”:

Note that the project description data, including the texts, logos, images, and/or trademarks, for each open source project belongs to its rightful owner. If you wish to add or remove any projects, please contact us at [email protected].