爬虫一般用哪种代理比较好

爬虫选择IP代理不能盲目选择,这关系到我们采集效率的高低,主要需要满足以下几点:
1、IP池要大,众所周知,爬虫采集需要大量的IP,有的时候会每天需要几百万上千万的调用,如果IP数量不够,那爬虫的工作也无法进行下去。所以企业爬虫一般要找实测至少百万以上的IP,才能确保业务不受影响。
2、并发要高:爬虫采集一般都是多线程进行的,需要短期内内获取海量的IP,如果并发不够,会大大降低爬虫采集的数据。一般需要单次调用200,间隔一秒,而有些IP池,一次只能调用10个IP,间隔还要5秒以上,这样的资源只适合个人练手用,如果是企业用户就趁早放弃吧。
3、可用率要高:IP池不但要大IP可用率还得高,因为许多通过扫描公网IP得来的资源,有可能上千万的IP实际可用率不到5%,这样来看能用的IP就非常有限了,而且还会浪费大量的时间去验证IP的可用性,而优秀的爬虫http代理池的IP,一般要确保可用率在90%以上才行。
4、IP资源最好独享,其实这一项跟第三点有点类似,因为独享IP能直接影响IP的可用率,独享http代理能确保每个IP同时只有一个用户在使用,能确保IP的可用率、稳定性。
5、调用方便:这个是指有丰富的API接口,方便集成到任何程序里。
芝麻HTTP代理就能满足以上几点
爬虫一般用哪种代理比较好



■网友
极光代理服务器是自建机房,如下就是所覆盖的城市。
爬虫一般用哪种代理比较好



■网友
使用代理是最常用的IP层反-反爬虫方案。因为爬虫一般都是访问网页,推荐使用HTTP代理就可以了,记得要用高匿名的代理,普通代理会把请求方的源IP添加在HTTP请求头, 而高匿代理不会。
别用免费的或者所谓的“开放代理”,可用率太低,相信我,省那几个钱,最后只会浪费你的时间;
如果ip需求量大的话建议使用动态代理,短时效的,量多,最适合爬虫业务。
收费的代理有很多,直接百度一下就有很多推荐了,可以选择资历比较老的像站大爷,芝麻,蘑菇等,记得选对档次,不要选开放(垃圾)档的,那不是给爬虫用的,选私密那些的才可以。
不过老司机往往会喜欢用些新一点的代理,其实道理很简单,一个代理商在一段时间内资源是固定的,用的人越多,那么每个人分到的资源和服务相对来说也肯定会打折扣的,所以一个代理用一段时间后发现质量有所下降我会尝试换家冷门一点的代理,也许会有意想不到的效果,比如最近在用的亿洲HTTP代理,公司的小伙伴们反馈就很好。

■网友
爬虫代理分为两种
一种是国内的IP资源,免费的不建议考虑了,付费的服务商有非常多,每一家的收费方式和IP质量、数量都不同,基本上都提供免费的测试,可以先测试一下是否符合自己的需要
另一种是全球的IP,一般国外的服务商较多,但是因为有时差和语言的问题,使用和沟通起来不是很方便,国内的服务商只有一家Ipidea

■网友




作为一个苦逼的刚从公司跳槽的爬虫,我走之前顺便把之前使用过的IP代理公司推荐给你。
最开始的新手时期我用的还是快代理,当时是冲着名气去的,到底也是个老公司,固定IP质量还是可以的,IP存活时间也挺好的,半小时的也有,足够满足当时我的需要。但让我印象最深的是他们的客服,完完全全的技术控,回答问题感觉上就很直接,很专业。那为什么我要更换代理呢?那是因为——太,太,太……太贵了,小家小户的真是负担不起,不建议刚起步的来使用,大公司也要考虑一下成本啊。
后来我就换了站大爷代理,这个代理还是很好的,IP质量还是很不错,IP覆盖区域也很广。就是私密代理的限制太多了,而且他们不按量出售,都是包天的啊,包月的啊……感觉少了点选择。他们短效资源比较一般,让我感觉性价比不太高,公司还是可以考虑一下的


推荐阅读