知乎豆瓣怎样识别使用高匿代理爬虫的真实IP( 二 )


知乎豆瓣怎样识别使用高匿代理爬虫的真实IP
【豆瓣怎样识别使用高匿代理爬虫的真实IP】
由于问题描述中没有具体实例,所以这里不好具体分析,不过大致思路肯定没错!希望对你有所帮助。
——来自业余Coding的首答,哈哈哈~

■网友
答主你解决了没有,我也遇到了相同的问题,抓取某网站,髙匿全都报403了,浏览器打开也是403,但奇怪的是买其他网站的代理不会这样

■网友
请问答主现在问题解决了吗我和你遇到了一毛一样的问题而且是加了random的ua以及cookie的基础上搞了好久 如果解决了望不吝赐教
■网友
首先 你要知道它的反爬策略,肯定不是ip的问题,你缺其它模拟浏览器的信息。想爬站,就要完全模拟浏览器行为,信息不能缺。

■网友
我也遇到了同样的问题,UA我是抓了几十个,用random.choice随机挑出来一个,请求头里没有带cookie,但是被封之后,打开浏览器就要验证码,如果浏览器用上代理就不会,搞不懂是怎么回事

■网友
UA, cookie...

■网友
最近爬一个网站也碰到这种情况,猜测可能是类似 ipip.net 里面的代理识别吧,不知道怎么绕过,除非花钱买更高质量的?

■网友
我也遇到这个问题
我还以为代理ip没有设置好
看来是被捕获到真实ip了
不知道啥办法没


推荐阅读