搜狗微信数据爬取

【搜狗微信数据爬取】 我有一个方案,但估计你很难做到
八爪鱼是有做APP采集的
这个方案就是直接APP采集,直接采集APP公众号里面的文章
现在的搜索引擎算法都很聪明,你没有分布式的爬虫,很难突破


■网友
之前是访问过多,弹出验证码页面,输入后可以继续爬最近太频繁爬取的话就会返回你说的“未知错误,请稍后重试”,出现后更换代理IP就可以了。在爬公众号近500多个,每天定时任务5轮,已经稳定运行一段时间了搜狗微信数据爬取


■网友
搜狗还限制cookie。可以维护一个cookie库,代理数量不多的情况下,尝试一下cookie和ip轮流换。搜狗微信上的公众号不全,文章也不全,还是模拟微信登录好用。
■网友
“未知错误,请稍后重试”似乎是域http://mp.weixin.qq.com才有的提示,换ip即可;搜狗的反爬虫只是提示输入验证码。
■网友
账号链接打开看请求头里面没有cookie的事,不知道微信现在的反爬虫的机制是什么,
■网友
使用微信手机客户端爬取,已经实现了


    推荐阅读