爬虫,怎样突破Incapsula保护的网站

如果在网页上部码,收集用户浏览行为数据,然后用一个机器人识别模型进行分类,可以比较容易识别和屏蔽爬虫。为了尝试破解这样的网站,我在集搜客网络爬虫软件上增加了一个事件录制功能,在真人浏览这个网站的时候把鼠标和键盘事件等记录下来,形成一个样本库,然后提取一些特征,用这些特征建模。对于简单的模型,在这些特征上把成功和失败样本进行统计,就能形成一个模型,爬虫爬网页的时候根据这个模型去模拟人的行为,能突破一些网站情形
■网友
【爬虫,怎样突破Incapsula保护的网站】 其实最差的就是用selenium来完成,但是想知道这个事情解决的方法,不是直接模拟

■网友
扯一堆理论也许不符合你的特定网站,题主给个网址,才好针对性测试和回答。
■网友
最近在用爬虫爬网站也遇到这个问题,我现在是不清楚原理是什么,所以无从下手,之前试过一次通过cookie解决了,但现在又不行了。


    推荐阅读