爬虫,怎样突破Incapsula保护的网站
如果在网页上部码,收集用户浏览行为数据,然后用一个机器人识别模型进行分类,可以比较容易识别和屏蔽爬虫。为了尝试破解这样的网站,我在集搜客网络爬虫软件上增加了一个事件录制功能,在真人浏览这个网站的时候把鼠标和键盘事件等记录下来,形成一个样本库,然后提取一些特征,用这些特征建模。对于简单的模型,在这些特征上把成功和失败样本进行统计,就能形成一个模型,爬虫爬网页的时候根据这个模型去模拟人的行为,能突破一些网站情形
■网友
【爬虫,怎样突破Incapsula保护的网站】 其实最差的就是用selenium来完成,但是想知道这个事情解决的方法,不是直接模拟
■网友
扯一堆理论也许不符合你的特定网站,题主给个网址,才好针对性测试和回答。
■网友
最近在用爬虫爬网站也遇到这个问题,我现在是不清楚原理是什么,所以无从下手,之前试过一次通过cookie解决了,但现在又不行了。
推荐阅读
- 聪明人养花,这3种“花”怎样也要养一盆,每年能省不少医药费
- 泰州■超燃!泰州港货物吞吐量突破3亿吨!
- “中国最冷小镇”呼中最低温突破-40℃
- 河北煤炭全链条快速抽检能力取得新突破研制仪器填补国内空白
- 互联网怎样解决“家政服务上门速度慢”的问题
- 怎样看待从1月8号起,QQ钱包开始提现收费
- 银行it人怎样转型
- 汽车|冬天怎样让车内温度快速升高?座椅加热的最佳使用方式二,外循环的作用总结
- 怎样进入通信行业
- 怎样评价扶他柠檬茶的小说《云养汉》的结尾
