可配置爬虫涉及到了哪些技术

像八爪鱼这种所见即所得的配置采集规则,可以去试试吧
■网友
配置的爬虫程序如何搭建,这里写下个人经验一般需要开发两个项目后台管理界面爬虫程序这两个程序共同链接一个数据库。配置的话讲究的动态, 也可能是增删网站列表 也可能增减某网站存储的属性 既然要配置,就要搞清楚那些模块可以共用哪些是需要配置的共用模块就封装起来1 调度模块2下载 3存储需要配置的模块解析模块实现步奏数据库建设数据源表 编号,url ,开始时间, 时间间隔 解析规则表 (编号,外键数据源表 ,解析网站结构规则,存储的属性字段规则)存储,这个根据业务来吧 是文件还 数据库自己定,存储数据介质随意 mysql ,nosql 、file 都行前后台最简单的配合就是用json解析规则用json 存储也用json (省事,要求不高)不用json 就要动态的创建表和更新表字段了先读取解析规则,创建好需要的表,在进行采集
■网友
【可配置爬虫涉及到了哪些技术】 变色龙: https://github.com/lmyyyyyy/chameleon


    推荐阅读