scrapy怎样获取动态加载页面的url?

动态网页一般两种思路 ,一是找到api接口伪装请求直接请求数据,另一种是没有办法模拟的时候需要渲染环境,具体怎么做和代码,请参考博客(scrapy下的js 渲染环境,官方已经给出解决方案)。(9)分布式下的爬虫Scrapy-关于ajax请求的分析应该如何做(10)分布式下的爬虫Scrapy-关于js渲染请求应该如何做(11)分布式下的爬虫Scrapy-关于js渲染的技巧应该如何做修改另外的话:其实现在的动态网页已经不是啥难题了,验证码,效率,思路才是重要的。
■网友
你再看看,它数据是如何加载的import jsonx = json.loads(response.xpath("//li").xpath("./@data-songitem").extract())print(x)
■网友
题主,我和你遇见了同样的问题,请问你解决了吗?
■网友
动态页面请使用 spynner,内置 webkit 引擎
■网友
【scrapy怎样获取动态加载页面的url?】 ajax加载的页面,使用Network标签页去分析请求的地址及参数规律,就能找到请求的规律了。


    推荐阅读