用python爬取百度贴吧用户名和发言内容的问题咨询
抓包工具抓包,然后评论有盖楼,有互评,数据库表要设计好,爬数据的时候直接插数据库,可以将评论和用户名等hashcode,方便去重。百度贴吧反爬虫很菜
■网友
开启浏览器的开发者工具,然后点击“点击查看”和“下一页”,看看咋个进行http通信的。然后用代码模拟咯。譬如问题搜索页面:美胸 - 搜索结果 - 你打开后,下面有个“更多” ,我是用 IronsDu/Joynet以及 来实现这个加载更多。以及 如何评价 Dota 2 全新版本 7.0 ? 页面在浏览器中的瀑布效果(分批次加载),我是用 IronsDu/Joynet。 来实现分批次加载(用offset定位)具体还是你自己弄啦~~
推荐阅读
- 怎样成为一名合格的Python程序员?
- python 爬虫,咋获得输入验证码之后的搜索结果
- python的html5lib这个库咋使用啊我在网上也没有找到相关文档
- 零基础入门学习啥语言好
- Python3.4和3.5区别大么
- python 中 def_():...... return _有啥作用
- 新互联网网站用Java还靠谱么对比Php,Python,Ruby的话
- 30岁男,创业失败转行学python,是否很晚?也不好找工作?
- Python 的开发速度比 C#.net 或 Vb.net 更快吗?
- 16年毕业,建筑环境与设备工程专业,干的一直是工程想转IT专业,想从python入手请问咋开始学习
