扫码关注官方订阅号
图一是用Beautifulsoup直接解析出来的soup(没有经过筛选)图二是真实网页的代码各种解析器我都试过了,还是没能解决解析缩水的问题。
闭关修行中......
估计Ajax动态加载的,看network是否有Ajax请求或者使用selenium phantomjs 抓取
network
Ajax
selenium phantomjs
js动态加载的吧
bs只是用来解析html/xml代码。在你获取网页内容时没获取到js动态加载的内容(比如document.write啥的),用什么解析器都一样。可以试下一些动态爬虫工具,常见的有selenium,还有dryscrape,我个人比较喜欢ghost.py
selenium
dryscrape
ghost.py
动态网页的话是搞不定的
微信扫码关注PHP中文网服务号
QQ扫码加入技术交流群
Copyright 2014-2025 https://www.php.cn/ All Rights Reserved | php.cn | 湘ICP备2023035733号
PHP学习
技术支持
返回顶部
估计Ajax动态加载的,看
network是否有Ajax请求或者使用
selenium phantomjs抓取js动态加载的吧
bs只是用来解析html/xml代码。
在你获取网页内容时没获取到js动态加载的内容(比如document.write啥的),用什么解析器都一样。
可以试下一些动态爬虫工具,常见的有
selenium,还有
dryscrape,我个人比较喜欢ghost.py动态网页的话是搞不定的