python - 为什么Beautifulsoup解析出来的文本比真实网页文本少?
阿神
阿神 2017-04-18 10:15:08
[Python讨论组]

图一是用Beautifulsoup直接解析出来的soup(没有经过筛选)
图二是真实网页的代码
各种解析器我都试过了,还是没能解决解析缩水的问题。

阿神
阿神

闭关修行中......

全部回复(4)
天蓬老师

估计Ajax动态加载的,看network是否有Ajax请求
或者使用selenium phantomjs 抓取

伊谢尔伦

js动态加载的吧

伊谢尔伦

bs只是用来解析html/xml代码。
在你获取网页内容时没获取到js动态加载的内容(比如document.write啥的),用什么解析器都一样。
可以试下一些动态爬虫工具,常见的有selenium,
还有dryscrape,我个人比较喜欢ghost.py

迷茫

动态网页的话是搞不定的

热门教程
更多>
最新下载
更多>
网站特效
网站源码
网站素材
前端模板
关于我们 免责申明 举报中心 意见反馈 讲师合作 广告合作 最新更新 English
php中文网:公益在线php培训,帮助PHP学习者快速成长!
关注服务号 技术交流群
PHP中文网订阅号
每天精选资源文章推送
PHP中文网APP
随时随地碎片化学习

Copyright 2014-2025 https://www.php.cn/ All Rights Reserved | php.cn | 湘ICP备2023035733号