网页爬虫 - python爬取网络小说 中文‘乱码’
迷茫
迷茫 2017-04-17 17:22:06
[Python讨论组]
  1. python爬取网络小说 中文‘乱码’,因为不知道是否是乱码,所以加了引号

  2. 代码如下
    # -- coding:utf8 --
    from bs4 import BeautifulSoup
    import requests

    url = "http://www.cishuge.com/read/0/250/"
    web_data = requests.get(url)
    soup = BeautifulSoup(web_data.text, 'lxml')

    titles = soup.select('#readerlist > ul > li > a')
    for title in titles:

       data = {
           'title': title.get('title'),
           'link': title.get('href')
       }
       print(data)
  3. 目标网页为http://www.cishuge.com/read/0/250/

  4. 运行结果如下图所示

链接能正常显示,文章标题貌似‘乱码’
百度下没找到解决方法,特来求助各位前辈

补充:运行环境 windows10, python3, pycharm

迷茫
迷茫

业精于勤,荒于嬉;行成于思,毁于随。

全部回复(2)
巴扎黑
<meta http-equiv="Content-Type" content="text/html; charset=gbk" />
web_data.encoding = "gbk" 
ringa_lee

1、看一下别人网站的编码
2、需要转码就转码
参考 https://github.com/bravekingzhang/moveSpider/blob/master/dyspider/html_downloader.py

热门教程
更多>
最新下载
更多>
网站特效
网站源码
网站素材
前端模板
关于我们 免责申明 意见反馈 讲师合作 广告合作 最新更新 English
php中文网:公益在线php培训,帮助PHP学习者快速成长!
关注服务号 技术交流群
PHP中文网订阅号
每天精选资源文章推送
PHP中文网APP
随时随地碎片化学习
PHP中文网抖音号
发现有趣的

Copyright 2014-2025 https://www.php.cn/ All Rights Reserved | php.cn | 湘ICP备2023035733号