讲师中心 微信公众号
AI工具推荐 视频效率加速

如何使用 Beautiful Soup 正确提取网页中的所有分类链接

冬枫君_7226

冬枫君_7226

发布时间:2025-12-31 19:52:04

|

670人浏览过

|

来源于php中文网

原创

如何使用 Beautiful Soup 正确提取网页中的所有分类链接

本文详解为何 `find_all(class_="side_categories")` 返回单个 `

` 而非预期的链接列表,并提供两种可靠方法(css 选择器与嵌套 `find`/`find_all`)精准定位并提取图书网站的所有分类 url。

当你调用 soup.find_all(class_="side_categories") 时,Beautiful Soup 确实返回了一个 ResultSet(本质是类列表对象),但它只包含一个匹配的 <div> 元素——因为整个页面中该 class 仅出现一次。这个 <div> 是分类导航的容器,而非你要的每个分类链接本身。因此你看到的是一个包裹了完整嵌套 HTML 的单元素列表,而非可直接遍历的 <a> 标签集合。

要获取所有分类链接(即 <a> 标签),需进一步在该容器内查找目标元素。以下是两种推荐做法:

Article To Html
Article To Html

文章转信息图。将文章/笔记转化为手机可读的 HTML 信息图,自动匹配视觉风格。触发场景:文章转图、笔记转图、信息图、转小红书图、做张图、可视化这篇文章、文生图。

下载

✅ 方法一:使用 CSS 选择器(推荐,简洁高效)

from bs4 import BeautifulSoup
import requests

url = "http://books.toscrape.com/"
page = requests.get(url)
soup = BeautifulSoup(page.text, "html.parser")

# 直接定位所有位于 .side_categories 内的 <a> 标签(层级更精确)
for link in soup.select('.side_categories li a'):
    href = link.get('href')
    if href:  # 防止 None 值
        full_url = url.rstrip('/') + '/' + href.lstrip('/')
        print(full_url)

✅ 方法二:链式查找(语义清晰,易理解)

# 先找到容器,再在其内部查找所有 <a> 标签
side_nav = soup.find(class_='side_categories')
if side_nav:
    for link in side_nav.find_all('a'):
        href = link.get('href')
        if href:
            full_url = url.rstrip('/') + '/' + href.lstrip('/')
            print(full_url)
⚠️ 注意事项:find() 返回单个 Tag 对象(或 None),而 find_all() 返回 ResultSet(可迭代);使用 select() 或 find_all() 时,务必确认选择器路径是否准确(如 .side_categories li a 表示“class 为 side_categories 的元素下的所有 li 中的 a”);处理 href 时建议做空值检查(link.get('href') 可能为 None),并规范化 URL 拼接(避免双斜杠 //);若需提取分类名称(如 “Travel”, “Mystery”),可用 link.get_text(strip=True) 替代 link.get('href')。

通过以上任一方法,你将获得真正的可迭代链接列表,轻松完成后续数据采集任务。核心原则是:先定位容器,再聚焦目标;避免对容器本身调用 find_all,而应在容器内查找子元素。

热门AI工具

更多
DeepSeek

DeepSeek是一款面向对话、写作、编程和推理场景的AI大模型工具。

Lovart
Lovart Hot

一款面向视觉设计创作的AI设计平台,可通过智能体和画布工作流辅助制作海报、Logo、网页、PPT及其他视觉内容。

立刻MV
立刻MV Hot

立刻MV是一款AI文本写作工具,AI 音乐视频(MV)创作工具。

WorkBuddy

一款AI办公效率工具,主要用于腾讯云推出的AI原生桌面智能体工作台,适合需要提升相关任务效率的用户。

PixTV
PixTV Hot

PixTV是一款面向AIGC内容创作的AI视频生成工具。

豆包大模型

豆包大模型是一款由字节跳动推出的企业级大语言模型服务平台。

AionClaw
AionClaw Hot

AionClaw是一款面向办公、创作和编程任务的AI桌面智能体。

火山引擎

火山引擎是一款面向企业的云计算与AI服务平台。

蛙蛙写作

一款AI论文写作工具,主要用于超级AI智能写作助手,适合需要提升相关任务效率的用户。

相关专题

更多
class在c语言中的意思
class在c语言中的意思

在C语言中,"class" 是一个关键字,用于定义一个类。想了解更多class的相关内容,可以阅读本专题下面的文章。

3796

2024.01.03

python中class的含义
python中class的含义

本专题整合了python中class的相关内容,阅读专题下面的文章了解更多详细内容。

306

2025.12.06

OpenJDK JVM参数怎么调优
OpenJDK JVM参数怎么调优

Java应用运行缓慢,如何调整JVM参数?本专题介绍OpenJDK JVM性能调优的基本流程,涵盖性能指标确认、运行数据采集、内存配置和垃圾回收分析,帮助你先定位瓶颈,再通过对照测试验证效果,避免直接套用参数而影响应用稳定性。

0

2026.10.16

OpenJDK怎么配置Java开发环境
OpenJDK怎么配置Java开发环境

怎样用OpenJDK搭建开发环境?本专题介绍版本选择、下载安装、环境变量配置和编译运行验证,帮助你理清JDK的作用及基本配置流程,并通过简单程序检查环境是否可用,为后续项目开发做好准备。

0

2026.10.16

OpenJDK怎么部署Java应用
OpenJDK怎么部署Java应用

Java项目开发完成后,怎样部署到目标环境并正常运行?本专题介绍OpenJDK应用部署流程,涵盖运行环境准备、版本兼容检查、应用打包、启动参数配置和日志查看,帮助你理清部署前后的操作顺序,减少环境差异造成的运行问题。

0

2026.10.16

Revel框架模板渲染与表单验证
Revel框架模板渲染与表单验证

本专题围绕Revel框架视图层开发,介绍模板语法、变量输出、布局复用、表单提交、参数绑定与验证规则,帮助开发者完成安全规范的页面交互。

0

2026.10.16

Revel框架MVC路由与控制器
Revel框架MVC路由与控制器

本专题聚焦Revel框架MVC核心机制,讲解路由定义、控制器Action、参数绑定、请求响应和反向路由,并结合常见场景梳理接口请求处理流程。

0

2026.10.16

Revel框架入门与安装配置
Revel框架入门与安装配置

本专题从Revel框架环境搭建讲起,系统介绍命令行工具安装、项目创建、目录结构、配置文件及热代码重载,帮助开发者快速完成首个Go Web应用。

0

2026.10.16

Linux 新手先学哪些命令
Linux 新手先学哪些命令

Linux新手命令专题汇集终端基础、文件目录操作、文本查看、软件安装和权限管理等入门文章,帮助按实际任务练习常用命令并建立命令行操作习惯。

0

2026.10.15

热门下载

更多
网站特效
/
网站源码
/
网站素材
/
前端模板

精品课程

更多
相关推荐
/
热门推荐
/
最新课程
Sass 教程
Sass 教程

共14课时 | 1.5万人学习

Bootstrap 5教程
Bootstrap 5教程

共46课时 | 5.9万人学习

CSS教程
CSS教程

共754课时 | 97.4万人学习

关于我们 免责申明 举报中心 意见反馈 讲师合作 广告合作 最新更新
php中文网:公益在线php培训,帮助PHP学习者快速成长!
关注服务号
PHP中文网订阅号
每天精选资源文章推送

Copyright 2014-2026 https://www.php.cn/ All Rights Reserved | php.cn