Python 爬虫代码使用步骤：导入requests和BeautifulSoup库选择目标网站发送 HTTP 请求解析 HTML 文档根据 HTML 结构提取数据处理提取的数据

Python 爬虫代码使用指南

Python 爬虫是一种自动化工具，用于从网站提取数据。要使用爬虫代码，请按照以下步骤操作：

1. 导入必要的库

安装并导入必要的 Python 库，如：

立即学习“Python免费学习笔记（深入）”；

import requests
from bs4 import BeautifulSoup

2. 选择目标网站

确定要从其提取数据的网站。

3. 发送 HTTP 请求

macOS UI 自动化技能包 —— 用 Python 控制你的 Mac

让 macOS 自动化像说话一样简单 —— 用代码控制你的 Mac，无需学习 AppleScript 系统要求 macOS 14+ (Sonoma) Python 3.9+ 需要开启：辅助功能 + 屏幕录制权限

下载

使用 requests 库发送一个 HTTP 请求到目标网站。

response = requests.get(url)

4. 解析 HTML

使用 BeautifulSoup 库解析返回的 HTML 文档。

soup = BeautifulSoup(response.text, 'html.parser')

5. 提取数据

根据网站的 HTML 结构，使用适当的方法提取所需数据。例如，可以使用 find 或 find_all 方法：

data = soup.find_all('div', class_='product-name')

6. 处理数据

对提取的数据进行处理，如去除 HTML 标签、转换数据类型等。

product_names = [product.text.strip() for product in data]

示例代码：

import requests
from bs4 import BeautifulSoup

# 目标网站
url = 'https://www.example.com/products'

# 发送 HTTP 请求
response = requests.get(url)

# 解析 HTML
soup = BeautifulSoup(response.text, 'html.parser')

# 提取产品名称
product_names = [product.text.strip() for product in soup.find_all('div', class_='product-name')]

# 输出产品名称
for product_name in product_names:
    print(product_name)