讲师中心 微信公众号

工具推荐

视频效率加速
剧云
剧云

中文短剧剧本制作平台

立刻MV
立刻MV

低成本歌曲 MV、视频生成

AniShort
AniShort

AI短剧协同制作平台

Laper
Laper

剧本策划到成片协作

Flask 中正确传递与渲染清洗后的爬虫数据教程

胖墨姑娘_8488

胖墨姑娘_8488

发布时间:2026-02-19 11:29:08

|

541人浏览过

|

来源于php中文网

原创

Flask 中正确传递与渲染清洗后的爬虫数据教程

本文详解如何在 flask 应用中将 python 爬取并清洗后的结构化数据(如简历信息)准确传递至 html 模板并渲染展示,重点解决因变量名不一致导致的模板渲染失败问题。

本文详解如何在 flask 应用中将 python 爬取并清洗后的结构化数据(如简历信息)准确传递至 html 模板并渲染展示,重点解决因变量名不一致导致的模板渲染失败问题。

在构建基于 Flask 的招聘数据采集系统时,一个典型流程是:用户通过 upload.html 选择岗位领域、上传含 LinkedIn URL 的 CSV 文件 → 后端调用爬虫模块抓取原始数据 → 经清洗模块标准化字段 → 最终在 display.html 中以表格形式呈现结果。然而,许多开发者会遇到“数据未显示”或“Jinja2 变量未定义”错误——其根本原因往往不是逻辑缺陷,而是模板中引用的变量名与视图函数返回的上下文键名不匹配。

回顾您提供的 Flask 路由代码:

@app.route('/upload', methods=['POST'])
def upload():
    file = request.files['file']
    df = pd.read_csv(file)
    data = scrape_data(df)           # 原始爬取数据(list of dicts)
    cleandata = clean_data(data)     # 清洗后数据(list of lists)
    return render_template('display.html', data=cleandata)

此处,render_template() 显式传入了关键字参数 data=cleandata,意味着模板中可通过 {{ data }} 或 {% for item in data %} 访问该变量。但您的 display.html 中却存在如下关键片段:

{% for item in data %}
  <tr>
    <td>{{ item["Name"] }}</td>
    <!-- 其他字段 -->
  </tr>
{% endfor %}

表面看似乎正确——但请注意:clean_data() 函数返回的是 df.values.tolist(),即一个二维列表(List[List[Any]]),而非原始的字典列表(List[Dict[str, Any]])。这意味着 item 实际上是类似 ['Alice Smith', 'Senior FrontEnd Developer', 'Remote', ...] 的列表,不支持 item["Name"] 这种键访问语法,会导致 TypeError: list indices must be integers or slices。

智能网页爬虫
智能网页爬虫

智能网页数据采集器,自动识别页面结构,批量抓取列表/表格/详情页数据,支持导出JSON/CSV/Excel,内置反爬策略适配。

下载

✅ 正确做法分两步:

1. 保持数据结构一致性(推荐)
修改 clean_data(),确保返回仍为字典列表,并保留字段名:

# data_cleaning.py
def clean_data(data):
    df = pd.DataFrame(data)

    # 清洗空值(注意:replace 需作用于字符串列,且避免误改嵌套结构)
    for col in ['Location', 'Experiences', 'Education', 'Certifications', 'Skills', 'Languages']:
        if col in df.columns:
            # 将空列表 [] 替换为字符串 "None",便于前端展示
            df[col] = df[col].apply(lambda x: "None" if isinstance(x, list) and len(x) == 0 else x)

    # 统一转小写(仅对字符串类型字段)
    str_cols = df.select_dtypes(include=['object']).columns
    for col in str_cols:
        df[col] = df[col].apply(lambda x: x.lower() if isinstance(x, str) else x)

    # 移除非字母数字字符(谨慎使用,避免破坏技能/证书名称中的空格和逗号)
    # df = df.replace(r'[^a-zA-Z\d,\s]', '', regex=True)

    # 关键:返回字典列表,而非二维列表
    return df.to_dict('records')  # ✅ 返回 List[Dict]

2. 在模板中使用正确的变量与访问方式
此时 display.html 中的循环可保持原样,但需确保字段名与清洗后 DataFrame 列名一致(默认继承自原始 scrape_data 输出):

<tbody>
  {% for item in data %}
  <tr>
    <td>{{ item.Name | default('N/A') }}</td>
    <td>{{ item.Title | default('N/A') }}</td>
    <td>{{ item.Location | default('N/A') }}</td>
    <td>{{ item.Experiences | join(', ') | default('N/A') }}</td>
    <td>{{ item.Education | join(', ') | default('N/A') }}</td>
    <td>{{ item.Certifications | join(', ') | default('N/A') }}</td>
    <td>{{ item.Skills | join(', ') | default('N/A') }}</td>
    <td>{{ item.Languages | join(', ') | default('N/A') }}</td>
  </tr>
  {% endfor %}
</tbody>

? 提示:使用 Jinja2 的 | default('N/A') 过滤器可优雅处理缺失值;对列表字段使用 | join(', ') 转为可读字符串。

⚠️ 重要注意事项:

  • 不要在 clean_data() 中调用 df.values.tolist():这会丢失列名,使模板无法按字段名索引。to_dict('records') 是更安全的选择。
  • 避免过度正则清洗:replace(r'[^a-zA-Z\d,\s]', '', regex=True) 会删除所有标点(包括技能间的逗号),建议仅对特定文本字段(如 Location)做轻量清洗。
  • 前端健壮性:LinkedIn 爬取结果可能含 None、空列表或嵌套结构,模板中务必用 | default 和 | join 处理,防止渲染崩溃。
  • 调试技巧:在路由中临时添加 print(type(cleandata), len(cleandata), cleandata[0] if cleandata else 'empty') 快速验证数据形态。

遵循以上规范,即可确保清洗后的高质量数据被准确、稳定地呈现于前端页面,真正实现“所爬即所见,所清即所显”。

热门AI工具

更多
豆包大模型

豆包大模型是一款由字节跳动推出的企业级大语言模型服务平台。

讯飞智作

讯飞智作是一款AI视频创作工具,AI文本配音工具,数字人课程、营销视频制作。

花生AI
花生AI Hot

一款AI视频创作工具,主要用于B站推出的AI视频创作工具,适合需要提升相关任务效率的用户。

Flowith
Flowith Hot

Flowith是一款基于画布和智能体工作流的 AI 协作工作空间。

WorkBuddy

一款AI办公效率工具,主要用于腾讯云推出的AI原生桌面智能体工作台,适合需要提升相关任务效率的用户。

DeepSeek

DeepSeek是一款面向对话、写作、编程和推理场景的AI大模型工具。

UpDream
UpDream Hot

一款AI视频创作工具,主要用于哔哩哔哩推出的自研AI视频创作工具,适合需要提升相关任务效率的用户。

超级简历WonderCV

一款AI办公效率工具,主要用于免费求职简历模版下载制作,应届生职场人必备简历制作神器,适合需要提升相关任务效率的用户。

Loomy
Loomy Hot

一款AI工具,主要用于科大讯飞发布的桌面级 AI 助理,比 OpenClaw 更易用、更安全!,适合需要提升相关任务效率的用户。

相关专题

更多
flask框架如何搭建
flask框架如何搭建

搭建步骤:1、安装Python和Pip;2、创建虚拟环境;3、安装Flask;4、创建Flask应用;5、运行应用;6、访问应用。想了解更多flask框架的相关内容,可以阅读本专题下面的文章。

4315

2024.06.27

Python Flask框架
Python Flask框架

本专题专注于 Python 轻量级 Web 框架 Flask 的学习与实战,内容涵盖路由与视图、模板渲染、表单处理、数据库集成、用户认证以及RESTful API 开发。通过博客系统、任务管理工具与微服务接口等项目实战,帮助学员掌握 Flask 在快速构建小型到中型 Web 应用中的核心技能。

6684

2025.08.25

Python Flask Web框架与API开发
Python Flask Web框架与API开发

本专题系统介绍 Python Flask Web框架的基础与进阶应用,包括Flask路由、请求与响应、模板渲染、表单处理、安全性加固、数据库集成(SQLAlchemy)、以及使用Flask构建 RESTful API 服务。通过多个实战项目,帮助学习者掌握使用 Flask 开发高效、可扩展的 Web 应用与 API。

336

2025.12.15

python中print函数的用法
python中print函数的用法

python中print函数的语法是“print(value1, value2, ..., sep=' ', end=' ', file=sys.stdout, flush=False)”。本专题为大家提供print相关的文章、下载、课程内容,供大家免费下载体验。

3420

2023.09.27

python print用法与作用
python print用法与作用

本专题整合了python print的用法、作用、函数功能相关内容,阅读专题下面的文章了解更多详细教程。

269

2026.02.03

js 字符串转数组
js 字符串转数组

js字符串转数组的方法:1、使用“split()”方法;2、使用“Array.from()”方法;3、使用for循环遍历;4、使用“Array.split()”方法。本专题为大家提供js字符串转数组的相关的文章、下载、课程内容,供大家免费下载体验。

1918

2023.08.03

js截取字符串的方法
js截取字符串的方法

js截取字符串的方法有substring()方法、substr()方法、slice()方法、split()方法和slice()方法。本专题为大家提供字符串相关的文章、下载、课程内容,供大家免费下载体验。

3144

2023.09.04

java基础知识汇总
java基础知识汇总

java基础知识有Java的历史和特点、Java的开发环境、Java的基本数据类型、变量和常量、运算符和表达式、控制语句、数组和字符串等等知识点。想要知道更多关于java基础知识的朋友,请阅读本专题下面的的有关文章,欢迎大家来php中文网学习。

6364

2023.10.24

Postman身份认证怎么配置
Postman身份认证怎么配置

本专题从实际API接口调试场景出发,讲解Postman身份认证的完整配置流程,包括常见认证协议介绍、授权参数设置、访问令牌填写、OAuth 2.0授权及认证失败排查,帮助用户正确完成接口授权与访问验证。

80

2026.11.06

热门下载

更多
网站特效
/
网站源码
/
网站素材
/
前端模板

精品课程

更多
相关推荐
/
热门推荐
/
最新课程
关于我们 免责申明 举报中心 意见反馈 讲师合作 广告合作 最新更新
php中文网:公益在线php培训,帮助PHP学习者快速成长!
关注服务号
PHP中文网订阅号
每天精选资源文章推送

Copyright 2014-2026 https://www.php.cn/ All Rights Reserved | php.cn