讲师中心 微信公众号
AI工具推荐 视频效率加速

为什么Python运行TensorFlow脚本时CPU占用率过高而GPU却空闲?

阿涛小哥_8179

阿涛小哥_8179

发布时间:2026-08-09 06:07:37

|

667人浏览过

|

来源于php中文网

原创

根本原因是CPU预处理瓶颈而非GPU未识别:tf.data流水线未优化导致CPU打满、GPU空闲,需合理配置prefetch、cache、map并行数,限制TF及OpenCV/NumPy线程数,避免多库线程冲突。

为什么python运行tensorflow脚本时cpu占用率过高而gpu却空闲?

根本原因不是GPU没识别,而是CPU在数据准备阶段失控——线程开太多、预处理库抢核、内存拷贝阻塞,GPU只能干等。

tf.data管道卡在CPU预处理上

GPU空闲但CPU打满,90%以上情况是tf.data流水线没调好:shuffle、map、batch这些操作默认在CPU上串行执行,尤其当用了from_generator或自定义preprocessing函数时,容易变成单点瓶颈。

  • .prefetch(buffer_size=tf.data.AUTOTUNE)必须加,它让CPU准备下一批数据的同时GPU算当前批——不加就等于“做完一批再做下一批”
  • .cache()对固定数据集(如本地文件)非常有效,避免每轮重复解码;但对动态生成数据(如实时增强)反而拖慢
  • .map(..., num_parallel_calls=tf.data.AUTOTUNE)要显式启用,并确保map里函数本身不带OpenCV多线程(否则会和TF线程打架)

TensorFlow后台线程数失控

TF 2.x默认把intra_op和inter_op线程数都设成物理核心数,两个相乘可能生成上百线程,调度开销反超收益。更糟的是,一旦执行过任意TF操作(比如tf.constant(1)),再调tf.config.threading.set_intra_op_parallelism_threads()就完全失效。

  • 必须放在import tensorflow as tf之后、第一行张量创建之前
  • 设为1最稳;设为2~4适合混部环境;别信“按CPU核数配”的经验公式
  • 环境变量优先级更高:TF_NUM_INTRAOP_THREADS=2和TF_NUM_INTEROP_THREADS=2启动前就export,比代码设置更可靠

OpenCV/NumPy底层偷偷吃满CPU

很多人调了TF线程数没用,最后发现是cv2.imread、albumentations.Compose或scipy.ndimage内部启用了OpenMP,默认占满所有逻辑核——它们根本不听TF的线程配置。

Python Packaging
Python Packaging

深度Python打包工作流——pyproject元数据、依赖与可选额外项、构建后端、wheel、版本控制、发布及CI发布规范……

下载

立即学习“Python免费学习笔记(深入)”;

  • 在脚本最开头加:os.environ["OMP_NUM_THREADS"] = "1"、os.environ["OPENBLAS_NUM_THREADS"] = "1"
  • 如果用了OpenCV,还要加:cv2.setNumThreads(0)(设0表示禁用内部多线程)
  • torch.set_num_threads(1)对TF无效,别混用;TF只认自己的环境变量和tf.config

GPU没真正接管计算任务

即使tf.config.list_physical_devices("GPU")返回非空,也不代表模型在GPU上跑。TF会根据op注册情况自动 placement,但某些op(如自定义Python函数、部分稀疏操作)强制回退到CPU。

  • 用tf.debugging.set_log_device_placement(True)打开设备日志,看关键op(如MatMul、Conv2D)是否落在/GPU:0
  • 显存被占满但GPU-Util≈0?大概率是tf.data把数据全load进GPU memory却没触发计算——检查model.fit()输入是否直接用了tf.data.Dataset,而不是numpy array
  • 确认没手动指定with tf.device("/CPU:0"):这种硬绑定,也别在Keras层里写device="cpu"

真正卡点往往不在表面参数,而在多个库的线程策略叠加:TF开8个、OpenCV开16个、NumPy BLAS再开8个,三套调度器互相抢核。先htop -H看线程名归属,再针对性关,比盲目调num_parallel_calls管用得多。

热门AI工具

更多
讯飞绘文

讯飞绘文是一款由科大讯飞推出的一站式 AIGC 内容运营平台。

讯飞智作

讯飞智作是一款AI视频创作工具,AI文本配音工具,数字人课程、营销视频制作。

豆包大模型

豆包大模型是一款由字节跳动推出的企业级大语言模型服务平台。

DeepSeek

DeepSeek是一款面向对话、写作、编程和推理场景的AI大模型工具。

墨刀AI
墨刀AI Hot

一款AI图像与设计工具,主要用于产品经理的专属智能体,适合需要提升相关任务效率的用户。

Seko
Seko Hot

一款AI视频创作工具,主要用于商汤科技推出的创编一体的AI短视频创作Agent,适合需要提升相关任务效率的用户。

立刻MV
立刻MV Hot

立刻MV是一款AI文本写作工具,AI 音乐视频(MV)创作工具。

WorkBuddy

一款AI办公效率工具,主要用于腾讯云推出的AI原生桌面智能体工作台,适合需要提升相关任务效率的用户。

火山引擎

火山引擎是一款面向企业的云计算与AI服务平台。

相关专题

更多
python打包成可执行文件
python打包成可执行文件

本专题为大家带来python打包成可执行文件相关的文章,大家可以免费的下载体验。

1591

2023.07.20

python能做什么
python能做什么

python能做的有:可用于开发基于控制台的应用程序、多媒体部分开发、用于开发基于Web的应用程序、使用python处理数据、系统编程等等。本专题为大家提供python相关的各种文章、以及下载和课程。

3824

2023.07.25

format在python中的用法
format在python中的用法

Python中的format是一种字符串格式化方法,用于将变量或值插入到字符串中的占位符位置。通过format方法,我们可以动态地构建字符串,使其包含不同值。php中文网给大家带来了相关的教程以及文章,欢迎大家前来阅读学习。

1609

2023.07.31

python教程
python教程

Python已成为一门网红语言,即使是在非编程开发者当中,也掀起了一股学习的热潮。本专题为大家带来python教程的相关文章,大家可以免费体验学习。

22077

2023.08.03

python环境变量的配置
python环境变量的配置

Python是一种流行的编程语言,被广泛用于软件开发、数据分析和科学计算等领域。在安装Python之后,我们需要配置环境变量,以便在任何位置都能够访问Python的可执行文件。php中文网给大家带来了相关的教程以及文章,欢迎大家前来学习阅读。

2707

2023.08.04

python eval
python eval

eval函数是Python中一个非常强大的函数,它可以将字符串作为Python代码进行执行,实现动态编程的效果。然而,由于其潜在的安全风险和性能问题,需要谨慎使用。php中文网给大家带来了相关的教程以及文章,欢迎大家前来学习阅读。

2767

2023.08.04

scratch和python区别
scratch和python区别

scratch和python的区别:1、scratch是一种专为初学者设计的图形化编程语言,python是一种文本编程语言;2、scratch使用的是基于积木的编程语法,python采用更加传统的文本编程语法等等。本专题为大家提供scratch和python相关的文章、下载、课程内容,供大家免费下载体验。

1103

2023.08.11

python合并两个列表
python合并两个列表

Python是一种强大的编程语言,具有许多方便的功能和工具。在Python中,有多种方法可以合并两个列表。php中文网给大家带来了相关的教程以及文章,欢迎大家前来学习阅读。

596

2023.08.10

Buffalo框架数据库开发全教程
Buffalo框架数据库开发全教程

本专题围绕Buffalo框架数据库开发,讲解database.yml多环境配置、soda与fizz迁移生成回滚、模型结构体标签、增删改查与条件查询、一对多与多对多关联、数据校验、回调钩子、事务处理及原生SQL执行能力。

140

2026.09.23

热门下载

更多
网站特效
/
网站源码
/
网站素材
/
前端模板

精品课程

更多
相关推荐
/
热门推荐
/
最新课程
关于我们 免责申明 举报中心 意见反馈 讲师合作 广告合作 最新更新
php中文网:公益在线php培训,帮助PHP学习者快速成长!
关注服务号
PHP中文网订阅号
每天精选资源文章推送

Copyright 2014-2026 https://www.php.cn/ All Rights Reserved | php.cn