当前位置：首页 > news >正文

RuntimeError: CUDA out of memory.【多种场景下的解决方案】

news 2025/6/28 0:55:51

RuntimeError: CUDA out of memory.【多种场景下的解决方案】

在这里插入图片描述

🌈 个人主页：高斯小哥
🔥 高质量专栏：【Matplotlib之旅：零基础精通数据可视化】
🏆🏆关注博主，随时获取更多关于深度学习、PyTorch、Python领域的优质内容！🏆🏆

🌵文章目录🌵

🚀 一、引言
🎯 二、多种场景下的解决方案
- 💡 1. 【首次运行完整项目时(如GitHub项目)报错】场景下的解决方案
- 💡 2. 【前几次都顺利执行，突然报错】场景下的解决方案
📚 三、参考文档
🌳 四、结尾

🚀 一、引言

随着深度学习的繁荣发展，GPU已成为推动这一浪潮的核心动力。🚀 然而，正如任何强大的工具一样，GPU也有其局限性。😅 其中最常见且令人头疼的问题之一就是CUDA内存溢出，或称为“RuntimeError: CUDA out of memory”。😖 这一错误不仅可能中断您宝贵的训练过程，🛑 还可能导致资源浪费和时间损失。💸🕰️ 但别担心，本文将带您深入了解CUDA内存溢出的多种场景，🔍 并提供实用的解决方案，💡 助您轻松驾驭GPU内存管理，🎯 让深度学习之路更加顺畅无阻！🚀💪

🎯 二、多种场景下的解决方案

💡 1. 【首次运行完整项目时(如GitHub项目)报错】场景下的解决方案

🔥 当您在尝试运行GitHub上的完整项目时，若遇到RuntimeError: CUDA out of memory错误，通常意味着GPU内存不足以处理当前的计算需求。以下是一系列针对此问题的实用解决方案。 💡

🔍【方案一】：调整批量大小

如果您👀当前的批量大小（Batch Size）大于1，建议逐步减小它。选择一个较小的批量大小，如从256减少到128、64或更低，通常能有效降低GPU内存的使用。同时，请确保🔄训练、测试和验证数据集都使用相同的批量大小。
即使当🔍批量大小已经设置为1时，如果仍然遇到内存溢出错误，您还有以下两种选择（但🔍首先，请确保已检查并处理【方案二和方案三】提到的情况）：
1. 💻 使用更高显存的GPU：考虑升级您的硬件设备或租赁具有更高显存的云服务器来进行训练。
2. 🛠️ 优化模型结构：通过减少模型层数、降低特征图维度或采用其他内存优化技术，使模型更轻量化。

🔍【方案二】：检查并避免不必要的GPU张量累积

🚫 在训练过程中，确保不要累积GPU上的张量，因为这会导致显存占用逐渐增加。例如，在记录每个batch的损失时，不要简单地将loss张量相加，而是应该提取其值并存储在CPU内存中。

报错代码关键片段示例：

total_loss = 0.0  # 初始化为浮点数，而不是GPU张量
for i in range(100):optimizer.zero_grad()output = model(data_input)loss = criterion(output)loss.backward()optimizer.step()total_loss += loss # 累积GPU上的张量

修正后的代码示例：

total_loss = 0.0  # 初始化为浮点数，而不是GPU张量
for i in range(100):optimizer.zero_grad()output = model(data_input)loss = criterion(output)loss.backward()optimizer.step()# 使用.item()提取loss的值，并将其添加到total_loss中total_loss += loss.item()

通过这样修改，您可以避免不必要的GPU显存占用，从而减少内存溢出的风险。 🔒

🔍【方案三】：释放未使用的缓存

🗑️ 在每个epoch或迭代结束后，使用torch.cuda.empty_cache()来释放未使用的CUDA缓存。这有助于回收不再需要的内存，为接下来的计算任务腾出空间。 🚀

希望这些解决方案能帮助您顺利运行GitHub项目！加油！💪

💡 2. 【前几次都顺利执行，突然报错】场景下的解决方案

🚨 当你遇到前几次执行都顺利，但突然报错的情况，首先要怀疑的是GPU显存溢出。🚨

🔍 为了诊断问题，你可以使用nvidia-smi命令来查看显存的占用情况，就像下图所展示的。

GPU显存占用情况

😵 从上图中我们可以看到，编号为7的GPU显存占用较高，这可能导致新任务无法分配足够的显存而报错。😵

🛠️ 针对这种情况，你可以尝试以下解决方案：

检查服务器使用情况：
- 多人共用服务器：👥 如果服务器由多人共用，可能存在其他用户占用大量显存的情况。你可以尝试切换到其他显存较充足的GPU上运行你的任务，通过设置环境变量CUDA_VISIBLE_DEVICES来实现，例如os.environ['CUDA_VISIBLE_DEVICES'] = "1"。
- 单人使用服务器：👤 若服务器仅由你一人使用，检查是否有其他程序或任务正在同一GPU上运行。🤔 如果有，考虑停止或暂停这些任务，释放显存给当前需要的任务。

希望这些解决方案能够帮助你快速定位和解决问题！💪💪