Yolo4 CUDA Error: out of memory

1.CUDA Error: out of memory darknet: ./src/cuda.c:36: check_error: Assertio `0' failed. 需要修改所使用的模型cfg文件中的subdivision的参数。 由subdivisions=8改成subdivisions=64。 subdivision：这个参数很有意思的，它会让你的每一个ba

YOLOv4训练提示 Out of memory! 网上的办法如果都解决不了，试试我的这个。 训练时候修改你自己的cfg文件中height和weight，往小改，官方为416，我改成960报以上错误。 height=960 weight=960 根本原因是，输入网络的图片尺寸越大，卷积核计算出最后的tensor的维度会过高，可以理解为参数爆炸，所以YOLO也不能处理过高分辨率的图片。 Think：想一个办法改进？ ...

CUDA out of memory问题通常发生在深度学习训练过程中，当GPU的显存不足以容纳模型、输入数据以及中间计算结果时就会触发。：深度学习模型尤其是大型模型，如Transformer或大型CNN，拥有大量的参数，这些参数在训练时需要被加载到GPU显存中。同时，如果批量大小（batch size）设置得过大，一次性处理的数据量也会增加，进一步加大显存的负担。

跑yolov4测试demo报错欢迎使用Markdown编辑器新的改变功能快捷键合理的创建标题，有助于目录的生成如何改变文本的样式插入链接与图片如何插入一段漂亮的代码片生成一个适合你的列表创建一个表格设定内容居中、居左、居右SmartyPants创建一个自定义列表如何创建一个注脚注释也是必不可少的KaTeX数学公式新的甘特图功能，丰富你的文章UML 图表FLowchart流程图导出与导入导出导入 with torch.no_grad(): 欢迎使用Markdown编辑器 RuntimeError: CUDA

在yolo训练的时候又去测试就会报错：cuda error: out of memory,  cuda.c  Assertion '0' failed.

CUDA out of memory.(已解决） 有时候我们会遇到明明显存够用却显示CUDA out of memory，这时我们就要看看是什么进程占用了我们的GPU。 按住键盘上的Windows小旗子+R在弹出的框里输入cmd，进入控制台。 nvidia-smi 这个命令可以查看GPU的使用情况，和占用GPU资源的程序。我们看到python再运行完以后没有释放资源导致GPU的内存满了。 可以...

Batch Size（批量大小）：批量大小是指在每次模型训练中同时处理的输入样本数量。Subdivisions（子分区）：子分区是将每个批量进一步划分为更小的部分进行处理的方式。通过使用子分区，可以减少 GPU 内存的需求，特别是当批量大小较大时。把subdivisions=8改成subdivisions=16，64，最好都是2的指数，并且要保证batch是subdivisions的整数倍。方法二：修改尾行 random 值 （默认值为1），此处修改为 ：random=0 （注：yolov3共有三处）

需要修改所使用的模型cfg文件中的subdivision的参数。 由subdivisions=8改成subdivisions=64。 subdivision：这个参数很有意思的，它会让你的每一个batch不是一下子都丢到网络里。而是分成subdivision对应数字的份数，一份一份的跑完后，在一起打包算作完成一次iteration。这样会降低对显存的占用情况。如果设置这个参数为1的话就是一...

RuntimeError: CUDA out of memory.不一定是现存不足；

Bug：RuntimeError: CUDA out of memory. Tried to allocate … MiB 解决方法： 法一： 调小batch_size，设到4基本上能解决问题，如果还不行，该方法pass。 法二： 在报错处、代码关键节点（一个epoch跑完…）插入以下代码（目的是定时清内存）： import torch, gc gc.collect() torch.cuda.empty_cache() 法三（常用方法）： 在测试阶段和验证阶段前插入代码 with torch.no_gr

点击上方“AI公园”，关注公众号，选择加“星标“或“置顶”作者：Nitin Kishore编译：ronghuaiyang导读一些可以尝试的解决“RuntimeError: CUDA Out of memory”的方案。当遇到这个问题时，你可以尝试一下这些建议，按代码更改的顺序递增：减少“batch_size”降低精度按照错误说的做清除缓存修改模型/训练在这些选项中，如果你使用的是预训练模型，则最容...

CUDA out of memory解决办法 当使用Pytorch GPU进行计算时经常遇到GPU存储空间过满，原因大致有两点： 1.Batch_size设置过大，超过显存空间 解决办法： 减小Batch_size 2.之前程序运行结束后未释放显存 解决办法： 按住键盘上的Win+R在弹出的框里输入cmd，进入控制台, 然后输入命令 nvidia-smi 查看GPU的使用情况，和占用GPU资源的程序，我们看到 PID 2492 运行着python占用很大空间 可以使用如下命令杀死进程 taskkill

本文对于采用CPU/LAPTOP-GPU如何加快训练进程，会有较为明确的描述和解决方法，如果目前你存在设备算力差等类似情况的话，相信参考本文的步骤进行尝试是能够解决的。

使用：CUDA_VISIBLE_DEVICES限制一下使用的GPU。CUDA_VISIBLE_DEVICES=0,1 则使用这两张GPU。CUDA_VISIBLE_DEVICES=0 则使用第一张GPU。CUDA_VISIBLE_DEVICES=1，则使用第二张GPU。如何设置CUDA_VISIBLE_DEVICES？例如：有两块GPU，即0,1号GPU，查阅资料，发现是显卡内存不足。

模型跑完想再跑一遍的时候居然给我报“CUDA out of memory”，很明显，我的显卡虽然菜，但起码还是可以跑的，毕竟刚跑完，那就可能是python在运行完以后没有释放资源，导致GPU的内存满了。 如果是这样的话，那解决的方法就很简单了，直接把进程杀死就行。 首先在C:\Program Files\NVIDIA Corporation\NVSMI位置打开命令行，然后输入nvidia-smi（也可以用nvidia-smi.exe -l 1，每秒更新CUDA使用情况），显示当前gpu的使用情况如下： 显

1.查看CUDA使用情况。 在C:\Program Files\NVIDIA Corporation\NVSMI位置打开命令行，然后输入nvidia-smi.exe -l 1，可每秒更新CUDA使用情况，如图所示。 2.本机的CUDA显存为2048MiB，当前使用为67MiB，运行模型后，发现当前CUDA使用情况超过2048MiB，解决方法为减小batch_size的大小（减小后结果可能会变差），若减小batch_size后CUDA显存还是不足或者是结果很差，那么就放弃使用GPU，使用CPU就行了。