【规避内存不足问题】DefaultCPUAllocator: not enough memory: you tried to allocate 8000000 bytes. Buy new RAM

最新推荐文章于 2024-10-07 20:06:27 发布

繁华落尽，寻一世真情

最新推荐文章于 2024-10-07 20:06:27 发布

阅读量4.6w

点赞数 18

CC 4.0 BY-SA版权

文章标签： python

本文链接：https://blog.csdn.net/weixin_43509698/article/details/113916524

本文讲述了作者如何在资源有限的设备上通过调整批大小(batch_size)、减少多线程(num_workers)和深入理解内存分配问题来避免PyTorch模型训练时的内存溢出错误。重点在于找到`torch.utils.data.sampler`中`__iter__`方法的n参数调整技巧，以确保模型能在内存约束下正常运行。

摘要生成于 C知道，由 DeepSeek-R1 满血版支持，前往体验 >

【错误描述】

pytorch训练深度模型，由于本人自己的电脑很low，往往报内存不足，经常将dataloader中多线程num_workers置为0和将batch_size减小。但是在一次训练中将batch_size设置成1还是报错，最后采用修改源代码中统计字节参数，规避了内存不足的报错。

builtins.RuntimeError: [enforce fail at ..\c10\core\CPUAllocator.cpp:73] data. DefaultCPUAllocator: not enough memory: you tried to allocate 80000000000 bytes. Buy new RAM!