pytorch lightning ddp 逆天分配显存方式
很神奇。弄两卡DDP，竟然有一个卡32G，一个卡2G。我弄了一下午怀疑自己代码没写对。但是这个python进程应该是在py310我的环境下才对吧，然后ps aux| grep 发现怎么也没有这个14730的东西在我名下。我就kill掉了我的任务。发现这个python，没有环境，也不在我名下的python就是pytorch lightning ddp产生的任务。所以差不多就是均匀的显存。
但是卡0还是会多一些。不太清楚原因。
很神奇。弄两卡DDP，竟然有一个卡32G，一个卡2G。我弄了一下午怀疑自己代码没写对。但是这个python进程应该是在py310我的环境下才对吧，然后ps aux| grep 发现怎么也没有这个14730的东西在我名下。我就kill掉了我的任务。发现这个python，没有环境，也不在我名下的python就是pytorch lightning ddp产生的任务。所以差不多就是均匀的显存。
但是卡0还是会多一些。不太清楚原因。