Skip to content

调整显存计算，即时清理显存，从环境变量读显存上限

王宇逸 requested to merge dev/fix-from-osiris into master

这个 MR 解决了如下问题：

  • 显存占用的计算：更保守了一点。
  • 指定显存上限的方式：把 sel_GPU 放了进来。
  • 即时清理显存：这个比较重要，尤其对 FSMP 影响明显。只要每次循环结尾清理一下，有显著效果，几乎能完全清理。对 prior 效果不是那么明显，只能清理掉一半占用。

/cc @wuyy @wengjun

Closes #147 (closed)

Edited by 王宇逸

Merge request reports