Skip to content

重新估计了显存

刘骥安 requested to merge memory_estimate into master

具体计算过程在unified_memory分支，方便后续检查修改

统计结果为

l_NPE*l_e*l_wave + l_NPE*l_e + 3*l_e*l_s**2 + 3*l_e*l_s*(l_t + 2) + 6*l_e*l_s + 5*l_e*l_wave*(l_t + 2) + 5*l_e*l_wave + 2*l_e*(l_t + 2)**2 + l_e*(l_t + 2) + 63*l_e + l_e_acc*(l_t + 2)**2 + 6*l_e_acc*(l_t + 2) + 5*l_e_acc

在最后化简时

  • 将l_e_acc用l_e代替，将l_s用l_t代替
  • cp.linalg.solve没有计入估计

Merge request reports