Skip to content

fsmp.py: 取两次模。

Benda Xu requested to merge double-mod into master

遇到以下的特例,浮点数很小且为负,加上周期之后,会被约化到上界。必须再 取一次模才能回到 0。

np.float32(-7.1525574e-07) % np.float32(19.0) = 19.0
(np.float32(-7.1525574e-07) % np.float32(19.0)) % np.float32(19.0) = 0
Edited by Benda Xu

Merge request reports