[問題] 浮點數錯誤

作者: iread (初夏預言)   2020-11-02 15:53:21
我剛才在 Spyder 的 iPython console 做簡單的加法,會出現浮點數錯誤。
請問這個計算誤差要如何避開或消除?謝謝。
In [5]: 0.86 + 3.2
Out[5]: 4.0600000000000005
In [6]: 3.86 + 0.2
Out[6]: 4.06
https://imgur.com/XpcRrka
作者: oToToT (屁孩)   2020-11-02 16:13:00
改用decimal?
作者: aidansky0989 (alta)   2020-11-02 19:38:00
這很正常,高精度浮點計算要Decimal
作者: jackyhobingo (河馬元素表)   2020-11-09 13:20:00
ieee754可以了解一下

Links booklink

Contact Us: admin [ a t ] ucptt.com