[請問] excel會有奇怪的計算結果

作者: andy90498 (楓情)   2019-06-09 09:15:28
用VBA寫了一個計算分數的東西
原本看起來沒什麼問題
但是有幾格會多出很多莫名的小數點後好多位數
非常突兀
而且省略小數點或是無條件進位都不是我要的結果
所以我特地把最後加總的分數拆開來
並用msgbox表現出來
總共分三節
xxxx1 = 前半段
xxxx2 = 剩餘的後半段
xxxx3 = 把前面兩段加總起來
如圖
https://i.imgur.com/Icq5s0O.png
得到xxxx1的結果為
https://i.imgur.com/X5UvpgY.png
得到xxxx2的結果為
https://i.imgur.com/Z0ZKoUR.png
得到xxxx3的結果為
https://i.imgur.com/lQtfRMQ.png
求救
請問-15+15要怎麼樣才能得到1.4多的結果.......
作者: OrzOGC (洞八達人.拖哨天王)   2019-06-09 09:27:00
1.4x10的-14次方,應該是精度問題
作者: sa12e3   2019-06-09 10:21:00
office板或許會比較容易得到 您要的答案。個人認為也是精準度的設定造成了誤差。
作者: KEKEKUO   2019-06-09 11:02:00
><
作者: newacc (XD)   2019-06-09 11:15:00
google浮點誤差是電腦二進位造成的問題,目前沒有完美解決方案,可以用「小數點後n位四捨五入」做處理
作者: sa12e3   2019-06-09 11:44:00
解決方案應該是用一個欄位來處理浮點數且需要搭配回圈使用。
作者: wray (Rayf)   2019-06-09 20:41:00
這是正常的。你最後得到的數也是極為接近0的數。或許如樓上所說,加個四捨五入之類的來處理吧。

Links booklink

Contact Us: admin [ a t ] ucptt.com