[算表] IF數值判斷錯誤

作者: hnjm8596 (帥帥a淫蟲)   2022-05-26 19:17:56
軟體: Excel
版本:365
利用IF進行數值的判斷,數值比較大的到時候就會顯示錯誤,如同下面兩張圖。
當利用500.1-500 會顯示Fail但是利用200.1-200時又會顯示pass,請問要怎麼解決這個問題
呢?
https://i.imgur.com/Zjze3vs.jpg
https://i.imgur.com/bO98htR.jpg
作者: kinomon (奇諾 Monster)   2022-05-26 19:52:00
B1的500.10是否為顯示進位後的結果?或A1是否為顯示捨去後的結果 即C1真的是0.1嗎?
作者: hnjm8596 (帥帥a淫蟲)   2022-05-26 19:58:00
k大 因為500和500.1是自己手動輸入上去的,所以應該不是顯示進位的問題。
作者: kinomon (奇諾 Monster)   2022-05-26 20:38:00
噢 是<=的關係不對 我搞錯應該是excel計算精度的關係你可以用round函數捨去浮點數
作者: newacc (XD)   2022-05-26 21:20:00
猜浮點誤差,用ROUND試試看
作者: suaveness (靜夏)   2022-05-26 21:20:00
同上,這是 Numeric precision 的問題,某種程度上算是Excel 的一個 bug,請用 round 處理掉你可以用評估公式,應該會看到兩個值實際上都不是 0.1
作者: mddc62 (多笨多健康)   2022-05-26 23:34:00
不只是excel 很多資料庫都有類似問題
作者: suaveness (靜夏)   2022-05-27 00:03:00
畢竟是國際標準,基本上都會有這個問題
作者: hnjm8596 (帥帥a淫蟲)   2022-05-27 06:35:00
了解,感謝以上各位的回答!

Links booklink

Contact Us: admin [ a t ] ucptt.com