[問題] decimal 運算結果不正確

作者: ttsmarco (tts)   2015-01-14 22:43:50
最近遇到個很奇怪的現象
假設程式碼為:
decimal int_A = decimal.Parse("1000");
decimal int_B = 10;
decimal report_num = int_A - int_B;
label1.Text = report_num.ToString();
1000與10只是舉例,A與B實際上都是0~10000以內的整數
(日後數值可能有小數點下2~3位,所以用decimal)
但運算結果(leabl1)偶爾會不正確,不是多1就是少1
但這不是Double型別才會有的現象嗎?
還是問題是出在str轉decimal呢?
還請高手指點,3Q
作者: TobyH4cker (Toby (我要當好人))   2015-01-15 12:38:00
測試你的程式碼,沒遇到此問題,不過我是用 label1.Text = report_num.ToString();
作者: CrazyAngel (無口系天然呆)   2015-01-15 12:52:00
ToString 指定位數應該可以拿到比較精確的數字
作者: ttsmarco (tts)   2015-01-27 09:39:00
問題還未解決,請問還有什麼可能原因呢?

Links booklink

Contact Us: admin [ a t ] ucptt.com