[問題] int與float的問題

作者: andy15281528 (阿狄)   2019-01-29 22:34:56
開發平台(Platform): (Ex: Win10, Linux, ...)
Linux
編譯器(Ex: GCC, clang, VC++...)+目標環境(跟開發平台不同的話需列出)
GCC
問題(Question):
最近看到的題目
關於int與float的轉換問題
已知int為整數型態,float為浮點數,資料轉換會有遺失風險
宣告int放入16進位 0x7FFFFFFF
也就是10進位的2147483647
放入float型態後數值會+1
可是根據我對IEEE754的解釋
算出來的應該會是 2147483520 才對
另外一個疑問是
為什麼在main function
從float傳入到int變回 2147483647
但是pass by value傳入到function後
放入int型態和回傳都會是-2147483648
目前有從float浮點數運算,return架構去考量,但還是想不出原因
所以想要請教各位大大們
底下有完整程式碼及輸出可以參考
感激不盡
程式碼(Code):(請善用置底文網頁, 記得排版,禁止使用圖檔)
https://ideone.com/VXE1Hl
作者: stupid0319 (徵女友)   2019-01-29 22:44:00
int沒有2147483648這個數float精度好高,可能被優化到64bit的mmx暫存器上了如果都是放在FPU,或是MMX,是足夠放int整數值的
作者: LPH66 (-6.2598534e+18f)   2019-01-30 00:30:00
這裡什麼問題都沒有, 因為 2^32 可以被 float 表示IEEE 規定是 round to nearest (四捨五入)(這裡是二進位所以應該叫零捨一入, 不過就是這個概念)所以遺失的被零捨一入了, 那因為丟掉的都是一所以進位進位就變成 1.0000*2^32 是個可以完整在 float 裡儲存的數一個觀念: IEEE754 浮點數就是二進位的科學記號這裡用科學記號的概念來講就只是取固定位數後進行捨入大約就是十進位 99999999 取五位變成 1.0000*10^8 的感覺
作者: stupid0319 (徵女友)   2019-01-30 08:01:00
原po可以設計多個int跟float測試這有關暫存器的使用跟有沒回存回記憶體測了一下a代0x7FFFFFE0, float一樣出2147483648.00000精度還是有誤差的,不要亂用浮點數當int用原PO的理解其實是沒錯的,多測幾個數值
作者: suhorng ( )   2019-01-30 09:31:00
記得是 round to even, 在二進位不是零捨一入, 而是一可能捨去也有可能進位, 總之是要弄到偶數
作者: LPH66 (-6.2598534e+18f)   2019-01-30 15:31:00
就是這樣而已沒錯, 沿用我最後一行推文的類比來說就是 99999499 / 99999500, 同樣取五位前者捨去後者進位

Links booklink

Contact Us: admin [ a t ] ucptt.com