[理工] 計組單精度浮點數 shinle14 PTT批踢踢實業坊

[理工] 計組單精度浮點數

作者: shinle14 2019-09-11 16:12:32

http://i.imgur.com/DvHo3Hx.jpg
請問這題d為什麼對呀？

作者: zuchang (chang) 2019-09-11 16:22:00

只有2的倍數可以表達 0.33這種數只能取相似1/3你沒辦法精確表示 1/2.1/4這種可以

作者: mathtsai (mathtsai) 2019-09-11 16:37:00

樓上 integer variable？

作者: ok8752665 (dd8752665) 2019-09-11 17:05:00

fraction只有23bit 例如你是30個連續1 後面有一段會被砍掉?

作者: zuchang (chang) 2019-09-11 17:17:00

https://i.imgur.com/qyuwPJm.jpg

作者: shinle14 2019-09-11 17:39:00

感謝大大回覆了解

繼續閱讀

離散 3-72題zxc2179vbnm [理工] 離散決策樹mistel [理工] 演算法mistel [理工] 線代第五章是非題mistel [理工] 線性映射shinle14 [理工] 線代題庫5-4！Aa841018 [理工] 演算法圖論 diameterouskit 離散 3-46題zxc2179vbnm [理工] 鴿籠shinle14 [理工] 線代_關於方陣多項式fmtshk

Contact Us: admin [ a t ] ucptt.com