PTT
Submit
Submit
選擇語言
正體中文
简体中文
PTT
Programming
[問題] 有關truncation error
作者:
wa007123456
(大笨羊)
2014-10-28 20:32:46
最近在讀計概
有一塊地方我不是很清楚
那就是"捨位誤差"(truncation error)
比如說0.3好了(十進位)
0.01001
用定點數來看
假設8bit的數字
bit4~7表示小數
得小數部分0.1001 (二進位)
但因超過4digit( 8 digit 代表正負)
經過捨位 變成 0100
而這裡就是我想問的
第五位是1 為什麼不可以進位成0101
而是 0100 呢?
感謝回答!
繼續閱讀
[問題] Unicode文字顯示
Peruheru
[請益]PHP寫入DB的錯誤訊息請教
nightsmile
[問題] 有辦法在MFC中攔截Win32API的訊息嗎??
CrazyKill
[問題] 全世界最大的程設論壇是哪一個???
CrazyKill
[問題] 關於socket server負載均衡
tas72732002
[問題] 請問C/C++ 如何將資料1bit 1bit的讀進檔
edward15241
[問題] robots.txt處理
walelile
[問題] 關於多執行緒疑問
tas72732002
Re: [問題] Golang iterate callback
hSATAC
Re: [問題]用遞迴寫一個PowerSet,求解釋
yauhh
Links
booklink
Contact Us: admin [ a t ] ucptt.com