[問題] 有關truncation error

作者: wa007123456 (大笨羊)   2014-10-28 20:32:46
最近在讀計概
有一塊地方我不是很清楚
那就是"捨位誤差"(truncation error)
比如說0.3好了(十進位)
0.01001
用定點數來看
假設8bit的數字
bit4~7表示小數
得小數部分0.1001 (二進位)
但因超過4digit( 8 digit 代表正負)
經過捨位 變成 0100
而這裡就是我想問的
第五位是1 為什麼不可以進位成0101
而是 0100 呢?
感謝回答!

Links booklink

Contact Us: admin [ a t ] ucptt.com