[問題] 浮點數 round-off error

作者: SahsB (SahsB)   2014-11-17 19:56:53
用8-bit form 當例子(not IEEE standard)
假設對下面兩個浮點數進行加法
1 110 1011 <- a (-11/4)
+) 0 100 1101 <- b (13/16)
_____________
那在把 b 的指數對齊 a 的過程中
會得到 0 110 0011 還是 0 110 001101?
#即 round-off error 會發生在運算的過程中嗎?
#還是運算不受 mantissa 只有四位的限制?
假如是前面的 那算出來會是 -2.0
如果後面就變成 (-15/8)
這樣答案就不一樣了
請問實際上會是哪一種
有跟浮點數比較熟的板友可以幫忙一下下嗎QQ?
先謝謝了~

Links booklink

Contact Us: admin [ a t ] ucptt.com