Re: [請益] 請教AutoCAD 1.255問題

作者: sjgau (sjgau)   2016-05-25 10:10:51
分享個人的經驗
整數的運算結果,絕對沒有誤差。
浮點數的運算結果,一定會有誤差。
double x= 123.456;
儲存在 x 裡面的二進位表示,分別為
一個bit, 表示x的 +/-
11 個bits, 表示x 的二進位次方的數量級
52個bits , 表示 x 的 0.5 - 1.0 的精確度部分
也就是說, 123.456
作者: comelin99 (jason)   2016-06-07 12:54:00
感謝大大~這邊高手好的

Links booklink

Contact Us: admin [ a t ] ucptt.com