1. PTT
  2. MATLAB

[問題] 浮點數運算問題

作者: pw1212321 (小狼)   2015-09-16 20:19:19
請問在做浮點數運算的時候，
我將 0.600001 - 0.6 應該要得到 0.000001
但是使用format short 和 format long 所得到的答案不同
作者: sunev (Veritas)   2015-09-16 20:20:00
format 只影響顯示方式。
作者: pw1212321 (小狼)   2015-09-16 20:30:00
請問s大，最後面出現的28756是什麼原因造成的？
作者: tn00364361 (小氵斿)   2015-09-16 20:42:00
因為電腦是二進位的系統
作者: celestialgod (天)   2015-09-16 20:51:00
而且儲存位數有限
繼續閱讀
[其他]MATLAB與iPhone/Android整合直播研討會jaycinta[問題] 雜訊如何模擬產生wayne78117[問題] 修改座標不跑圖?organ63521[問題] 轉換平面圖?organ63521[討論] rc電路der5353[問題]擷取txt檔資料vincihihi[問題]檔案救援後程式碼變亂碼 linjin81117[討論] 請問如何省略某些程式碼randysuen[安裝] win 8.1安裝R2015a錯誤ts03396208[問題]關於分水嶺切割 loveworld705

Links booklink

Contact Us: admin [ a t ] ucptt.com