和大家分享一個(gè)有趣的測(cè)試:
0.1+0.2 == 0.3 //false
頓時(shí)郁悶,好吧!原來(lái)0.1+0.2變成:0.30000000000000004
再來(lái)一個(gè) 2.4/0.8 =>2.9999999999999996 沒(méi)辦法換種方式,都轉(zhuǎn)換成整數(shù) (2.4 * 100)/(0.8 * 100)
10.22 現(xiàn)在要減去 0.11 結(jié)果值又出現(xiàn)了很多的小數(shù) 10.110000000000001,然后我就用了 toFixed 方法來(lái)過(guò)濾小數(shù),但是不知道跟前面那種轉(zhuǎn)換成整數(shù)后再執(zhí)行哪種效率高,好!還是試下再說(shuō)吧!
查了一些資料,一是 JavaScript 浮點(diǎn)數(shù)計(jì)算的 Bug,另一個(gè)是和計(jì)算機(jī)最終轉(zhuǎn)換成二進(jìn)制計(jì)算有關(guān)系,但是為什么不是所有小數(shù)都會(huì)有這種現(xiàn)象,目前我也不清楚,有時(shí)間再去深入研究一下。
解決方法:
解決這種問(wèn)題兩種方法,第一種就是利用JavaScript 的toFixed(n) 方法,直接獲取N 位小數(shù),不過(guò),個(gè)人覺(jué)得這種方法在數(shù)據(jù)精度上會(huì)有一些問(wèn)題。如果數(shù)據(jù)精度要求不高的話可以使用。
第二種方法就是自己編寫運(yùn)算方法。以下是自定義加法函數(shù),使用此方法進(jìn)行相加會(huì)避免上面問(wèn)題。
當(dāng)然,簡(jiǎn)單一點(diǎn)也可以寫成:alert((num * 3 + 10 * 3) /3); 這樣也不會(huì)出現(xiàn) N 多位小數(shù)。
alert((num * 3 + 10 * 3) /3); 與 alert(num + 10); 這兩種寫法計(jì)算機(jī)在底層轉(zhuǎn)換成二進(jìn)制運(yùn)算是有區(qū)別的,或許這就是出現(xiàn)上述問(wèn)題的原因,還有待我們?nèi)ド钊胙芯浚蠹铱梢远喽嘤懻摗?/p>
聲明:本網(wǎng)頁(yè)內(nèi)容旨在傳播知識(shí),若有侵權(quán)等問(wèn)題請(qǐng)及時(shí)與本網(wǎng)聯(lián)系,我們將在第一時(shí)間刪除處理。TEL:177 7030 7066 E-MAIL:11247931@qq.com