数字取整问题

# toFixed

toFixed的定义说起,来看ecmascript 规范 (opens new window)对toFixed的表述:

img

按上图中的步骤来演示一下(2.55).toFixed(1) = 2.5的处理过程。

x为2.55,小于102110^{21}1021,f为1,要使n÷10f−xn\div10^f-xn÷10f−x准确的数学值尽可能接近零,取n为25和n为26,

img

可以看到最接近零的应该是 -0.04999... ,故n为25,那么m为25,k为2,k−fk-fk−f为1,故a为2,则b为5,所以(2.55).toFixed(1)的结果为2.5

可以看出(2.55).toFixed(1)的结果是2.5而不是2.6,是25/10−2.55=−0.049999925/10-2.55=-0.049999925/10−2.55=−0.0499999... 引起,而25/10−2.5525/10-2.5525/10−2.55为什么不等于0.50.50.5,其原因和0.1+0.20.1+0.20.1+0.2不等0.30.30.3是一样;

但是在IE浏览器中,执行 25/10−2.5525/10-2.5525/10−2.55 和 26/10−2.5526/10-2.5526/10−2.55 的结果和在chrome和火狐浏览器中执行的结果是一样。这里只能推断IE浏览器中定义的toFixed不符合ecmascript 规范

# 自己实现

假设要四舍五入的数字为number,要保留n位小数,可以先用number∗10nnumber*10^nnumber∗10n ,然后用 Math.round()取整,最后在除去10n10^n10n,间接实现四舍五入。

另外toFixed()还有个自动补零的功能,也要实现一下,故下面简单封装了一个toFixed方法来实现四舍五入。

function toFixed(number, m) {
    if (typeof number !== 'number') {
        throw new Error("number不是数字");
    }
    let result = Math.round(Math.pow(10, m) * number) / Math.pow(10, m);
    result = String(result);
    if (result.indexOf(".") == -1) {
        result += ".";
        result += new Array(m + 1).join('0');
    } else {
        let arr = result.split('.');
        if (arr[1].length < m) {
            arr[1] = arr[1] += new Array(m - arr[1].length + 1).join('0')
        }
        result = arr.join('.')
    }
    return result
}
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
上次更新: 2022/04/15, 05:41:27
×