为什么 0.1 + 0.2 不等于0.3?如何解决这个问题?

x33g5p2x  于2022-03-01 转载在 其他  
字(1.9k)|赞(0)|评价(0)|浏览(196)

一、开头
我们都知道0.1 + 0.2 !== 0.3,而是0.30000000000000004,那么是为什么?我们都知道计算机在内部实现中使用的是二进制,0.1也是不例外的,此时我们将0.1转换为二进制数据表示可以表示为:0.0001100110011001100...(1100无限循环),0.2转换为二进制数据可以表示为0.00110011001100...(1100循环),此时这两个数均为无限循环小数,那么该如何去存储呢?
二、如何存储二进制小数
不同的语言可能会有不同的存储标准,javascript中所用到的整数和小数都使用Number类型来保存的,它的实现遵循IEEE 754标准,使用64位固定长度来保存,也就是双精度浮点数
双精度浮点数一共占64位
符号位占一位
指数为占11位
小数位占52位
所以小数部分加上前面的1,最多保存53位。剩余的也就舍去,遵循0舍1入。此时的二进制为:

0.00011001100110011001100110011001100110011001100110011010

同理我们得到0.2的舍去结果为:

0.0011001100110011001100110011001100110011001100110011010

两者相加得:

0.00011001100110011001100110011001100110011001100110011010 +
0.0011001100110011001100110011001100110011001100110011010 =
0.0100110011001100110011001100110011001100110011001100111

0.0100110011001100110011001100110011001100110011001100111的结果就是0.30000000000000004
三、浮点数如何保存
上面我们提到浮点数保存分为三个部分,分别时:符号位1位指数为11位小数位52位,并且小数按按照标准1.xxxxxx
下面我们看一个例子:

(78.375)10 = (1001110.011)2 = 1.001110011×2^6

这里的1.001110011×2^6就是科学计数法。这里符号位为0,指数部分为:110,001110011为小数部分。所以最终的结果为:

0(sign) 00000000110(exponent) 00111001 10000000 00000000 00000000 00000000 00000000 0000

按照上述方法:我们可以知道0.1的二进制和科学计数法为:

//二进制
0.00011001100110011001100110011001100110011001100110011001 10011...
//科学计数法
1.1001100110011001100110011001100110011001100110011001*2^-4

所以0.1的符号位:0,小数位为:1001100110011001100110011001100110011001100110011001,指数位为:-4,此时指数位的负数该如何表示。
四、指数部分为负数该如何保存
指数部分存在负数,根据标准可以将其转化为整数,我们使用11位二进制数据表示,则可以表示的范围是0 - 2047,此时IEEE规定指数需要加上一个偏移量为1023
1、此时如果指数不全为0,也不全为1:此时指数e最小为1 - 1023 = -1022,最大为:2046 - 1023 = 1023。此时范围为-1022-1023。此时我们在看78.735的指数部分正确表示为6 + 1023 = 1029

0 10000000101 00111001 10000000 00000000 00000000 00000000 0000000 0000

五、浮点数的范围
因为我们知道最大的指数为1023,此时最大的数为:
1.11111111(52位) * 2 ^ 1023,

其实和Number.MAX_VALUE差不多。
正无穷的数字应该为2 ^ 1024
六、javascript中最大安全的整数
所谓安全范围,就是我们在这个范围内计算不会出现精度的丢失。 根据双精度的定义,可以得知,最大的安全整数:

1.111111(52位)

应该为Math.pow(2, 53) - 1

七、如何解决误差问题
方法一:我们可以先将其转化为整数,运算之后,然后再将其转化为小数。
方法二:ES6中的Number.EPSILON
我们可以使用两数相加再减去目标数值,结果小于Number.EPSILON即可。

相关文章

微信公众号

最新文章

更多