110.54-112.64+2.1不是应该等于0吗.为什么计算机excel里用公式算这个的答案是5.77316E-15

来源:学生作业帮助网 编辑:作业帮 时间:2024/04/29 11:53:17
110.54-112.64+2.1不是应该等于0吗.为什么计算机excel里用公式算这个的答案是5.77316E-15

110.54-112.64+2.1不是应该等于0吗.为什么计算机excel里用公式算这个的答案是5.77316E-15
110.54-112.64+2.1不是应该等于0吗.为什么计算机excel里用公式算这个的答案是5.77316E-15

110.54-112.64+2.1不是应该等于0吗.为什么计算机excel里用公式算这个的答案是5.77316E-15
应该是110.54-112.65+2.1吧
这是excel的浮点运算造成的,也就是二进制和十进制转换时候产生的误差,2进制表示小数的时候只能够表示能够用1/(2^n)的和的任意组合,有些小数比如0.1在二进制下是无穷的循环数,无法精确表示,所以产生了个很小的误差