作业帮 > 数学 > 作业

EXCEL2007公式计算错误,计算数据相差0.0000000000000028

来源:学生作业帮 编辑:作业帮 分类:数学作业 时间:2024/05/05 03:31:39
EXCEL2007公式计算错误,计算数据相差0.0000000000000028

C3的公式为=(B3-A3)/16,C3计算正确,向下拖动后下面的几个数据都有误差,这是什么原因?
这是计算机浮点机算造成的误差,属于计算机的先天不足,无法从根本上解决问题.
可在公式中套入四舍五入函数,如:
=ROUND((B3-A3)/16,3)