作业帮 > 数学 > 作业

亲身试验绝对真实:你的计算机会把16除以2算错!

来源:学生作业帮 编辑:作业帮 分类:数学作业 时间:2024/05/29 10:53:59
亲身试验绝对真实:你的计算机会把16除以2算错!
设备:CASIO计算机一台(型号:fx-82MS)
在正常模式下,不停的打 “4x4x4x4x4.”打到不能打为止,即40个4相乘(注:硬打4x4x4...不要打4的40次方),然后除2,不停的除,这时注意16除以2的结果,就不是8了而是8.000000001.好棒~哈哈
试了其他几个数字,就4和2会出现这个问题
试了许多同样版本的卡西欧,都是这样,保证我的卡西欧绝对正版.
计算器算错很正常啊,因为计算器是用2进制计算的,而且计算单元是有位数限制的,所以当你计算的数太大了只后,计算器内部用来表示数字的单元就不够用了,这时候如果你小数点之前的值太大,势必导致小数点之后的值变少,因此就不精确了.
你刚刚举的例子就是,算的数太大,导致小数点后出现偏差,当你再慢慢除回来,算到16除2的时候,偏差达到不能忽略的程度.(注意计算器是用2进制除的,因此除2其实并不能得到一个整数,但是后面的位都被忽略掉了)