作业帮 > 数学 > 作业

你用计算器按下啊.结果不对啊整数是对的余数不对啊

来源:学生作业帮 编辑:作业帮 分类:数学作业 时间:2024/05/14 03:14:43
你用计算器按下啊.结果不对啊整数是对的余数不对啊
不太明白你得到的结果是多少,2d413h = 185363,这个数除以5,余数就是3吧,或许你把你除出来的整数和余数都给我看看
再问: 185363我用计算器算出来的结果是37072.6 用那个程序走出来是37072.3
再答: 哦,这个问题有点不可思议,差别实在是大了点,一般来讲如果是计算过程中的取舍,精度不会降到如此之低。没有完整程序我也难给出精确答案,这其中还涉及到浮点数的表示问题,鉴于你这个还是16位的,问题就更不可琢磨,因为IEEE754的浮点数在MASM32中有标准实现,那个精确度可以保证。