作业帮【VB】数字计算中出现的问题
来源：学生作业帮 编辑：作业帮 分类：数学作业 时间：2024/05/09 11:24:16
【VB】数字计算中出现的问题
比如,a,b都是单精度浮点型
a=1.1
b=fix（a）
b=b-a
预期得到0.1
但是在类似的计算中通常会出现10^-8数量级的误差,怎样去除掉这个误差?
比如,a,b都是单精度浮点型
a=1.1
b=fix（a）
b=b-a
预期得到0.1
但是在类似的计算中通常会出现10^-8数量级的误差,怎样去除掉这个误差?
ound(b,1) 你要保留小数点几位 就更改1的值
再问： 关键不是保留几位小数。。。而是在保证精度的同时去除误差。。。计算方法课程里学到过。。。但是现在已经忘记了。。。
再答： 在电脑的世界里 浮点数的运算~都是有误差 你看看浮点数二进制如何表示 你就知道误差是难免的 采用round一般都可以用了 不知道你要多精确？应用到哪方面
再问： 主要是需要取的小数位在变化。。。有限位小数的减法运算也无法避免误差么。。。
再答： 浮点数的定义是什么 看来你得复习一下 其实你只要告诉我 你最终的目的 举一个实际的例子出来 为什么让你用round函数无法使用你目的 就能很好的帮你解决问题
再问： 额。。。目的不明确。。。只是在计算中出现这样的问题想要解决而已。。。对这些定义确实了解不够。。。谢谢了~
再问： 关键不是保留几位小数。。。而是在保证精度的同时去除误差。。。计算方法课程里学到过。。。但是现在已经忘记了。。。
再答： 在电脑的世界里 浮点数的运算~都是有误差 你看看浮点数二进制如何表示 你就知道误差是难免的 采用round一般都可以用了 不知道你要多精确？应用到哪方面
再问： 主要是需要取的小数位在变化。。。有限位小数的减法运算也无法避免误差么。。。
再答： 浮点数的定义是什么 看来你得复习一下 其实你只要告诉我 你最终的目的 举一个实际的例子出来 为什么让你用round函数无法使用你目的 就能很好的帮你解决问题
再问： 额。。。目的不明确。。。只是在计算中出现这样的问题想要解决而已。。。对这些定义确实了解不够。。。谢谢了~