作业帮 > 综合 > 作业

我用matlab计算 10^(-5) 减去 0.00001为什么不是0

来源:学生作业帮 编辑:作业帮 分类:综合作业 时间:2024/05/10 11:10:38
我用matlab计算 10^(-5) 减去 0.00001为什么不是0
写入a=10^(-5)-0.00001,得到的结果是a = -1.694065894508601e-021希望大家帮忙啊,
一般程序语言在设置数据类型时都有特定的规则,所以在跟0比较时很容易出错.通常的做法是设定一个误差限例如1e-5等.在matlab里面有规定误差限eps,在跟零判断时可以选择是否在误差限之内 例如 10^(-5)-0.00001 == eps 作为判断的条件
再问: 非常感谢你的回答,那有没有只需要在程序的开始输入,就能控制所有的计算精度的方法呢?我知道digits()和vpa,但是有没有不用每次都输入的呢?非常感谢
再答: 不好意思,这个我也不太清楚,也没有试过,你可以查一下资料,我想应该是可以的吧