Excel单元格中的小数点的计算,从来都是头疼的问题。
如果原本有三位小数点,现仅保留两位小数点,那么,肯定就会出现四舍五入的问题,这样,在计算的时候,其结果精度是不高的。
另外一种情况是,考虑到数据的位数的显示,万一舍弃部分小数点,仅保留一两位小数点,那么,在计算上,精度也是不高的。
说得简单点就是:如何消除缩位后的计算误差,有时我们输入的数字是小数点后两位数,但是在精度要求上只要一位,缩位后显示没问题,但其计算结果却是有误差的。
解决方法是:单击“工具”→“选项”→“重新计算”
选中“以显示值为准”(),这样计算结果就没有误差了。
计算精度误差剖析:
事实上并不是计算上有误差,而是显示设置的四舍五入。
采用本技巧提供的方法,可以解决显示中的问题,但同时会改变数值的精度,在使用前Excel会给你一个警告。