
浮点计算精度出现的误差1.2-1.1虽然结果显示的是0.1,但是你抹黑公式,按F9看看,就会发现实际结果是0.0999999999999999,这是excel的硬伤,如果只是要个计算结果,倒无所谓,要是用来做标准,比如像你设置函数逻辑关系判断,就会出错了,这个只能在公式中加个round函数来舍入,或者尽量避免这种小数间的计算,做财会的可没少吃这种苦头

浮点计算精度出现的误差1.2-1.1虽然结果显示的是0.1,但是你抹黑公式,按F9看看,就会发现实际结果是0.0999999999999999,这是excel的硬伤,如果只是要个计算结果,倒无所谓,要是用来做标准,比如像你设置函数逻辑关系判断,就会出错了,这个只能在公式中加个round函数来舍入,或者尽量避免这种小数间的计算,做财会的可没少吃这种苦头
Copyright © 2018 - 2021 www.yd166.com., All Rights Reserved.