什么是通用的数字修约规则?

admin2019-03-31  51

问题 什么是通用的数字修约规则?

选项

答案对某一个数字,根据保留数位的要求,将多余位数的数字按照一定规则进行取舍,这一过程称为数据修约。 (1)通用的修约规则为:以保留数字的末位为单位,末位后的数字大于0.5者,末位进一;末位后的数字小于0.5者,末位不变(即舍弃末位后的数字);末位后的数字恰为0.5者,使末位为偶数(即当末位为奇数时,末位进一;当末位为偶数时,末位不变) 修约的注意事项:不可连续修约,例如:要将7.691499修约到四位有效数字,应一次修约为7.691。若采取7.691499→7.6915→7.692是不对的。 (2)报告测量不确定度时,可以按通用的数字修约规则进行修约,有时为了保险起见,也可将不确定度的末位后的数字全都进位而不是舍去。 例如:uc=10.27mΩ,报告时取二位有效数字,为保险起见可取uc=11 mΩ。

解析
转载请注明原文地址:https://kaotiyun.com/show/mnvJ777K
0

相关试题推荐
最新回复(0)