实验数据处理之有效数字运算规则.pdf
《实验数据处理之有效数字运算规则.pdf》由会员分享,可在线阅读,更多相关《实验数据处理之有效数字运算规则.pdf(3页珍藏版)》请在淘文阁 - 分享文档赚钱的网站上搜索。
1、有效数字运算规则间接测量的计算过程即为有效数字的运算过程,存在不确定度的传递问题。严格说来,应根据间接测量的不确定度合成结果来确定运算结果的有效数字。但是在没有进行不确定度估算时,可根据下列的有效数字运算法则粗略地算出结果。有效数字运算总的原则是:运算结果只保留一位(最多两位)欠准确数字。1加减运算根据不确定度合成理论,加减运算结果的不确定度,等于参与运算的各量不确定度平方和的开方,其结果大于参与运算各量中的最大不确定度。如:N x y2UNUx2UyUx(或Uy)因此,加减运算结果的有效数字的末位应与参与运算的各数据中不确定度最大的末位对齐,或根据有效数字与不确定度的关系,计算结果的欠准确数
2、字与参与运算的各数值中最先出现的欠准确数字对齐。下面例题中在数字上加一短线的为欠准确数字。【例 3】32.1 3.235和116.9 1.652的计算结果各应保留几位数字?【解】先观察一下具体计算过程:32.13.23535.335116.91.652115.248可见,一个数字与一个欠准确数字相加或相减,其结果必然是欠准确数字。例 3 中各数值最先出现欠准确数字的位置在小数点后第一位,按照运算结果保留一位欠准确数字的原则32.1 3.23535.31 1 6.9 1.6 5 2 1 1 5.2分别为三位有效数字和四位有效数字,2乘除运算乘除运算结果的相对不确定度,等于参与运算各量的相对不确定
3、度平方和的开方,因此运算结果的相对不确定度大于参与运算各量中的最大相对不确定度。我们知道,有效数字位数越少,其相对不确定度越大。所以,乘除运算结果的有效数字位数,与参与运算各量中有效数字位数最少的相同。【例 4】1.11111.11的计算结果应保留几位数字?【解】计算过程如下:1.11111.111 1 1 1 11 1 1 111 1 1 111.2 3 3 3 2 1因为一个数字与一个欠准确数字相乘,其结果必然是欠准确数字。所以,由上面的运算过程可见,小数点后面第二位的“3”及其后的数字都是欠准确数字。按照保留一位欠准确数字的原则1.11111.111.23为三位有效数字。这与上面叙述的乘
4、除运算法则是一致的。即在该例中,五位有效数字与三位有效数字相乘,计算结果应为三位有效数字,即与有效数字位数少的相同。除法是乘法的逆运算,取位法则与乘法相同,这里不再举例说明。对于一个间接测量,如果它是由几个直接测量值通过相乘除运算而得到的,那么,在进行测量时应考虑各直接测量值的有效数字位数要基本相仿,或者说它们的相对不确定度要比较接近。如果相差悬殊,那么精度过高的测量就失去意义。3乘方、立方、开方运算运算结果的有效数字位数与底数的有效位数相同。4对数、三角函数运算前面介绍的有效数字四则运算法则,是根据不确定度合成理论和有效数字的定义总结出来的。所以,对数、三角函数的计算必须按照不确定度传递公式
- 配套讲稿:
如PPT文件的首页显示word图标,表示该PPT已包含配套word讲稿。双击word图标可打开word文档。
- 特殊限制:
部分文档作品中含有的国旗、国徽等图片,仅作为作品整体效果示例展示,禁止商用。设计者仅对作品中独创性部分享有著作权。
- 关 键 词:
- 实验 数据处理 有效 数字 运算 规则
限制150内