有效数字修约规则幻灯片.ppt

《有效数字修约规则幻灯片.ppt》由会员分享，可在线阅读，更多相关《有效数字修约规则幻灯片.ppt（44页珍藏版）》请在淘文阁 - 分享文档赚钱的网站上搜索。

1、有效数字修约规则第1页，共44页，编辑于2022年，星期六数值修约一、数值修约的概念及意义二、数值修约的基础知识三、数值修约规则及注意事项四、数值运算规则第2页，共44页，编辑于2022年，星期六一、数值修约的概念及意义1.1.测量及测量结果2.2.数值修约的概念及意义第3页，共44页，编辑于2022年，星期六1.测量、测量结果（1）测量、测量结果uu测量是以确定量值为目的的一组操作。量值是由一个数（值）乘以测量单位所表示的特定量的大小。测量有间接和直接之分：直接测量的结果可直接测到而不必通过函数计算；而间接测量的结果需将直接测量的结果代入函数计算才能得到。第4页，共44页，编辑于2022年，

2、星期六uu由测量所得的赋予被测量的值称为测量结果。例如，用分析天平称得一个试样的质量为用分析天平称得一个试样的质量为 1.1080g，1.1080g就是一个测量结果。就是一个测量结果。uu由测量与测量结果的概念可看出，测量结果可由测量与测量结果的概念可看出，测量结果可表示如下：表示如下：测量结果=数（值）单位量值uu根据误差公理，测量总是存在误差的，测量结果只能是接近于测量真值的估计值，因而表示测量结果的数（值）是含有误差的数（值），就是说，表示测量结果的的数值是一个近似值。第5页，共44页，编辑于2022年，星期六（1）数值修约的概念uu对某一表示测量结果的数值（拟修约数），根据保留位数的要

3、求，将多余的数字进行取舍，按照一定的规则，选取一个近似数（修约数）来代替原来的数，这一过程称为数值修约。2.数值修约的概念及意义第6页，共44页，编辑于2022年，星期六uu（2 2）数值修约的意义数值修约的意义uua.a.出于准确表达测量结果的需要。出于准确表达测量结果的需要。uu测量结果大都是通过间接测量得到的，间接测量的测量结果大都是通过间接测量得到的，间接测量的结果通常是通过计算得出的，其组成数字往往较多，结果通常是通过计算得出的，其组成数字往往较多，但具体测量的精度是确定的，就是说表示合理表征但具体测量的精度是确定的，就是说表示合理表征测量结果的数字个数应是确定的，最终提供的测量测量

4、结果的数字个数应是确定的，最终提供的测量结果应合理反映这一点，故此，通过对计算方法和结果应合理反映这一点，故此，通过对计算方法和直接测量得到的数据的分析，得到合理的保留位数，直接测量得到的数据的分析，得到合理的保留位数，将多余的数字进行取舍以得到合理反映测量精度的将多余的数字进行取舍以得到合理反映测量精度的测量结果，即进行数值修约就非常必要。另外，即测量结果，即进行数值修约就非常必要。另外，即使采用直接测量，有时在提供测量程序要求的但高使采用直接测量，有时在提供测量程序要求的但高于实际测量精度的测量结果时也需要进行合理的数于实际测量精度的测量结果时也需要进行合理的数值修约。值修约。第7页，共4

5、4页，编辑于2022年，星期六uub.在进行具体的数值计算前，对参加计算的数值进行修约，可简化计算，降低计算出错的机会。uu如：4.789612.13102.4387926=?uu若不先进行数值修约就直接计算，繁琐且容易出错。若在计算前先按数值修约规则进行修约，舍去多余参与计算的数值之中没有意义的数字，则计算会简单得多，计算也就不容易出错。第8页，共44页，编辑于2022年，星期六二、数值修约的基础知识1.有效数字2 修约间隔3.修约数位及确定修约位数的表达方确定修约位数的表达方式式 第9页，共44页，编辑于2022年，星期六1.有效数字 1.1 1.1有效数字有效数字uu有效数字是指在分析和

6、测量中所能得到的有实际意义的数字。有效数字是指在分析和测量中所能得到的有实际意义的数字。测量结果是由有效数字组成的（前后定位用的测量结果是由有效数字组成的（前后定位用的“0 0”除外）。除外）。uu我们来看前面的测量结果我们来看前面的测量结果1.1080g1.1080g，组成数字，组成数字1 1、1 1、0 0、8 8、0 0都是实际测读到的，它们是表示试样质量大小的，都是实际测读到的，它们是表示试样质量大小的，因而都是有实际意义的。因而都是有实际意义的。uu有效数字的前几位都是准确数字，只有有效数字的前几位都是准确数字，只有最后一位是可疑数最后一位是可疑数字字。uu如前述的如前述的1.108

7、01.1080，前几位数字前几位数字1 1、1 1、0 0、8 8都是称量读到的都是称量读到的准确数字，而最后一位数字准确数字，而最后一位数字0 0则是在没有刻度的情况下估读出则是在没有刻度的情况下估读出来的，是不准确的或者说可疑的。来的，是不准确的或者说可疑的。第10页，共44页，编辑于2022年，星期六uu有效数字是处于表示测量结果的数值的不同数位上。有效数字是处于表示测量结果的数值的不同数位上。所有有效数字所占有的数位个数称为所有有效数字所占有的数位个数称为有效数字位数有效数字位数。uu例例1 1：数值：数值3.53.5，有两个有效数字，占有个位、十分位两，有两个有效数字，占有个位、十分

8、位两个数位，因而有效数字位数为两位；个数位，因而有效数字位数为两位；3.5013.501有四个有效数有四个有效数字，占有个位、十分位、百分位等四个数位，因而是四位字，占有个位、十分位、百分位等四个数位，因而是四位有效数字。有效数字。uu测量结果的数字，其有效位数反映了测量结果的精确测量结果的数字，其有效位数反映了测量结果的精确度，它直接与测量的精密度有关。这也是有效数字实度，它直接与测量的精密度有关。这也是有效数字实际意义的体现，是非常重要的体现。际意义的体现，是非常重要的体现。uu例如前述例子中，若测量结果为例如前述例子中，若测量结果为1.1080g1.1080g，则表示测量值，则表示测量值

9、的误差在的误差在1010-4-4量级上，天平的精度为万分之一；若测量量级上，天平的精度为万分之一；若测量结果为结果为1.108g1.108g，则表示测量值的误差在，则表示测量值的误差在1010-3-3量级上，量级上，天平的精度为千分之一。天平的精度为千分之一。第11页，共44页，编辑于2022年，星期六 2.2 有效数字位数的确定原则uu由于有效数字的位数反映了测量结果的精确度，它直接与测量的精密度有关。因此，在科学实验和生产活动中正确记录有效数字，不能多写或少写，多写了不能正确反映测量精度，则该数据不真实，因而也就不可靠；少写损失测量精度度。另外，能够正确判定表示测量结果的数中那些数字是有效

10、数字，确定有效数字位数就显得非常重要。这也是在计量认证过程中，有效数字位数的确定往往成为考核内容之一的原因。第12页，共44页，编辑于2022年，星期六uu在确定有效数字位数时应遵循下列原则：uu（1）数值中数字19都是有效数字。uu（2）数字“0”在数值中所处的位置不同，起的作用也不同，可能是有效数字，也可能不是有效数字。判定如下：uu1）“0”在数字前，仅起定位作用，不是有效数字。如，0.0257中，“2”前面的两个“0”均非有效数字。0.123、0.0123、0.00123中“1”前面的“0”也均非有效数字。第13页，共44页，编辑于2022年，星期六uu2）数值末尾的“0”属于有效数字

11、。如0.5000中，“5”后面的三个“0”均为有效数字；0.5000中，“5”后面的一个“0”也是有效数字。特例：见第4）条。3）数值中夹在数字中间的“0”是有效数字。如数值1.008中的两个“0”是均是有效数字；数值8.01中间的“0”也是有效数字。第14页，共44页，编辑于2022年，星期六uu4）以“0”结尾的正整数，“0”是不是有效数字不确定，应根据测试结果的准确度确定。如3600，后面的两个“0”如果不指明测量准确度就不能确定是不是有效数字。测量中遇到这种情况，最好根据实际测试结果的精确度确定有效数字的位数，有效数字用小数表示，把“0”用10的乘方表示。如将3600写成3.6103表

12、示此数有两位有效数字；写成3.60103表示此数有三位有效数字；写成3.600103表示此数有四位有效数字。第15页，共44页，编辑于2022年，星期六uu试看下面各数据的有效数字位数：uu1.0008 43383 五位有效数字uu0.5000 20.76%四位有效数字uu0.0257 15410-10 三位有效数字uu53 0.0070 二位有效数字uu0.02 210-10 一位有效数字uu3600 100 有效数字位数不定第16页，共44页，编辑于2022年，星期六2.修约间隔uu修约间隔又称修约区间或化整间隔，系确定修约保留位修约间隔又称修约区间或化整间隔，系确定修约保留位修约间隔又称

13、修约区间或化整间隔，系确定修约保留位修约间隔又称修约区间或化整间隔，系确定修约保留位数的一种方式。修约间隔一般以数的一种方式。修约间隔一般以数的一种方式。修约间隔一般以数的一种方式。修约间隔一般以k k k k1010n n（k k k k=1=1，2 2，5 5；n n为整数）的形式表示，将同一为整数）的形式表示，将同一为整数）的形式表示，将同一为整数）的形式表示，将同一k k值的修约间隔，简值的修约间隔，简值的修约间隔，简值的修约间隔，简称为称为称为称为“k k k k”间隔。间隔。间隔。间隔。uu修约间隔的数值一经确定，修约值即应为该数值的修约间隔的数值一经确定，修约值即应为该数值的修约

14、间隔的数值一经确定，修约值即应为该数值的修约间隔的数值一经确定，修约值即应为该数值的整数倍。整数倍。整数倍。整数倍。例例例例1 1：如指定修约间隔为：如指定修约间隔为：如指定修约间隔为：如指定修约间隔为0.10.1，修约值即应在，修约值即应在，修约值即应在，修约值即应在0.10.1的整的整的整的整数倍中选取，相当于将数值修约到一位小数。数倍中选取，相当于将数值修约到一位小数。数倍中选取，相当于将数值修约到一位小数。数倍中选取，相当于将数值修约到一位小数。例例例例2 2：如指定修约间隔为：如指定修约间隔为：如指定修约间隔为：如指定修约间隔为100100，修约值即应在，修约值即应在，修约值即应在，

15、修约值即应在100100的的的的整数倍中选取，相当于将数值修约到整数倍中选取，相当于将数值修约到整数倍中选取，相当于将数值修约到整数倍中选取，相当于将数值修约到“百百百百”数位。数位。数位。数位。第17页，共44页，编辑于2022年，星期六3.修约数位及确定修约位数的表达方式确定修约位数的表达方式uu修约时拟将拟修约数的哪一位数位后部分按修约规则修约时拟将拟修约数的哪一位数位后部分按修约规则舍去，则该数位就是舍去，则该数位就是修约数位修约数位。uu数值修约时需要先明确修约数位，数值修约时需要先明确修约数位，确定修约位数的表确定修约位数的表确定修约位数的表确定修约位数的表达方式如下：达方式如下：

16、达方式如下：达方式如下：uu（1 1）指明具体的修约间隔。指明具体的修约间隔。uu如指明将某数按如指明将某数按0.20.2（210210-1-1）修约间隔修约、）修约间隔修约、100 100（1101102 2）修约间隔修约等。）修约间隔修约等。uu（2 2）指定将拟修约数修约至某数位的指定将拟修约数修约至某数位的0.10.1、0.20.2或或0.50.5个单位。个单位。uu（3 3）指明按）指明按“k k k k”间隔间隔间隔间隔将拟修约数修约为几位有效将拟修约数修约为几位有效数字，或修约至某数位。这时数字，或修约至某数位。这时“1 1”间隔可不必指明，间隔可不必指明，但但“2 2”间隔和间

17、隔和“5 5”间隔必须指明。间隔必须指明。第18页，共44页，编辑于2022年，星期六三、数值修约规则1.GB8170-87数值修约规则2.通用修约方法第19页，共44页，编辑于2022年，星期六1.GB8170-87数值修约规则uu测量结果的数据处理是测量过程的最后环节，由于测量结果含有测量误差，测量结果的有效位数应保留适宜，太多会使人误认为测量精度很高，同时也会带来计算上的繁琐；太少则会损失测量准确度。测量、计算结果的数值应按数值修约规则（GB8170-87）规定进行修约。第20页，共44页，编辑于2022年，星期六uuGB8170-87数值修约规则规定的修约规则如下：uu3.1 拟舍弃数

18、字的最左一位数字小于5时，则舍去，即保留的各位数字不变。uu例1：将12.1498修约到一位小数，得12.1。uu例2：将12.1498修约成两位有效位数，得12。第21页，共44页，编辑于2022年，星期六uu3.2 拟舍弃数字的最左一位数字大于5；或者是5，而其后跟有并非全部为0的数字时，则进一，即保留的末位数字加1。uu例1：将1268修约到“百”数位，得13102（特定时可写为1300）。uu例2：将1268修约成三位有效位数，得12710（特定时可写为1270）。uu例3：将10.502修约到个数位，得11。uu注：“特定时”的涵义系指修约间隔或有效位数明确时。第22页，共44页，编

19、辑于2022年，星期六uu3.3 拟舍弃数字的最左一位数字为5，而右面无数字或皆为0时，若所保留的末位数字为奇数(1,3,5,7,9）则进一，为偶数（2,4,6,8,0）则舍弃。uu例1：修约间隔为0.1（或10-1)拟修约数 修约值 1.050 1.0 0.350 0.4第23页，共44页，编辑于2022年，星期六uu例2：修约间隔为1000（或103)拟修约数 修约值 2500 2103（特定时可写为（特定时可写为2000)2000)3500 4103 （特定时可写为（特定时可写为4000)4000)uu例3：将下列数字修约成两位有效位数 拟修约数 修约值 0.0325 0.032 325

20、00 32103(特定时可写为特定时可写为32000)32000)第24页，共44页，编辑于2022年，星期六uu3.4 负数修约时，先将它的绝对值按上述3.1-3.3规定进行修约，然后在修约值前面加上负号。uu例例1 1：将下列数修约到：将下列数修约到“十十”数位数位 拟修约数拟修约数 修约值修约值 -355 -3610 -355 -3610（特定时可写为（特定时可写为-360)-360)-325 -3210 -325 -3210（特定时可写为（特定时可写为-320)-320)uu例例2 2：将下列数修约成两位有效位数：将下列数修约成两位有效位数 拟修约数拟修约数 修约值修约值 -365 -

21、3610 -365 -3610（特定时可写为（特定时可写为-360)-360)-0.0365 -0.036 -0.0365 -0.036uu注：以上注：以上4 4条为修约间隔为条为修约间隔为“1 1”时的修约规则。时的修约规则。第25页，共44页，编辑于2022年，星期六uu5 5 0.50.5单位修约与单位修约与单位修约与单位修约与0.20.2单位修约单位修约单位修约单位修约uu必要时，可采用必要时，可采用0.50.5单位修约和单位修约和0.20.2单位修约。单位修约。uu5.1 5.1 0.50.5单位修约单位修约uu将拟修约数乘以将拟修约数乘以2 2，按指定数位依，按指定数位依3.1-3

22、.43.1-3.4规则修约，规则修约，所得数再除以所得数再除以2 2。uu例如：将下列数修约到个数位的例如：将下列数修约到个数位的0.50.5单位（或修约单位（或修约间隔为间隔为0.50.5）拟修约数拟修约数 乘乘2 2A2 2A修约值修约值 A A修约值修约值 (A)(A)（2A2A）（修约间隔为（修约间隔为1 1）（修约间隔为（修约间隔为0.5)0.5)60.25 120.50 120 60.060.25 120.50 120 60.0 60.38 120.76 121 60.560.38 120.76 121 60.5-60.75 -121.50 -122 -61.0-60.75 -12

23、1.50 -122 -61.0第26页，共44页，编辑于2022年，星期六uu5.2 0.2单位修约uu将拟修约数乘以5，按指定数位依3.1-3.4规则修约，所得数值再除以5。uu例如：将下列数修约到“百”数位的0.2单位（或修约间隔为20）拟修约数拟修约数 乘乘5 5A5 5A修约值修约值 A A修约值修约值（A A）（5A5A）（修约间隔为）（修约间隔为100100）（修约间隔为）（修约间隔为2020）830 4150 4200 840830 4150 4200 840842 4210 4200 840842 4210 4200 840 -930 -4650 -4600 -920 -930

24、 -4650 -4600 -920第27页，共44页，编辑于2022年，星期六2.通用数值修约方法uuGB8710-87数值修约规则分别规定了“1”、“2”和“5”间隔的修约规则。但计算比较繁琐，对“2”和“5”间隔的的修约还需进行计算。uu这里介绍一种适用于所有修约间隔的修约方法，只需直观判断简单易行。第28页，共44页，编辑于2022年，星期六uu该方法如下所述：如果为修约间隔整数培的一系列数中，只有一个数最接近于拟修约数，则该数就是修约数。uu例如，将1.150001按0.1修约间隔进行修约。此时，与拟修约数1.150001邻近的为修约间隔整数倍的数有1.1和1.2（分别为修约间隔的11

25、倍和12倍），然而只有1.2最接近于拟修约数，因此1.2 就是修约数。第29页，共44页，编辑于2022年，星期六uu将1.015修约至十分位的0.2单位。修约间隔为0.02。1.00和1.02中，1.2最接近于拟修约数，因此1.02是修约数（为修约间隔的51培）。uu将1.2505按“5”间隔修约至十分位。修约间隔为0.5。1.0和1.5中，1.5是修约数（为修约间隔的3培）。第30页，共44页，编辑于2022年，星期六uu 如果为修约间隔整数培的一系列数中，有连续两个数同等接近于拟修约数，则这两个数中，为修约间隔偶数培的数就是修约数。uu例如，将1150按100修约间隔行修约。此时，与拟修

26、约数1150邻近的为修约间隔整数倍的数有1100和1200（分别为修约间隔的11倍和12倍），这两个数同等接近于拟修约数，然而1200为修约间隔的偶数培（12倍），因此1200 就是修约数。第31页，共44页，编辑于2022年，星期六uu又如：将1.500按0.2修约间隔修约。结果为1.6。uu再如：将1.025按“5”间隔修约三位有效数字。结果为1.00。第32页，共44页，编辑于2022年，星期六uu需要指出的是：一个数据的修约只能进行一次，不能分次修约。uu例如：修约15.4546，修约间隔为1。uu正确的做法：15.454615uu不正确的做法：15.454615.45515.4615

27、.516第33页，共44页，编辑于2022年，星期六四、数值运算规则第34页，共44页，编辑于2022年，星期六uu在一个具体的测量过程中，一般都要经过在一个具体的测量过程中，一般都要经过在一个具体的测量过程中，一般都要经过在一个具体的测量过程中，一般都要经过多个多个多个多个测量的环节，测量的环节，测量的环节，测量的环节，而每个测量的环节都有具体的测量数据，如砂子表观密度测定而每个测量的环节都有具体的测量数据，如砂子表观密度测定而每个测量的环节都有具体的测量数据，如砂子表观密度测定而每个测量的环节都有具体的测量数据，如砂子表观密度测定时称量比重瓶与水、试样的总质量，倾出试样后称量瓶与水的时称量

28、比重瓶与水、试样的总质量，倾出试样后称量瓶与水的时称量比重瓶与水、试样的总质量，倾出试样后称量瓶与水的时称量比重瓶与水、试样的总质量，倾出试样后称量瓶与水的质量；滴定试验时滴定前滴定管的初始读数与滴定至终点时，质量；滴定试验时滴定前滴定管的初始读数与滴定至终点时，质量；滴定试验时滴定前滴定管的初始读数与滴定至终点时，质量；滴定试验时滴定前滴定管的初始读数与滴定至终点时，溶液体积的读数等。溶液体积的读数等。溶液体积的读数等。溶液体积的读数等。这些测量所得的数据，在参与测量结果计算这些测量所得的数据，在参与测量结果计算的过程中，若要修约应怎么修约的过程中，若要修约应怎么修约，计算得到的，计算得到的

29、结果怎么修约就是运算法则所要解决的问题。结果怎么修约就是运算法则所要解决的问题。第35页，共44页，编辑于2022年，星期六1.加减运算2.乘除运算3.乘方和开方4.对数和反对数5.平均值6.方差和标准偏差第36页，共44页，编辑于2022年，星期六uu1.1.加减运算加减运算u几个数相加减的结果，经修约后保留有效数字的位数，取决于绝对误差最大的数值，计算结果应以绝对误差最大（即小数点后位数最少）的数据为基准，来决定计算结果数据的位数。u在实际运算过程中，各数值保留的位数比各数值中小数点后位数最少者多保留一位小数，而计算结果有效数字的位数应与效数最少的一数相同。u例如 29.2+36.582-

30、3.0281=?u按上述规测计算如下：u29.2+36.582-3.028129.2+36.58-3.03=62.75u最后计算结果保留一位小数，为62.8。第37页，共44页，编辑于2022年，星期六uu2.乘除运算u几个数据的乘除运算以相对误差最大（即几个数据的乘除运算以相对误差最大（即有效数字位数最少有效数字位数最少）的数值为基准来决定结）的数值为基准来决定结果数据的位数，。果数据的位数，。u在实际运算中，先将各数值修约至比有效在实际运算中，先将各数值修约至比有效数字位数最少者多保留一位有效数字运算，数字位数最少者多保留一位有效数字运算，计算结果的有效数字的位数与有效数字位数计算结果的有

31、效数字的位数与有效数字位数最少的数值相同。最少的数值相同。（与小数点位置无关）（与小数点位置无关）第38页，共44页，编辑于2022年，星期六u例如，例如，0.23543828.661.8911 0.235428.661.89 =414.6707116 三个参与运算的数值的有效数字位数分别为三个参与运算的数值的有效数字位数分别为六位、三位、六位，所以最终计算结果用三位六位、三位、六位，所以最终计算结果用三位有效数字表示，为有效数字表示，为415或或4.15102。第39页，共44页，编辑于2022年，星期六uu3.乘方和开方uu乘方或开方时，原数值有几位有效数字，计算结果就可以保留几位有效数字

32、。若计算结果还要参与运算，则乘方或开方所得结果可比原数值多保留一位有效数字。uu例如：3.582=12.8614，运算结果保留三位有效数字，为12.9。uu ，运算结果保留三位有效数字为2.51。若原结果还要参与进一步运算，则先保留为2.506。第40页，共44页，编辑于2022年，星期六uu4.4.对数运算对数运算uu在数值对数计算时，所取对数的小数点后的位数（不包括首数）在数值对数计算时，所取对数的小数点后的位数（不包括首数）应与真数的有效数字位数相同。换言之，对数有效数字的位应与真数的有效数字位数相同。换言之，对数有效数字的位数，只计小数点以后的数字的位数，而不计对数的整数部分。数，只计

33、小数点以后的数字的位数，而不计对数的整数部分。uu例如：例如：loglog（100.44100.44）=log =log（1.0044101.0044102 2）=2 2.0019067.0019067。uu最后结果应为最后结果应为2.001912.00191，结果的有效数字位数是五位（小数，结果的有效数字位数是五位（小数后位数）而不是六位（整数位数加小数位数），因整数部分后位数）而不是六位（整数位数加小数位数），因整数部分只说明该数的只说明该数的1010的方次。的方次。第41页，共44页，编辑于2022年，星期六 5.平均值uu计算几个数值的平均值时，先将计算结果修约至比要求的位数多一位，再按数值修约规则处理。uu例如：修约后平均值计算结果为6.39。6.方差和标准偏差uu方差和标准偏差在运算过程中对中间结果不做修约，只将最后结果修约至要求的位数。第42页，共44页，编辑于2022年，星期六uu注意：uu 在所有计算式中，常数（、e等）以及非检测所得的计算因子（倍数或分数，如6、等）的有效数字位数，可视为无限，需要几位就取几位。uu使用计算器（或电脑）进行计算时，一般不对中间每一步骤的计算结果进行修约，仅对最后的结果进行修约，使其符合事先所确定的位数。第43页，共44页，编辑于2022年，星期六第44页，共44页，编辑于2022年，星期六