有效数字运算及修约.pptx

《有效数字运算及修约.pptx》由会员分享，可在线阅读，更多相关《有效数字运算及修约.pptx（24页珍藏版）》请在淘文阁 - 分享文档赚钱的网站上搜索。

1、情景导入进行化学滴定分析时，当凹液面在两刻度线之间时，需要对两刻度线之间的体积进行估读，梅仁耀读取到23.44mL、梅仁爱读取到23.46mL、梅仁姓读取到23.45mL；梅闻画看到一试剂柜中的NaOH标准滴定溶液的浓度写着：0.1065(+)mol/L。第1页/共24页有效数字的定义数学定义：从左边第一个不是0的数字算起，到精确到的位数为止，所有的数字都叫做这个数的有效数字。分析化学定义：在分析工作中实际能够测量到的数字。能够测量到的是包括最后一位估读的，不确定的数字。我们把通过直读获得的准确数字叫做可靠数字，把通过估读得到的那部分数字叫做存疑数字，把测量结果中能够反映被测量大小的带有一位存

2、疑数字的全部数字叫有效数字。第2页/共24页有效数字位数判定1.0008 43.181 五位0.1000 10.98%四位0.0382 1.9810-10 三位 54 0.0040 两位3600 100 位数模糊注意：1、以上数据中0的左右的差异；2、对于3600之类的数字，一般看成4位有效数字，但它也可能是2位(3.6103)或3位(3.60102)第3页/共24页有效数字位数判定1、在分析化学计算中，常遇到倍数、分数关系，这些数据不是测量直接得到的，可视为无限多位有效数字；2、对于pH、pM、lgc、lgK等对数值，其有效数字取决于小数部分的位数，因为整数部分只代表该数字的方次。e.g.p

3、H=11.20，换算为H+浓度时，应为c(H+)=6.310-12mol/L，有效数字是两位。第4页/共24页数值修约规则数值修约：通过省略原数值的最后若干位数字，调整所保留的若干位数字，使最后得到的值最接近原数值的过程。修约间隔：修约值的最小数值单位。修约间隔的数值一经确定，修约值一定是该数值的整数倍。：修约间隔为0.1(或10-1)，表示将数值修约至一位小数；：修约间隔为100(或102)，表示将数值修约至百位数。极限数值：标准(或技术规范)中规定考核的以数量形式给出且符合该标准(或技术规范)要求的指标数值范围的界限值，即指标的上限或者下限。第5页/共24页数值修约规则数值修约的步骤大体分

4、两步：1、确定修约间隔；2、根据修约的进舍规则对数值进行修约。数值修约的规则：1、进舍规则；2、不允许连续修约；3、0.5单位修约；4、0.2单位修约。第6页/共24页进舍规则大规则：四舍六入五成双 拟舍弃数字的最左一位数字小于5，则舍去，保留其余各位数字不变；e.g.将12.1498修约至个位数，得到12，修约至小数点后一位，得到12.1.拟舍弃数字的最左一位数字大于5，则进一，即保留位数的末位数字加一；e.g.将13.1634修约至小数点后一位，得到13.2。第7页/共24页进舍规则 拟舍弃数字的最左一位数字是5，且其后有非0数字时进一，即保留数字的末位数字加1。e.g.将11.5002修

5、约至个位数，得12。拟舍弃数字的最左一位数字是5，且其后无数字或皆为0时，若所保留数字的末位数字为奇数时则进一，若所保留数字的末位数字为偶数时则舍去。e.g.将1.050修约至小数点后一位得1.0，将0.35修约至小数点后一位得0.4。负数修约时先取绝对值，按照 中的规则进行修约，然后在其前面加上负号。第8页/共24页不允许连续修约规则(1)拟修约数字应在确定修约间隔或指定修约数位后一次修约获得结果，不得按照进舍规则多次进行多次修约。e.g.将97.46修约至个位数正确做法：97.4697错误做法：97.4697.598第9页/共24页不允许连续修约规则(2)在具体实施中，有时测试与计算部门先

6、将获得的数值按照指定的修约数位多一位或几位报出，而后再由其它部门判定。为了避免产生连续修约的错误，应按以下两个步骤进行操作。第10页/共24页不允许连续修约规则.报出数值最右的非零数字为5时，应在数值的右上角加上“+”或“-”或不加符号，分别表明进行过舍、进或未舍未进。e.g.16.50+，表示实际值大于16.50，16.50-表示实际值小于16.50。.如对报出值需进行修约，当拟舍弃的最后一位数值为5，且其后无数字或皆为0时，数值右上角有“+”者进一，有“-”者舍去，其余按照 中的规则进行修约。第11页/共24页0.5单位修约和0.2单位修约定义：0.5单位修约是指按指定修约单位间隔对拟修约

7、的数值的0.5单位进行的修约。步骤：将拟修约数值X乘以2，按指定修约间隔对2X根据上述进舍规则进行修约，得到的数值(2X修约值)再除以2。0.2单位修约的定义和步骤跟0.5单位修约类似，将倍数“2”变为“5”。第12页/共24页第13页/共24页有效数字的在实际的分析工作中，经常会遇到计算公式，而计算公式中的不同项目所保留的有效数字的位数是不同的，最终的计算结果到底保留多少个有效数字值得关注。第14页/共24页有效数字的运算在几个数据相加或相减时，有效数字的保留，应该以小数点后位数最少的数字为根据。e.g.0.0121+25.64+1.05782=？每个数据最后一位都有1的绝对误差，即0.01

8、2 10.0001；25.64 0.01；0.10572 0.00001；以上数据中以25.64的绝对误差最大，在加减运算中最终结果的绝对误差决定于该数据，故最终结果的有效数字位数决定于25.64这个数据。So 上式变换为：0.01+25.64+1.06=26.71第15页/共24页有效数字的运算在几个数据相乘或相除时，有效数字的保留，应与几个数据中相对误差最大的数相对应，通常根据有效数字最少的数据来进行修约。e.g.0.012125.641.05782=？每个数据最后一位都有1的绝对误差，三个数据的相对误差分别是：0.0121的相对误差最大，故运算时以它为标准将另外两个数据修约为三位有效数字

9、的，再相乘。即0.012125.61.06=0.328第16页/共24页极限数值的表示和判定书写极限数值的一般原则一、标准(或其它技术规范)中规定考核的以数量形式给出的指标或参数等，应当规定极限数值。极限数值表示符合该标准要求的数值范围的界限值，它通过给出最小极限值和(或)最大极限值，或给出基本数值与极限偏差值等方式表达。二、标准中的极限数值的表示方式及书写位数应适当，其有效数字应该全部写出。书写位数表示的精确程度，应能保证产品或其它标准化对象的性能和质量。第17页/共24页表示极限数值的基本用语及其组合第18页/共24页带有极限偏差值的数值第19页/共24页测定值或其计算值与标准规定的极限数

10、值的作比较方法1）全数值比较法2）修约值比较法当标准或有关文件中，若对极限数值(包括带有极限偏差的数值)无特殊规定时，均应使用全数值比较法。如规定修约值比较法，应在标准中加以说明。若标准或有关文件规定了使用其中一种比较方法时，一经确定，不得改动。第20页/共24页全数值比较法将测试所得的测定值或计算值不经修约处理(或虽经修约处理，但应标明它是经舍、进货未舍未进而得)，用该数值与规定的极限数值作比较，只要超出极限数值规定的范围(不论超出程度大小)，都判定为不符合要求。修约值比较法v将测定值或其计算值进行修约，修约位数应与规定的极限数值位数一致。v当测试或计算精度允许时，先将获得的数值按指定的修约数位多一位或几位报出，再按进舍规则修约值规定的位数。v用该数值与规定的极限数值作比较，只要超出极限数值规定的范围(不论超出程度大小)，都判定为不符合要求。第21页/共24页两种判定方法的比较对于同样的极限数值，若它本身符合要求，则全数值比较法比修约值比较法更加严格。第22页/共24页第23页/共24页感谢您的观看！第24页/共24页