有效数字和数值的修约运算及极限数值判定课件.ppt





《有效数字和数值的修约运算及极限数值判定课件.ppt》由会员分享,可在线阅读,更多相关《有效数字和数值的修约运算及极限数值判定课件.ppt(48页珍藏版)》请在淘文阁 - 分享文档赚钱的网站上搜索。
1、有效数字和数值的修约运算有效数字和数值的修约运算及极限数值判定及极限数值判定部部门门:质质量管理部量管理部姓名:姓名:刘刘贵贵平平日期:日期:2016.02习题习题请判断有效数位35103 盐酸氨溴索口服溶液规格100毫升0.6克称定12g,应选用精度为多少的天平,称量范围多少?RSD=1.42%,规定应2.0%,修约完是多少?解决两问题解决两问题有效数位判断、数值结果修约、运算及判定当标准提出“称g”时,应选用什么精度的天平,称样量是否符合规定(称量范围)有效位数的判断有效位数的判断数值修约规则数值修约规则运算规则运算规则极限数值的判定极限数值的判定注意事项注意事项基本概念基本概念有效数字系
2、指在检验工作中所能得到有实际意义的数值。其最后一位数字欠准是允许的,这种由可靠数字和最后一位不确定数字组成的数值,即为有效数字。最后一位数字的欠准程度通常只能是上下差1单位。有效数字的定位(数位),是指确定欠准数字的位置。这个位置确定后,其后面的数字均为无效数字。欠准数字的位置可以是十进位的任何数位,用10n来表示:n可以是正整数,如n=1、101=10(十数位),n=2、102=100(百数位),;n也可以是负数,如n=-1、10-1=0.1(十分位),n=-2、10-2=0.01(百分位),。基本概念基本概念在没有小数位且以若干个零结尾的数值中,有效位数系指从非零数字最左一位向右数得到的位
3、数减去无效零(即仅为定位用的零)的个数。例:35000中若有两个无效零,则为三位有效位数,应写作350102或3.50104;若有三个无效零,则为两位有效位数,应写作35103或3.5104。在其它十进位数中,有效数字系指从非零数字最左一位向右数而得到的位数。例:3.2、0.32、0.032和0.0032均为两位有效位数 0.320为三位有效位数 10.00为四位有效位数 12.490为五位有效位数有效位数可视为无限多位的几种情况:一、非连续型数值(如个数、分数、倍数)是没有欠准数字的,其有效位数可视为无限多位。例如分子式“H2SO4”中的“2”和“4”是个数。二、常数,e和系数2等数值。三、
4、含量测定项下“每lml的滴定液(0.1molL)”中的“0.1”为名义浓度。四、规格项下的“0.3g”或“1ml25mg”中的“0.3”、“1”和“25”为标示量,其有效位数也均为无限多位。在计算中,其有效位数应根据其他数值的最少在计算中,其有效位数应根据其他数值的最少有效位数而定。有效位数而定。pH值等对数值,其有效位数是由其小数点后的位数决定的,其整数部分只表明其真数的乘方次数。pH=-lg浓度值 pH=11.26(H+=5.51012molL)。其有效位数只有两位。有效数字的首位数字为8或9时,其有效位数可以多计一位。例:85 三位有效位数 115%三位有效位数 99.0%四位有效数字
5、101.0%四位有效数字基本定义基本定义一、数值修约:一、数值修约:通过省略原数值的最后若干位数字,调整所保留的末位数字,使最后所得到的值最接近原数值的过程。经数值修约后的数值称为(原数值的)修约值。二、修约间隔:二、修约间隔:指修约值的最小数值单位。修约间隔的数值一经确定,修约值即为该数值的整数倍。例1:如指定修约间隔为0.1,修约值应在0.1的整数倍中选取,相当于将数值修约到一位小数。例2:如指定修约间隔为100,修约值应在100的整数倍中选取,相当于将数值修约到“百”数位。确定修约间隔确定修约间隔一、指定修约间隔为10n(n为正整数),或指明将数值修约到n位小数。二、指定修约间隔为1,或
6、指明将数值修约到“个”数位。三、指定修约间隔为10n(n为正整数),或指明将数值修约到10n数位,或指明将数值修约到十”、“百”、“千”数位。四、在相对标准偏差(RSD)的求算中,其有效数位应为其1/3值的首位(非零数字),故通常为百分位或千分位。进舍规则进舍规则1、拟舍弃数字的最左一位数字小于5,则舍去,保 留其余各位数字不变。2、拟舍弃数字的最左一位数字大于5,则进一,即保留数字的末位数字加1。3、拟舍弃数字的最左一位数字是5,且其后有非0数字时进一,即保留数字的末位数字加1。4、拟舍弃数字的最左一位数字为5,且其后无数字或皆为0时,若所保留的末位数字为奇数(1,3,5,7,9)则进一,即
7、保留数字的末位数字加1;若所保留的末位数字为偶数(0,2,4,6,8),则舍去。口诀:四舍六入五考虑,五后非零则进一,五后全零看五前,五前偶舍奇进一,不论数字多少位,都要一次修约成。习题习题12.1498修约到一位小数 12.112.1498修约成两位有效位数 12将1268修约到百数位 13102 习题习题将1268修约到三位有效位数 12710 将10.502修约到个数位 11 1.050修约间隔为0.1(或101)1.0习题习题按照修约间隔为1000(或103)2500 2103 3500 4103习题习题修约成两位有效位数 0.0325 0.032 32500 32103 RSDRSD
8、修约修约 只进不舍(只要后面有任何数值只进不舍(只要后面有任何数值都往前进都往前进1 1位,除了位,除了0 0)0.163%修约成2位有效数位 0.17%0.52%修约成十分位 0.6%不允许连续修约 拟修约数字应在确定修约间隔或指定修约数位后一次修约一次修约获得结果,而不得多次连续修约。例1:修约97.46,修约间隔为l 正确的做法:97.4697 不正确的做法:97.4697.598 例2:修约15.4546,修约间隔为l 正确的做法:15.454615 不正确的做法:15.454615.45515.4615.516报出数值最右的非零数字为5时,应在数值右上角加“”或加“”或不加符号,分别
9、表明已进行过舍,进或未舍未进。如:16.50表示实际值大于16.50,经修约舍弃为16.50;16.50表示实际值小于16.50,经修约进一为16.50。如对报出值需进行修约,当拟舍弃数字的最左一位数字为5,且其后无数字或皆为零时,数值右上角有“”者进一,有“”者舍去,其他仍按修约规则进行。如:将下列数字修约到个数位(报出值多留一位至一位小数)。实测值 报出值修约值 15.4546 15.5 15 -11.4563-11.5 -11 16.5203 16.5 17 17.5000 17.5 180.5单位修约与单位修约与0.2单位修约单位修约0.5单位修约(半个单位修约)0.5单位修约是指按指
- 配套讲稿:
如PPT文件的首页显示word图标,表示该PPT已包含配套word讲稿。双击word图标可打开word文档。
- 特殊限制:
部分文档作品中含有的国旗、国徽等图片,仅作为作品整体效果示例展示,禁止商用。设计者仅对作品中独创性部分享有著作权。
- 关 键 词:
- 有效 数字 数值 运算 极限 判定 课件

限制150内