2022年有效数字、数值修约及运算规程 .pdf
《2022年有效数字、数值修约及运算规程 .pdf》由会员分享,可在线阅读,更多相关《2022年有效数字、数值修约及运算规程 .pdf(5页珍藏版)》请在淘文阁 - 分享文档赚钱的网站上搜索。
1、1 目的为对实验过程中实际测量或计算而得的数值进行统一标准的处理,特制定本规程,保证数据计算合理、准确有效。2 范围适用于工作中除生物检定统计法以外的各种测量或计算而得的数值。3 职责实验员:负责按本操作规程在计算过程中对检验数据进行处理。复核人、 QA:负责按本规程对实验结果进行复核、计算。各实验室主任:监督本操作规程的实施。4 内容4.1 有效数字的基本概念4.1.1有效数字系指在药检工作中所能得到有实际意义的数值。其最后一位数字欠准是允许的,这种由可靠数字和最后一位不确定数字组成的数值,即为有效数字。最后一位数字的欠准程度通道只能是上下差1 单位。如:12.50 ml,前三位是准确的,最
2、后一位是估计的,不甚准确,但它不是臆造的。记录时应保留这一位,这四位都是有效数字。4.1.2有效位数4.1.2.1有效数字位数确实定原则由于有效数字的位数反映了测定结果的精确度,它直接与测量的精密度有关。因此,在科学实验和生产过程中正确记录有效数字,不能多写或少写,多写了不能正确反映测量精度,则该数据不真实,因而也就不可靠;少写损失测量精度。4.1.2.2在没有小数位且以假设干个零结尾的数值中,有效位数每当指从非零数字最左一位向右数得到的位数减去无效零即仅为定位用的零的个数。例如 35000 中假设有两个无效零,则为三位有效位数,应写作350102 ;假设有三个无效零,则为两位有效位数,应写作
3、35103 。4.1.2.3在其它十进位数中,有效数字系指从非零数字最左一位向右数而得精选学习资料 - - - - - - - - - 名师归纳总结 - - - - - - -第 1 页,共 5 页到的位数。例如、和均为两位有效位数,为三位有效位数、为四位有效位数,为五位有效位数。4.1.2.4有效数字的首位数字为8 或 9 时,其有效位数可以多计一位。例如85与 115%,都可以看成是三位有效位数;与都可以看成是四位有效数字。4.1.2.5非连续型数值如个数、分数、倍数是没有欠准数字的,其有效位数可视为无限多位;例如分子式“H2SO4 ”中的“2”和“4”是个数。常数 、e 和等数值的有效位
4、数也可视为是无限多位。4.1.2.6 PH值等对数值,其有效位数由其小数点后的位数决定的,其整数部分只说明其真数的乘方次数。例如: H+=5.5 10-12mol/L ,其有效位数只有两位。4.2 数值修约及其进舍规则4.2.1数值修约的概念是对拟修约数值根据保留位数的要求,将多余的数字进行舍弃,根据舍弃数来保留最后一位数或最后几位数,这一过程称为数值修约。4.2.2数值修约的意义4.2.2.1出于准确表达测量结果的需要测量结果大都是通过间接测量得到的,间接测量的结果通常是通过计算得出的,其组成数字往往较多,但具体测量的精度是确定的,就是说合理表征测量结果的数字个数应是确定的,最终提供的测量结
5、果应合理反映这一点,因此,通过对计算得出的和直接测量得到的数据的分析,得到合理的保留位数,将多余的数字进行取舍以得到合理反映测量精度的测量结果,即进行数值修约就非常必要。4.2.2.2在进行具体的数值计算前,对参加计算的数值进行修约,可简化计算,降低出错的时机。如:4.789612.13102.4387926=?假设不先进行数值修约就直接计算,繁琐且容易出错。假设在计算前先按数值修约规则进行修约,舍去多余参与计算的数值之中没有意义的数字,则计算会简单得多,也不易出错。精选学习资料 - - - - - - - - - 名师归纳总结 - - - - - - -第 2 页,共 5 页4.2.3进舍规
6、则进舍规则口诀:四舍六入五考虑,五后非零则进一,五后全零看五前,五前偶舍奇进一,不管数字多少位,都要一次修约成。4.2.3.1拟舍弃数字的最左一位数字小于5 时,则舍去,即保留的各位数字不变。例 1将修约到一位小数,得。例 2将修约成两位有效位数,得12。4.2.3.2拟舍弃数字的最左一位数字大于5,或者是 5,而其后跟有并非全部为 0 的数字时,则进一。即在保留的末位数字加1。例 1将 1268 修约到百数位,得13102 。例 2将 1268 修约到三位有效位数,得12710 。例 3将修约到个数位。得11。4.2.3.3拟舍弃数字的最左一位数字为5,而右面无数字或皆为0 时,假设所保留的
- 配套讲稿:
如PPT文件的首页显示word图标,表示该PPT已包含配套word讲稿。双击word图标可打开word文档。
- 特殊限制:
部分文档作品中含有的国旗、国徽等图片,仅作为作品整体效果示例展示,禁止商用。设计者仅对作品中独创性部分享有著作权。
- 关 键 词:
- 2022年有效数字、数值修约及运算规程 2022 有效 数字 数值 运算 规程
限制150内