量化与量化误差第二节课件.ppt
《量化与量化误差第二节课件.ppt》由会员分享,可在线阅读,更多相关《量化与量化误差第二节课件.ppt(30页珍藏版)》请在淘文阁 - 分享文档赚钱的网站上搜索。
1、量化与量化误差第二节第1页,此课件共30页哦521 二进制数的表示二进制数的表示(1)定点表示 整个运算中,小数点在数码中的位置固定不变,称为定点制;定点制总是把数限制在1之间;最高位为符号位,0为正,1为负,小数点紧跟在符号位后;数的本身只有小数部分,称为“尾数”;第2页,此课件共30页哦定点数作加减法时结果可能会超出1,称为 “溢出”;乘法运算不溢出,但字长要增加一倍。为保证字长不变,乘法后,一般要对增加的尾数作截尾或舍入处理,带来误差。另外一种定点数的表示是总把数看成整数。缺点:动态范围小,有溢出。第3页,此课件共30页哦定点数的表示分为三种(定点数的表示分为三种(原码、反码、补码):)
2、:设有一个(b+1)位码定点数:012b,则原码所代表的十进制表示为例:1.111-0.875,0.0100.25第4页,此课件共30页哦反码表示:(反码和补码的正数表示和原码没有区别,负数的反码表示就是将该数正数表示形式中的所有位取反)例:正数表示:0.101其反码为:1.010原码和反码的总和1-末尾加1进位成最大值1第5页,此课件共30页哦补码表示(正数同原码,负数则将原码中的尾数求反加1,即)例:正数表示:0.110取反:1.001x的补码:1.010原码加减法运算要考虑符号位;补码加法运算规律:正负数可直接加减,符号位同样参加运算,结果仍是补码。若结果没有超出字长范围,则符号位丢弃不
3、影响结果的正确性。若超出字长范围,如符号位发生双进位,可以自然丢弃,若是单进位,丢掉则发生溢出;第6页,此课件共30页哦补码又称“2的补码”。补码中负数是采用2的补数来表示的,即先把负数加上2,以便将正数与负数的相加转化为正数与正数的相加,从而克服原码表示法做加减法的困难。X=-0.625在原码中表示为1.101,在补码中为2-0.625=1.375,因此补码的表示为1.011.第7页,此课件共30页哦(2)浮点表示尾数指数阶数浮点制运算:相加对阶相加归一化,并作尾数处理相乘:尾数相乘,阶码相加,再作截尾或舍入。优点:动态范围大,一般不溢出.缺点:相乘、相加,都要对尾数作量化处理。一般,浮点数
4、都用较长的字长,精度较高,所以我们讨论误差影响主要针对定点制。第8页,此课件共30页哦 对于任意一个二进制数n,可用N=S2P表示,其中S为尾数,P为阶码,2为阶码的底,P、S都用二进制数表示,S表示N的全部有效数字,P指明小数点的位置。当阶码为固定值时,数的这种表示法称为定点表示,这样的数称为“定点数”;当阶码为可变时,数的这种表示法称为浮点表示,这样的数称为“浮点数”。通常定点数有两种表示法,均设P=0,小数点是隐含的,若数值部分为n位:当S为纯整数时,此时定点数只能表示整数,所能表示的N范围是(2n-1)N-(2n-1);当S为纯小数时,此时定点数只能表示小数,所能表示的N范围是(1-2
5、-n)N-(1-2-n)。实际数值不一定都是纯整数或纯小数,运算前可选择比例因子,使所有原始数据化成纯小数或纯整数,运算后再用比例因子恢复成实际值。第9页,此课件共30页哦定点制中的乘法,运算完毕后会使字长增加,例如原来是b位字长,运算后增长到b1位,需对尾数作量化处理使b1位字长降低到b位。量化处理方式:截尾:保留b位,抛弃余下的尾数;舍入:按最接近的值取b位码。两种处理方式产生的误差不同,另外,码制不同,误差也不同。5.2.2定点制的量化误差定点制的量化误差第10页,此课件共30页哦1、截尾处理、截尾处理Truncated:1)正数(三种码形式相同)一个b1位的正数为:用T表示截尾处理,则
- 配套讲稿:
如PPT文件的首页显示word图标,表示该PPT已包含配套word讲稿。双击word图标可打开word文档。
- 特殊限制:
部分文档作品中含有的国旗、国徽等图片,仅作为作品整体效果示例展示,禁止商用。设计者仅对作品中独创性部分享有著作权。
- 关 键 词:
- 量化 误差 第二 课件
限制150内