编译原理第三章词法分析优秀PPT.ppt
《编译原理第三章词法分析优秀PPT.ppt》由会员分享,可在线阅读,更多相关《编译原理第三章词法分析优秀PPT.ppt(111页珍藏版)》请在淘文阁 - 分享文档赚钱的网站上搜索。
1、编译原理第三章 词法分析现在学习的是第1页,共111页复习:复习:程序语言的语法描述程序语言的语法描述 o几个概念几个概念:n考虑一个考虑一个有穷有穷 字母表字母表 字符集字符集n其中每一个元素称为一个其中每一个元素称为一个字符字符n上的上的字字(也叫也叫字符串字符串)是指由是指由中的字符所构成的中的字符所构成的一个有穷序列一个有穷序列n不包含任何字符的序列称为不包含任何字符的序列称为空字空字,记为,记为n用用*表示表示上的所有字的全体上的所有字的全体,包含空字包含空字现在学习的是第2页,共111页复习:复习:程序语言的语法描述程序语言的语法描述 o*的子集的子集U和和V的的连接连接(积积)定
2、义为)定义为UV|U&V oV自身的自身的 n次积记为次积记为Vn=VVVo规定规定V0=,令,令 V*=V0V1V2V3 称称V*是是V的的闭包闭包;记记 VVV*,称,称V+是是V的正规闭包。的正规闭包。现在学习的是第3页,共111页复习:复习:程序语言的语法描述程序语言的语法描述 o上下文无关文法的定义:上下文无关文法的定义:一个上下文无关文法一个上下文无关文法G G是一个四元式是一个四元式 G=(VG=(VT T,V VN N,S S,P)P),其中,其中nV VT T:终结符集合:终结符集合(非空非空)nV VN N:非终结符集合:非终结符集合(非空非空),且,且V VT T V V
3、N N=nS S:文法的开始符号,:文法的开始符号,S S V VN NnP P:产生式集合:产生式集合(有限有限),每个产生式形式为,每个产生式形式为P P,P P V VN N,(V VT T V VN N)*n开始符开始符S S至少必须在某个产生式的左部出现一次。至少必须在某个产生式的左部出现一次。现在学习的是第4页,共111页复习:复习:程序语言的语法描述程序语言的语法描述 o定义:称定义:称 A 直接推出直接推出,即,即 A 仅当仅当A 是一个产生式,是一个产生式,且且,(VT VN)*。o如果如果 1 2 n,则我们称这个序列,则我们称这个序列是从是从 1到到 n的一个的一个推导推
4、导。若存在一个从。若存在一个从 1到到 n的推导,则称的推导,则称 1可以可以推导推导出出 n。现在学习的是第5页,共111页o通常,用通常,用 表示:从表示:从 1 1出发,经过出发,经过一步或若干步,可以推出一步或若干步,可以推出 n n。用用 表示:从表示:从 1 1出发,经过出发,经过0 0步或步或若干步,可以推出若干步,可以推出 n n。所以所以 :即即 或或o定义:假定定义:假定G G是一个文法,是一个文法,S S 是它的开始符号。是它的开始符号。如果如果 ,则,则 称是一个称是一个句型句型。仅含终结符。仅含终结符号的句型是一个号的句型是一个句子句子。文法。文法G G所产生的句子的
5、全所产生的句子的全体是一个体是一个语言语言,将它记为,将它记为 L(G)L(G)。现在学习的是第6页,共111页复习:复习:程序语言的语法描述程序语言的语法描述 o最左推导最左推导:任何一步:任何一步 都是对都是对 中的最左中的最左非终结符进行替换。非终结符进行替换。最右推导最右推导:任何一步:任何一步 都是对都是对 中的最右非中的最右非终结符进行替换。终结符进行替换。现在学习的是第7页,共111页复习:复习:程序语言的语法描述程序语言的语法描述 o用一张图表示一个句型的推导用一张图表示一个句型的推导,称为称为语法树语法树。E(E)(E+E)(E*E+E)(i*E+E)(i*i+E)(i*i+
6、i)E(E)(E+E)(E+i)(E*E+i)(E*i+i)(i*i+i)现在学习的是第8页,共111页复习:复习:程序语言的语法描述程序语言的语法描述 o定义:如果一个文法存在某个句子对应两颗定义:如果一个文法存在某个句子对应两颗不同的语法树,则说这个不同的语法树,则说这个文法是二义的文法是二义的。o语言的二义性:一个语言的二义性:一个语言是二义性的语言是二义性的,如果,如果对它不存在无二义性的文法。对它不存在无二义性的文法。现在学习的是第9页,共111页复习:复习:程序语言的语法描述程序语言的语法描述 o形式语言鸟瞰形式语言鸟瞰0型型(短语文法,图灵机短语文法,图灵机):产生式形如:产生式
7、形如:其中:其中:(VT VN)*且至少含有一个非终结符;且至少含有一个非终结符;(VT VN)*1型型(上下文有关文法,线性界限自动机上下文有关文法,线性界限自动机):产生式形如:产生式形如:其中:其中:|,仅,仅 S 例外。例外。现在学习的是第10页,共111页复习:复习:程序语言的语法描述程序语言的语法描述 o形式语言鸟瞰形式语言鸟瞰2型型(上下文无关文法,非确定下推自动机上下文无关文法,非确定下推自动机):产生式形如:产生式形如:A 其中:其中:A VN;(VT VN)*。3型型(正规文法,有限自动机正规文法,有限自动机):产生式形如:产生式形如:A B 或或 A 其中:其中:VT*;
8、A,B VN 产生式形如:产生式形如:A B 或或 A 其中:其中:VT*;A,B VN现在学习的是第11页,共111页第三章第三章 词法分析词法分析o词法分析是编译的第一个阶段,在单词的词法分析是编译的第一个阶段,在单词的级别上分析和翻译源程序。级别上分析和翻译源程序。o理论基础:理论基础:n有限自动机理论;有限自动机理论;n有限自动机理论与正规文法、正规式之间在有限自动机理论与正规文法、正规式之间在描述语言方面有一一对应的关系。描述语言方面有一一对应的关系。o学习目标:学习目标:n掌握有限自动机与正规文法、正规式之间的掌握有限自动机与正规文法、正规式之间的转换转换n能够构造词法分析程序。能
9、够构造词法分析程序。现在学习的是第12页,共111页第三章第三章 词法分析词法分析o词法分析的任务:从左至右逐个字符地对词法分析的任务:从左至右逐个字符地对源程序进行扫描,产生一个个单词符号。源程序进行扫描,产生一个个单词符号。o词法分析器词法分析器(Lexical Analyzer)又称扫描器又称扫描器(Scanner):执行词法分析的程序:执行词法分析的程序现在学习的是第13页,共111页3.13.1 对于词法分析器的要求对于词法分析器的要求一、词法分析器的功能和输出形式一、词法分析器的功能和输出形式o功能功能:输入源程序、输出单词符号输入源程序、输出单词符号o单词符号的种类:单词符号的种
10、类:n基本字基本字:如:如 beginbegin,repeatrepeat,n标识符标识符表示各种名字:如变量名、数表示各种名字:如变量名、数组名和过程名组名和过程名n常数常数:各种类型的常数:各种类型的常数n运算符运算符:+,-,*,/,n界符界符:逗号、分号、括号和空白:逗号、分号、括号和空白现在学习的是第14页,共111页o输出的单词符号的表示形式输出的单词符号的表示形式:(单词种别单词种别,单词自身的值单词自身的值)o单词种别通常用整数编码表示。单词种别通常用整数编码表示。n若一个种别只有一个单词符号,则种别编码就若一个种别只有一个单词符号,则种别编码就代表该单词符号。假定基本字、运算
11、符和界符代表该单词符号。假定基本字、运算符和界符都是一符一种。都是一符一种。n若一个种别有多个单词符号,则对于每个若一个种别有多个单词符号,则对于每个单词符号,给出种别编码和自身的值。单词符号,给出种别编码和自身的值。o标识符单列一种;标识符自身的值表示成按标识符单列一种;标识符自身的值表示成按机器字节划分的内部码。机器字节划分的内部码。o常数按类型分种;常数的值则表示成标准的二进常数按类型分种;常数的值则表示成标准的二进制形式。制形式。现在学习的是第15页,共111页例例 C程序程序o while(i=j)i-;o输出单词符号:输出单词符号:=,-现在学习的是第16页,共111页例例 FOR
12、TRAN程序程序oIF(5.EQ.M)GOTO 100IF(5.EQ.M)GOTO 100o输出单词符号:输出单词符号:逻辑逻辑IFIF(34(34,-)-)左括号左括号(2(2,-)-)整常数整常数(20(20,5 5的二进制的二进制)等号等号(6(6,-)-)标识符标识符(26(26,M M)右括号右括号(16(16,-)-)GOTOGOTO(30(30,-)-)标号标号(19(19,100100的二进制的二进制)现在学习的是第17页,共111页二、词法分析器作为一个独立子程序二、词法分析器作为一个独立子程序o词法分析是作为一个独立的阶段,是否应词法分析是作为一个独立的阶段,是否应当将其处
13、理为一遍呢?当将其处理为一遍呢?n作为独立阶段的优点:结构简洁、清晰和作为独立阶段的优点:结构简洁、清晰和条理化,有利于集中考虑词法分析一些枝条理化,有利于集中考虑词法分析一些枝节问题。节问题。n不作为一遍:将其处理为一个子程序。不作为一遍:将其处理为一个子程序。现在学习的是第18页,共111页词法分析器词法分析器词法分词法分析器析器语法分语法分析器析器符号表符号表源程序源程序单词符号单词符号取下一单词取下一单词.现在学习的是第19页,共111页词法分析器的结构词法分析器的结构预处理预处理子程序子程序扫描器扫描器输入缓冲区输入缓冲区扫描缓冲区扫描缓冲区单词符号单词符号输入输入列表列表3.2 词
14、法分析器的设计词法分析器的设计现在学习的是第20页,共111页o输入串放在输入缓冲区中。输入串放在输入缓冲区中。o预预处处理理子子程程序序:剔剔除除无无用用的的空空白白、跳跳格格、回回车车和和换换行行等等编编辑辑性性字字符符;区区分分标标号号区区、捻接续行和给出句末符等捻接续行和给出句末符等o扫描缓冲区扫描缓冲区 起点起点 搜索搜索指示器指示器 指示器指示器一、输入、预处理一、输入、预处理现在学习的是第21页,共111页 WhatALongWord WhatALongWo rdrd WhatALongWord WhatALongWo现在学习的是第22页,共111页二、单词符号的识别二、单词符号
15、的识别:超前搜索超前搜索1 基本字识别基本字识别:例如例如:DO99K=1,10 DO 99 K=1,10 IF(5.EQ.M)GOTO55 IF(5.EQ.M)GOTO 55DO99K=1.10IF(5)=55o需要超前搜索才能确定哪些是基本字需要超前搜索才能确定哪些是基本字现在学习的是第23页,共111页2 标识符识别标识符识别:o字母开头的字母数字串,后跟界符或算符字母开头的字母数字串,后跟界符或算符3 常数识别常数识别:o识别出算术常数并将其转变为二进制内码表识别出算术常数并将其转变为二进制内码表示。有些也要超前搜索。示。有些也要超前搜索。5.EQ.M 5.E084 算符和界符的识别算
16、符和界符的识别o把多个字符符合而成的算符和界符拼合成一把多个字符符合而成的算符和界符拼合成一个单一单词符号。个单一单词符号。:=,*,.EQ.,+,-,=现在学习的是第24页,共111页三、状态转换图三、状态转换图1 1 概念概念o状态转换图是一张有限方向图。状态转换图是一张有限方向图。213XYn结点代表状态,用圆圈表示。结点代表状态,用圆圈表示。o状态之间用箭弧连结,箭弧上的状态之间用箭弧连结,箭弧上的标记标记(字符字符)代表射出结状态下可代表射出结状态下可能出现的输入字符或字符类。能出现的输入字符或字符类。o一张转换图只包含有限个状态,其中一张转换图只包含有限个状态,其中有一个为初态,至
17、少要有一个终态。有一个为初态,至少要有一个终态。现在学习的是第25页,共111页识别标识符的状态转换图识别标识符的状态转换图123字母字母其他其他字母或数字字母或数字*识别识别整常数整常数的状态转换图的状态转换图123数字数字其他其他数字数字*o一个状态转换图可用于识别一个状态转换图可用于识别(或接受或接受)一定的一定的字符串。字符串。现在学习的是第26页,共111页2 2 例子例子o助忆符助忆符:直接用编码表示不便于记忆,因此用:直接用编码表示不便于记忆,因此用助忆符来表示编码。助忆符来表示编码。现在学习的是第27页,共111页现在学习的是第28页,共111页1 12 23 34 45 56
18、 67 78 89 910101111121213130 0空白空白字母字母字母或数字字母或数字非字母与数字非字母与数字数字数字非数字非数字数字数字=+*非非*,()其它其它*现在学习的是第29页,共111页o几点重要限制几点重要限制不必使用超前搜索不必使用超前搜索n所所有有基基本本字字都都是是保保留留字字;用用户户不不能能用用它它们们作作自自己的标识符己的标识符n基基本本字字作作为为特特殊殊的的标标识识符符来来处处理理;不不用用特特殊殊的的状态图来识别,只要查保留字表。状态图来识别,只要查保留字表。n如如果果基基本本字字、标标识识符符和和常常数数(或或标标号号)之之间间没没有有确确定定的的运
19、运算算符符或或界界符符作作间间隔隔,则则必必须须使使用用一个空白符作间隔。一个空白符作间隔。DO99K=1,10 要写成要写成 DO 99 K=1,10现在学习的是第30页,共111页3 状态转换图的实现状态转换图的实现o思想:每个状态结对应一小段程序。思想:每个状态结对应一小段程序。o做法做法:1)1)对不含回路的分叉结,可用一个对不含回路的分叉结,可用一个CASECASE语句或语句或一组一组IF-THEN-ELSEIF-THEN-ELSE语句实现语句实现GetChar();if(IsLetter()状态状态j的对应程序段的对应程序段;else if(IsDigit()状态状态k的对应程序段
20、的对应程序段;else if(ch=/)状态状态l的对应程序段的对应程序段;else 错误处理错误处理;ijkl字母字母数字数字现在学习的是第31页,共111页3 状态转换图的实现状态转换图的实现2)2)对含回路的状态结,可对应一段由对含回路的状态结,可对应一段由WHILEWHILE结构结构和和IFIF语句构成的程序语句构成的程序.i字母或数字字母或数字其它其它jGetChar();while(IsLetter()or IsDigit()GetChar();状态状态j的对应程序段的对应程序段现在学习的是第32页,共111页3 状态转换图的实现状态转换图的实现3)终态结表示识别出某种单词符号,因
21、此,对应终态结表示识别出某种单词符号,因此,对应语句为语句为 RETURN(C,VAL)其中,其中,C为单词种别,为单词种别,VAL为单词自身值为单词自身值.现在学习的是第33页,共111页o全局变量与过程全局变量与过程1)ch 字符变量、存放最新读入的源程序字符字符变量、存放最新读入的源程序字符2)strToken 字符数组,存放构成单词符号字符数组,存放构成单词符号的字符串的字符串3)GetChar 子程序过程,把下一个字符读入子程序过程,把下一个字符读入到到 ch 中中4)GetBC 子程序过程,跳过空白符,直至子程序过程,跳过空白符,直至 ch 中读入一非空白符中读入一非空白符5)Co
22、ncat 子程序,把子程序,把ch中的字符连接到中的字符连接到 strToken 现在学习的是第34页,共111页6)IsLetter和和 IsDisgital 布尔函数,判布尔函数,判断断ch中字符是否为字母中字符是否为字母和数字和数字7)Reserve 整型函数,对于整型函数,对于 strToken 中中的字符串查找保留字表,若它的字符串查找保留字表,若它是保留字则给是保留字则给出它的编码,否则回送出它的编码,否则回送08)Retract 子程序,把搜索指针回调一个子程序,把搜索指针回调一个字符位置字符位置9)InsertId 整型函数,将整型函数,将strToken中的中的标识符插入符号
23、表,返回符号表指针标识符插入符号表,返回符号表指针10)InsertConst 整型函数过程,将整型函数过程,将strToken中的常数插入常数表,返回常数中的常数插入常数表,返回常数表指针。表指针。现在学习的是第35页,共111页int code,value;strToken:=“”;/*置置strToken为空串为空串*/GetChar();GetBC();if(IsLetter()beginwhile(IsLetter()or IsDigit()beginConcat();GetChar();endRetract();code:=Reserve();if(code=0)beginvalu
24、e:=InsertId(strToken);return($ID,value);endelsereturn(code,-);end现在学习的是第36页,共111页else if(IsDigit()beginwhile(IsDigit()beginConcat();GetChar();endRetract();value:=InsertConst(strToken);return($INT,value);endelse if(ch=)return($ASSIGN,-);else if(ch=+)return($PLUS,-);现在学习的是第37页,共111页else if(ch=*)beginG
25、etChar();if(ch=*)return($POWER,-);Retract();return($STAR,-);endelse if(ch=;)return($SEMICOLON,-);else if(ch=()return($LPAR,-);else if(ch=)return($RPAR,-);else ProcError();/*错误处理错误处理*/现在学习的是第38页,共111页3.3 3.3 正规表达式与有限自动机正规表达式与有限自动机o几个概念几个概念:n考虑一个考虑一个有穷有穷 字母表字母表 字符集字符集n其中每一个元素称为一个其中每一个元素称为一个字符字符n上的上的字字
- 配套讲稿:
如PPT文件的首页显示word图标,表示该PPT已包含配套word讲稿。双击word图标可打开word文档。
- 特殊限制:
部分文档作品中含有的国旗、国徽等图片,仅作为作品整体效果示例展示,禁止商用。设计者仅对作品中独创性部分享有著作权。
- 关 键 词:
- 编译原理第三章 词法分析优秀PPT 编译 原理 第三 词法 分析 优秀 PPT
限制150内