第03章有限自动机和词法分析精选PPT.ppt
《第03章有限自动机和词法分析精选PPT.ppt》由会员分享,可在线阅读,更多相关《第03章有限自动机和词法分析精选PPT.ppt(93页珍藏版)》请在淘文阁 - 分享文档赚钱的网站上搜索。
1、第03章有限自动机和词法分析第1页,此课件共93页哦3.1词法分析词法分析有关词法分析器的几个问题和处理方法:有关词法分析器的几个问题和处理方法:1)1)词法分析器的功能、分类词法分析器的功能、分类 2)2)单词的分类、单词的分类、TokenToken表示表示 3)3)字符串、保留字的处理字符串、保留字的处理 4)4)空格符、制表符和换行符空格符、制表符和换行符 5)5)复合型符号复合型符号 6)6)括号类匹配预检括号类匹配预检7)7)词法错误校正词法错误校正8)8)词法分析独立化的意义词法分析独立化的意义第2页,此课件共93页哦3.1.1 3.1.1 词法分析器的功能词法分析器的功能词法分析
2、器功能:词法分析器功能:读源程序的字符序列,逐个读源程序的字符序列,逐个拼出单词拼出单词,并构并构造相应的造相应的内部表示内部表示TOKENTOKEN。同时。同时检查检查源程序中源程序中的的词法错误词法错误。引入引入TokenToken的原因:的原因:编译程序总是用某种程序语言书写的程序,编译程序总是用某种程序语言书写的程序,语言的操作对象只能是该语言规定的各种数据。语言的操作对象只能是该语言规定的各种数据。而编译程序的而编译程序的操作对象操作对象是程序中的各种是程序中的各种语法单语法单位位,因此,必须把它们表示成某种数据结构形,因此,必须把它们表示成某种数据结构形式。式。第3页,此课件共93
3、页哦词法分析器的两种形式词法分析器的两种形式:CharList独独立立词法分析器词法分析器语法分析语法分析TokenList附附属属词法分析器词法分析器语法分析语法分析callTokenCharList第4页,此课件共93页哦3.1.2 3.1.2 单词的内部表示单词的内部表示 TokenToken定义:定义:TokenToken表示最小的语义单位表示最小的语义单位-单词的信息单词的信息。即:即:单词单词内部表示的数据结构形式内部表示的数据结构形式。单词不是程序设计语言中的语法概念,是编译程序中引进单词不是程序设计语言中的语法概念,是编译程序中引进的一个概念。是最小的语义单位,不能分割。的一个
4、概念。是最小的语义单位,不能分割。TokenToken中需要记录有关单词的信息:中需要记录有关单词的信息:单词的单词的类别码类别码(Token.class)Token.class):标识单词的种类:标识单词的种类-词法词法信息信息 单词的单词的特征属性特征属性(Token.semanToken.seman,标识符名,符号表地,标识符名,符号表地址等):址等):-语义信息语义信息第5页,此课件共93页哦Token设计示例设计示例程序表示ASCToken.classToken.semanIf9666019666Then478656E602478656E6Begin26567696E60326567
5、696E6End56E6460456E646+B205B2(820682第6页,此课件共93页哦单词的分类单词的分类:标识符:标识符:字母打头的字母字母打头的字母/数字串数字串整常数:整常数:数字打头的数字串数字打头的数字串实常数:实常数:整数整数.整数整数保留字:保留字:beginbegin,endend,varvar,readread,writewrite,integerinteger,realreal符号符号 :+,*,(,),:,:=:=,;控制控制 :(换行符)换行符)第7页,此课件共93页哦v字符串字符串:标识符的语义信息的表示方法有两种标识符的语义信息的表示方法有两种:a a 字
6、符数组法:字符串空间字符数组法:字符串空间中的地址被表示为对偶地址中的地址被表示为对偶地址(head,lenghead,leng),如下图所示:),如下图所示:b b 指针数组法:字符串空间指针数组法:字符串空间中的地址用指针表示,如下图所示:中的地址用指针表示,如下图所示:(4,3)(2,2)x1z12名表名表“x1”“z12”heighteofageeofx1eofyeof0123第8页,此课件共93页哦v保留字的处理保留字的处理:两种识别保留字的方法:两种识别保留字的方法:1.1.建立保留字表:顺序、散列、散列顺序建立保留字表:顺序、散列、散列顺序 2.2.拼写的同时进行判断:自动机拼写
7、的同时进行判断:自动机 例:例:假设保留字只有假设保留字只有beginbegin和和endend的情况见下图:的情况见下图:beginndeNot(e)Not(g)Not(i)Not(n)Not(b,e)Not(n)Not(d)该方法的该方法的优点:优点:速度快;速度快;缺点:缺点:自动机太大。自动机太大。第9页,此课件共93页哦v 运算符的处理运算符的处理:1.1.不区分,统一成一类不区分,统一成一类 2.2.区分,每个运算符为一类区分,每个运算符为一类v 空格符和制表符以及换行符的处理空格符和制表符以及换行符的处理 1.1.无用的空格符和制表符要删掉;无用的空格符和制表符要删掉;2.2.字
8、符串内的空格不能删;字符串内的空格不能删;实现方法:实现方法:进入字符串时令标志变量进入字符串时令标志变量StringFlagStringFlag为为true,true,退退出时为出时为falsefalse。3.3.换行符不能删,用于错误定位。换行符不能删,用于错误定位。第10页,此课件共93页哦v括号类配对预检括号类配对预检括号类:括号类:如:如:begin begin end,if end,if then,()then,(),record record endend处理方法:处理方法:对每类括号设置一个计数器(初值对每类括号设置一个计数器(初值=0=0)每当遇到开括号,则计数器加每当遇到开
9、括号,则计数器加1 1 每当遇到闭括号时,计数器减每当遇到闭括号时,计数器减1 1 词法分析结束时,如果计数器词法分析结束时,如果计数器 0 0,则表明括号不匹,则表明括号不匹配,报错。配,报错。第11页,此课件共93页哦v向前看多个字符的处理向前看多个字符的处理对于对于复合型特殊符,如复合型特殊符,如“:=:=”的处理的处理方法:方法:读到读到“:”时不能判断是否为冒号,必须读下一时不能判断是否为冒号,必须读下一字符。字符。下图是对枚举类型如下图是对枚举类型如10.10010.100和实数如和实数如3.143.14的处理:的处理:D.D.DD注:注:对于对于pascal和和Ada等语言至多向
10、前看两个字符即名。等语言至多向前看两个字符即名。第12页,此课件共93页哦例:错误单词例:错误单词12.3e+q的处理的处理方法:方法:每当一个字每当一个字符被扫描时,缓符被扫描时,缓存并判断已扫部存并判断已扫部分的类型或无效分的类型或无效(Invalid),当不,当不能进一步扫描时,能进一步扫描时,进行倒退工作,返进行倒退工作,返回最后回最后Invalid前面前面的类型,的类型,如右表中如右表中返回返回RealConstant。Buffered TokenToken Flag1Integer Constant12Integer Constant12.Invalid12.3Real Const
11、ant12.3eInvalid12.3e+Invalid第13页,此课件共93页哦v词法错误校正词法错误校正词法错误种类:词法错误种类:语言不允许的符号:语言不允许的符号:#括号类配对错误:括号类配对错误:单词的后继符错(偶尔):单词的后继符错(偶尔):词法错误校正:词法错误校正:a a 删除已被读过的字符,并重新扫描未被删除已被读过的字符,并重新扫描未被 读过的字符读过的字符 b b 删除已读过的第一个字符,重新扫描它删除已读过的第一个字符,重新扫描它 的后继部分的字符。的后继部分的字符。校正后的标示校正后的标示第14页,此课件共93页哦v词法分析独立化的意义词法分析独立化的意义 1 1)使
12、语法分析器和语义分析器的算法更加清晰和简)使语法分析器和语义分析器的算法更加清晰和简练;练;2 2)便于利用自动机、正则表达式的算法更加清晰)便于利用自动机、正则表达式的算法更加清晰和简练;和简练;3 3)更加有利于构造出高效的词法分析器;)更加有利于构造出高效的词法分析器;4 4)有利于编译器的移植。)有利于编译器的移植。第15页,此课件共93页哦3.2 3.2 有限自动机有限自动机描述程序设计语言中的单词的识别过程。描述程序设计语言中的单词的识别过程。主要内容:主要内容:确定有限自动机确定有限自动机DFADFA的定义的定义确定有限自动机确定有限自动机DFADFA的实现的实现非确定有限自动机
13、非确定有限自动机NFANFANFANFA到到DFADFA的转换的转换DFADFA的化简的化简第16页,此课件共93页哦一个确定的有穷自动机(一个确定的有穷自动机(DFA)M是一个五元组:是一个五元组:M=(SS,S0,Z)其中其中 1.1.SSSSSSSS是一个有穷集,它是一个有穷集,它的每个元素的每个元素的每个元素的每个元素称称为为为为一个一个状态状态状态状态;2.2.是是是是一个有穷字母表,它的每个元素称为一个输入符号,所以也一个有穷字母表,它的每个元素称为一个输入符号,所以也称称为为输入符号字母表输入符号字母表输入符号字母表输入符号字母表;3.3.是转换函数是转换函数是转换函数是转换函数
14、,是在,是在SSSS上的映射,即上的映射,即:如如(ki,a)=kj,(,(kiSS,kjSS)就意味着,当前状态为就意味着,当前状态为ki,输入符为输入符为a时,时,将转换为下一个状态将转换为下一个状态kj,我们把我们把kj称作称作k ki i的一个后继状态;的一个后继状态;4.S S S S0 0 0 0SS,SS,是唯一是唯一是唯一是唯一的一个的一个初态初态初态初态;5.5.Z Z Z Z SS,是是是是一个一个终态集终态集终态集终态集,终态也称,终态也称可接受状态可接受状态或或结束状态结束状态。3.2.1确定的有穷自动机(确定的有穷自动机(DFA)定义定义定义定义:第17页,此课件共9
15、3页哦DFADFA的两种表示方式的两种表示方式 状态转换图:状态转换图:结点表示状态,转换边表示转换函数,边结点表示状态,转换边表示转换函数,边 的箭头方向指向转换函数中定义的转换方的箭头方向指向转换函数中定义的转换方 向。标识出初始状态和终止状态。向。标识出初始状态和终止状态。状态转换表:状态转换表:可用二维数组描述。标识出初始状态和终可用二维数组描述。标识出初始状态和终 止状态。止状态。Trans Trans(S SI I ,a a)S SJ J第18页,此课件共93页哦DFA例例1:DFAM=(S,U,V,Q,a,b,f,S,Q)其中其中f定义为:定义为:f(S,a)=Uf(V,a)=U
16、f(S,b)=Vf(V,b)=Qf(U,a)=Qf(Q,a)=Qf(U,b)=Vf(Q,b)=Q第19页,此课件共93页哦DFA的状态图表示的状态图表示:f(S,a)=Uf(V,a)=Uf(S,b)=Vf(V,b)=Qf(U,a)=Qf(Q,a)=Qf(U,b)=Vf(Q,b)=QbSUVQaaaba,bb第20页,此课件共93页哦DFA的矩阵表示的矩阵表示:f(S,a)=Uf(V,a)=Uf(S,b)=Vf(V,b)=Qf(U,a)=Qf(Q,a)=Qf(U,b)=Vf(Q,b)=QabSUVUQVVUQQQQ字符状态0100第21页,此课件共93页哦DFA例例2:整常数集:整常数集:如如1
17、6,135,258实常数集:实常数集:如如16.135,258.5S0dS1d0d.2d3dd1第22页,此课件共93页哦DFA例例3:第二位为第二位为2的整数集的整数集(包括一位包括一位):如如x2ad标识符集:标识符集:如如x,ab3_7d2dL-L,DL,D第23页,此课件共93页哦*上的符号串 t 被 M 接受定义定义1 1:对于对于*中的任何字符串中的任何字符串t t,若若存在一存在一条从初态结到某一终态结的道路条从初态结到某一终态结的道路,且这条路上,且这条路上所有弧的标记符连接成的字符串等于所有弧的标记符连接成的字符串等于t t,则称则称t t可为可为DFA MDFA M所接受所
18、接受,若,若M M的初态结同时又是终态的初态结同时又是终态结,则空字可为结,则空字可为M M所所接受接受(识别识别)。)。定义定义2 2:若若 t t*,f(Sf(S,t)=Pt)=P,其中其中S S为为DFADFA M M的开始状态的开始状态,P P Z Z,Z Z为终态集为终态集。则称则称t t为为DFA MDFA M所所接受接受(识别识别)。)。第24页,此课件共93页哦*上的符号串上的符号串t t t t(我们将输入符号串我们将输入符号串t t表示成表示成t t1 1t tx x的形的形式,其中式,其中t t1 1,t tx x *)在在在在M M上上上上在在DFA MDFA M上上运
19、行运行运行运行的的定义为:定义为:f f(Q,Q,t t1 1t tx x )=f=f(f f(Q,Q,t t1 1),t tx x)其中其中QKQK扩充转换函数扩充转换函数f f,是是K K*K K上的映射,且:上的映射,且:f f(Q Q,)=Q=Q第25页,此课件共93页哦例:例:证明证明t=baab被如下的被如下的DFA所接受。所接受。DFAM=(S,U,V,Q,a,b,f,S,Q)其中其中f定义为:定义为:f(S,a)=Uf(V,a)=Uf(S,b)=Vf(V,b)=Qf(U,a)=Qf(Q,a)=Qf(U,b)=Vf(Q,b)=QbSUVQaaaba,bb证明:证明:f(S,baa
20、b)=f(f(S,b),),aab)=f(V,aab)=f(f(V,a),),ab)=f(U,ab)=f(f(U,a),),b)=f(Q,b)=QQ属于终态。得证。属于终态。得证。第26页,此课件共93页哦DFA M DFA M 所所能接受的符号串能接受的符号串的全体记为的全体记为 L(M)L(M)结论:结论:上一个字符串集上一个字符串集 V V 是是正规正规的的,当且仅当存在一个,当且仅当存在一个 上的确定有穷上的确定有穷自动机自动机M M,使得使得 V=L(M)V=L(M)。第27页,此课件共93页哦3.2.2 3.2.2 确定有穷自动机的实现确定有穷自动机的实现DFADFA的确定性的特点
21、:的确定性的特点:初始状态唯一初始状态唯一。转换函数转换函数f:SSf:SSSSSS是一个是一个单值函数单值函数,也就,也就是说,对任何状态是说,对任何状态S S SS,SS,和输入符号和输入符号a a ,f(S,a)f(S,a)唯一地确定了下一个状态。即转换函唯一地确定了下一个状态。即转换函数至多确定一个状态。数至多确定一个状态。没有空边没有空边。即没有输入为。即没有输入为()第28页,此课件共93页哦用用DFADFA构造词法分析器的方法构造词法分析器的方法1 1状态转换表的形式:状态转换表的形式:(数组(数组T T存放转换函数)存放转换函数)1.1.当前状态当前状态StateState置为
22、初始状态置为初始状态 2.2.读一个字符读一个字符 CurrentCharCurrentChar 3.3.如果如果CurrentCharCurrentChar EofEof并且并且 T(State,CurrentChar)T(State,CurrentChar)errorerror 则当前状态则当前状态State=State=新的状态新的状态T(State,Current)T(State,Current),转到第转到第2 2步工作。步工作。4.4.如果当前字符为如果当前字符为EofEof并且当前状态属于终止状态,则接受当并且当前状态属于终止状态,则接受当前字符串,程序结束。否则报错前字符串,程
23、序结束。否则报错 特点:特点:程序短小,但占用存储空间多程序短小,但占用存储空间多第29页,此课件共93页哦代码如下:代码如下:Int Scanner(char input)Int Scanner(char input)S:=S0;in=0;S:=S0;in=0;ch=inputin+;ch=inputin+;While(TT(S,ch)While(TT(S,ch)undef&undef&chch Eof)Eof)S=T(S,ch);S=T(S,ch);ch=inputin+;ch=inputin+;If(S If(S FinalStates)then return(1)FinalStates
- 配套讲稿:
如PPT文件的首页显示word图标,表示该PPT已包含配套word讲稿。双击word图标可打开word文档。
- 特殊限制:
部分文档作品中含有的国旗、国徽等图片,仅作为作品整体效果示例展示,禁止商用。设计者仅对作品中独创性部分享有著作权。
- 关 键 词:
- 03 有限 自动机 词法 分析 精选 PPT
限制150内