自然语言处理复习课程.ppt

《自然语言处理复习课程.ppt》由会员分享，可在线阅读，更多相关《自然语言处理复习课程.ppt（17页珍藏版）》请在淘文阁 - 分享文档赚钱的网站上搜索。

1、自然语言处理 其主要任务是要找出词汇的各个词素，从中获得语言学信息，并确定单词其主要任务是要找出词汇的各个词素，从中获得语言学信息，并确定单词的词义。以英语为例，其词法分析的基本算法如下：的词义。以英语为例，其词法分析的基本算法如下：repeat look for word in dictionary if not found then modify the word until word is found or no further modification possible其中，其中，word是一个变量，其初始值就是当前词。是一个变量，其初始值就是当前词。例例8.1 用上述算法分析用上述算

2、法分析catches。解：其分析过程如下：解：其分析过程如下：catches 词典中查不到词典中查不到 catche 修改修改1：去掉：去掉s catch 修改修改2：去掉：去掉e 可以看出，在修改可以看出，在修改2时就查到了时就查到了catch。当然，这只是一个很简单的例子，。当然，这只是一个很简单的例子，完整的词法分析还应该包括复合词的切分等。完整的词法分析还应该包括复合词的切分等。8.2 词法分析词法分析28.3 句法分析句法分析 句法分析是对句子和短语的结构进行分析，其最大单位是一个句子。分析句法分析是对句子和短语的结构进行分析，其最大单位是一个句子。分析的目的是要找出词、短语等的相互

3、关系，以及他们在句子中的作用等，并用的目的是要找出词、短语等的相互关系，以及他们在句子中的作用等，并用一种层次结构加以表达。这种层次结构可以是句子的成分关系、，也可以是一种层次结构加以表达。这种层次结构可以是句子的成分关系、，也可以是语法功能关系。语法功能关系。8.3.1 句法规则的表示方法句法规则的表示方法8.3.2 自顶向下与自底向上分析自顶向下与自底向上分析38.3.1 句法规则的表示方法句法规则的表示方法句子结构的表示句子结构的表示 一个句子是由各种不同的句子成分组成的。这些成分可以是单词、词组或一个句子是由各种不同的句子成分组成的。这些成分可以是单词、词组或从句。句子成分还可以按其作

4、用分为主语、谓语、宾语、宾语补语、定语、从句。句子成分还可以按其作用分为主语、谓语、宾语、宾语补语、定语、状语、表语等。这种关系可用一棵树来表示，如对句子：状语、表语等。这种关系可用一棵树来表示，如对句子：He wrote a book可用图可用图8.2所示的树形结构来表示所示的树形结构来表示 一个句子又是由若干个词类构成的，如名词、动词、代词、形容词等。若一个句子又是由若干个词类构成的，如名词、动词、代词、形容词等。若从句子的词类来考虑，一个句子也可用一棵树来表示，这种树称为句子的分从句子的词类来考虑，一个句子也可用一棵树来表示，这种树称为句子的分析树，如图析树，如图8.3所示。所示。句子句

5、子主语主语谓语谓语动词动词宾语宾语Hewroteabook句子句子代词代词动词短语动词短语动词动词名词短语名词短语Hewroteabook4 上下文无关文法上下文无关文法(Context-free Grammars)是乔姆斯基提出的一种对自然是乔姆斯基提出的一种对自然语言语法知识进行形式化描述的方法。在这种文法中，语法知识是用重写规语言语法知识进行形式化描述的方法。在这种文法中，语法知识是用重写规则则表示的。作为例子，下面给出了一个表示的。作为例子，下面给出了一个英语的很小的子集（图英语的很小的子集（图8.4）。）。语句语句 句子句子 终标符终标符 句子句子 名词短语名词短语 动词短语动词短语

6、 动词短语动词短语 动词动词 名词短语名词短语 名词短语名词短语 冠词冠词 名词名词 名词短语名词短语 专用名词专用名词 冠词冠词 the 名词名词 professor 动词动词 wrote 名词名词 book 动词动词 trains 专用名词专用名词 Jack 终标符终标符.这就是一个英语子集的上下文无关文法这就是一个英语子集的上下文无关文法 在该文法中，在该文法中，“语句语句”是一个特殊的非终极符，称为起始符。是一个特殊的非终极符，称为起始符。8.3.1 句法规则的表示方法句法规则的表示方法上下文无关文法上下文无关文法(1/2)58.3.1 句法规则的表示方法句法规则的表示方法上下文无关文

7、法上下文无关文法(2/2)例例8.2 利用上述上下文无关文法，给出如下语句的分析树。利用上述上下文无关文法，给出如下语句的分析树。The professor trains Jack.语句语句句子句子终标符终标符动词短语动词短语名词短语名词短语Theprofessor.trains冠词冠词名词名词动词动词专用名词专用名词名词短语名词短语Jack解：解：如图如图8.568.3.1 句法规则的表示方法句法规则的表示方法变换文法变换文法(1/2)上下文无关文法反映的仅是一个句子本身的层次结构和生成过程，而自然上下文无关文法反映的仅是一个句子本身的层次结构和生成过程，而自然语言是上下文有关的。为此，乔姆

8、斯基又提出了变换文法语言是上下文有关的。为此，乔姆斯基又提出了变换文法(Transformational Grammar)。该文法认为，句子的结构有深层和表层两个层次。例如：。该文法认为，句子的结构有深层和表层两个层次。例如：She read me a story 和和 She read a story to me的表层结构不一样，但它们的深层结构则是一样的。再如，主动句和被动句的表层结构不一样，但它们的深层结构则是一样的。再如，主动句和被动句也只是表层结构不同，其深层结构则是相同的。也只是表层结构不同，其深层结构则是相同的。在变换文法中，句子深层结构和表层结构之间的变换是通过变换规则实现在变

9、换文法中，句子深层结构和表层结构之间的变换是通过变换规则实现的，如图的，如图8.6给出了一条把主动句变换为被动句的变换规则。给出了一条把主动句变换为被动句的变换规则。句子句子介词短语介词短语1句子句子名词短语名词短语1动词短语动词短语动词动词名词短语名词短语2名词短语名词短语2动词被动语态动词被动语态动词动词介词介词动词的过去分词动词的过去分词名词短语名词短语1句子句子介词短语介词短语句子句子名词短语名词短语1动词短语动词短语动词动词名词短语名词短语2名词短语名词短语2动词被动语态动词被动语态78.3.1 句法规则的表示方法句法规则的表示方法变换文法变换文法(2/2)助动词助动词介词介词动词的

10、过去分词动词的过去分词名词短语名词短语1句子句子介词短语介词短语句子句子名词短语名词短语1动词短语动词短语动词动词名词短语名词短语2名词短语名词短语2动词被动语态动词被动语态冠词冠词名词名词专用名词专用名词上下文无上下文无关文法关文法变换规则变换规则冠词冠词名词名词TheprofessorJacktrainsJack专用名词专用名词istrainedbytheprofessorprofessor 例例8.3 利用变换文法，将前述主动句变为被动句。利用变换文法，将前述主动句变为被动句。解：解：其变换过程是：先从非终极符其变换过程是：先从非终极符“句子句子”开始产生一个主动句：开始产生一个主动句：

11、The professor trains Jack然后再应用图然后再应用图8.6所示的变换规则把它变为被动句所示的变换规则把它变为被动句(图图8.6)：Jack is trained by the professor动词动词冠词冠词名词名词Theprofessor名词短语名词短语2专用名词专用名词trains动词动词冠词冠词名词名词TheprofessorJack名词短语名词短语2专用名词专用名词trains动词动词冠词冠词名词名词Theprofessor88.3.2 自顶向下与自底向上分析自顶向下与自底向上分析自顶向下分析法自顶向下分析法 自顶向下分析，是指从起始符开始应用文法规则，一层一层

12、地向下产生分析树的各自顶向下分析，是指从起始符开始应用文法规则，一层一层地向下产生分析树的各个分支，直至生成与输入语句相匹配的完整的句子结构为止。个分支，直至生成与输入语句相匹配的完整的句子结构为止。例如，图例如，图8-4所示的上下文无关文法，采用自顶向下分析方法对语句：所示的上下文无关文法，采用自顶向下分析方法对语句：The professor trains Jack.进行分析的过程是：进行分析的过程是：首先从起始符首先从起始符“语句语句”开始，正向运用规则：开始，正向运用规则：语句语句 句子句子 终标符终标符把分析树的根节点把分析树的根节点“语句语句”替换为它的两个子节点替换为它的两个子节

13、点“句子句子”和和“终标符终标符”。然后再对新生成的节点然后再对新生成的节点“句子句子”使用规则：使用规则：句子句子 名词短语名词短语 动词短语动词短语将其替换为两个子节点将其替换为两个子节点“名词短语名词短语”与与“动词短语动词短语”。对于对于“名词短语名词短语”，有两条规则可用，若按规则的排列顺序，则选用，有两条规则可用，若按规则的排列顺序，则选用 名词短语名词短语 冠词冠词 名词名词将将“名词短语名词短语”被替换为被替换为“冠词冠词”和和“名词名词”，生成两个新节点。对，生成两个新节点。对“冠词冠词”使用规使用规则：则：冠词冠词 The对名词使用规则：对名词使用规则：名词名词 profe

14、ssor 以此进行以此进行，得到如图，得到如图8.8所示的自顶向下的分析树（略）。所示的自顶向下的分析树（略）。98.3.2 自顶向下与自底向上分析自顶向下与自底向上分析自底向上分析法自底向上分析法 自底向上分析，是以输入语句的单词为基础，首先按重写规则的箭头指向，自底向上分析，是以输入语句的单词为基础，首先按重写规则的箭头指向，反方向使用那些最具体的重写规则，把单词归并成较大的结构成分，如短语反方向使用那些最具体的重写规则，把单词归并成较大的结构成分，如短语等，然后对这些成分继续逆向使用规则，直到分析树的根节点为止。等，然后对这些成分继续逆向使用规则，直到分析树的根节点为止。仍以语句仍以语句

15、 The professor trains Jack为例，逆向使用图为例，逆向使用图8.4中的那些具体规则后，可得到图中的那些具体规则后，可得到图8.9所示的所示的 部分分析树。部分分析树。继续逆向使用规则，一步步归并，直到根节点继续逆向使用规则，一步步归并，直到根节点“语句语句”为止，最后即可生成为止，最后即可生成如图如图8.5所示的完整的分析树。所示的完整的分析树。自顶向下分析方法与自底向上分析方法虽然思路清晰，但分析效率不高。自顶向下分析方法与自底向上分析方法虽然思路清晰，但分析效率不高。为了提高分析效率，可采用自顶向下与自底向上相结合的分析方法。为了提高分析效率，可采用自顶向下与自底向

16、上相结合的分析方法。Jack名词短语名词短语专用名词专用名词trains动词动词冠词冠词名词名词Theprofessor终标符终标符.108.4 句义分析句义分析 语义分析就是要识别一句话所表达的实际意义。即弄清楚语义分析就是要识别一句话所表达的实际意义。即弄清楚“干什么了干什么了”，“谁干的谁干的”，“这个行为的原因和结果是什么这个行为的原因和结果是什么”以及以及“这个行为发生的时间、这个行为发生的时间、地点及其所用的工具或方法地点及其所用的工具或方法”等。等。原因是语法分析，仅是在句法范围内根据词性信息来分析自然语言中句子原因是语法分析，仅是在句法范围内根据词性信息来分析自然语言中句子的文

17、法结构的。由于它没有考虑句子本身的含义，也就不能排除像的文法结构的。由于它没有考虑句子本身的含义，也就不能排除像 The paper received the professor这种在语法结构上正确，但实际意义上错误的句子。这种在语法结构上正确，但实际意义上错误的句子。目前，用于语义分析的技术比较多，本节仅简单介绍语义文法和格文法。目前，用于语义分析的技术比较多，本节仅简单介绍语义文法和格文法。8.4.1 语义文法语义文法 8.4.2 格文法格文法118.4.1 语义文法语义文法 语义文法是在上下文无关文法的基础上，将语义文法是在上下文无关文法的基础上，将“名词短语名词短语”、“动词短语动词短

18、语”、“名词名词”等这些不含有语义信息的纯语法类别，用所讨论领域的专门信息，等这些不含有语义信息的纯语法类别，用所讨论领域的专门信息，像像“山山”、“水水”、“动物动物”、等这些具有很强语义约束的语义类别来代替。、等这些具有很强语义约束的语义类别来代替。利用语义文法进行语义分析，就可以排除像利用语义文法进行语义分析，就可以排除像“论文收到教授论文收到教授”这类无意义的这类无意义的句子。句子。例如，下面是一个关于舰船信息的语义文法的例子：例如，下面是一个关于舰船信息的语义文法的例子：S PRESENT the ATTRIBUTE of SHIP PRESENT what is|can you t

19、ell me ATTRIBUTE length|class SHIP the SHIPNAME|CLASSNAME class ship SHIPNAME Huanghe|Changjiang CLASSNAME carrier|submarine 在上述重写规则中，用大写英文字母的单词表示非终极符，小写英文字母在上述重写规则中，用大写英文字母的单词表示非终极符，小写英文字母表示终极符，竖线表示表示终极符，竖线表示“或或”的意思。的意思。利用上述语义文法进行语义分析，可以从语义上识别以下的输入：利用上述语义文法进行语义分析，可以从语义上识别以下的输入：what is the length of

20、 the Huanghe?Can you tell me the class of the Changjiang?128.4.2 格文法格文法格和格框架格和格框架(1/3)格文法是以句子的中心动词为主导，并用格来表示其它成分与此中心动词格文法是以句子的中心动词为主导，并用格来表示其它成分与此中心动词之间的语义关系的一种描述方法。之间的语义关系的一种描述方法。“格格”这个词来源于传统语法，但它与传统语法中的格有着本质不同。在传这个词来源于传统语法，但它与传统语法中的格有着本质不同。在传统语法中，格仅表示一个词或短语在句子中的功能，如主格、宾格、等，反统语法中，格仅表示一个词或短语在句子中的功能，

21、如主格、宾格、等，反映的也只是词尾的变化规则，故称为表层格。在格文法中，格表示的是语义映的也只是词尾的变化规则，故称为表层格。在格文法中，格表示的是语义方面的关系，反映的是句子中所包含的思想、观念等，故称为深层格。方面的关系，反映的是句子中所包含的思想、观念等，故称为深层格。“格格”是一个一般的概念，相对于中心动词的不同语义关系，格可以分为许是一个一般的概念，相对于中心动词的不同语义关系，格可以分为许多种。例如，在句子多种。例如，在句子 John gave the book to Sally中，相对于中心动词中，相对于中心动词gave，John是这个行为的发出者，称为动作格；是这个行为的发出者

22、，称为动作格；the book是行为作用的对象，称为受动格；是行为作用的对象，称为受动格；Sally是行为作用对象所到达的目标，称为目标格。是行为作用对象所到达的目标，称为目标格。138.4.2 格文法格文法格和格框架格和格框架(2/3)一套正确的深层格究竟应包括多少个格，以及这些格的明确含义是什么，一套正确的深层格究竟应包括多少个格，以及这些格的明确含义是什么，目前尚无定论。目前尚无定论。下面给出一个描述行为的句子，它所涉及的深层格主要有：下面给出一个描述行为的句子，它所涉及的深层格主要有：Agent（施事），（施事），动作主格，指行为的施动者；动作主格，指行为的施动者；Object（受事）

23、，受动者格，指行为作用的对象；（受事），受动者格，指行为作用的对象；Co-Agent（共施事），帮助者格，指行为施动者的合作者；（共施事），帮助者格，指行为施动者的合作者；Instrument（工具），工具格，指施事者或共施事者实现行为中所使用（工具），工具格，指施事者或共施事者实现行为中所使用的对象；的对象；Time（时间），（时间），时间格，指行为发生的时间；时间格，指行为发生的时间；Source（来源），来源格，指行为作用对象移出的位置；（来源），来源格，指行为作用对象移出的位置；Goal（目标），（目标），目标格，指行为作用对象到达的位置；目标格，指行为作用对象到达的位置；Trajec

24、tory（轨迹），轨迹格，指从来源到目标所经过的路径。（轨迹），轨迹格，指从来源到目标所经过的路径。14 格框架是一种用来描述句子深层格的框架。格框架是一种用来描述句子深层格的框架。在格文法中，每个句子都联系着一个格框架。其中，框架名可以是相应句在格文法中，每个句子都联系着一个格框架。其中，框架名可以是相应句子的中心动词，框架的槽可分别对应于相应句子的各个深层格，每个槽的槽子的中心动词，框架的槽可分别对应于相应句子的各个深层格，每个槽的槽值为该深层格在相应句子中所代表的语义成分。值为该深层格在相应句子中所代表的语义成分。例如，前述句子分析结束时所得到的实际格框架为：例如，前述句子分析结束时所得

25、到的实际格框架为：GAVE Agent:John Object:the book Source:John Goal:Sally 8.4.2 格文法格文法格和格框架格和格框架(3/3)15作作 业业 题题 8.2 对下列每个语句给出文法分析树：对下列每个语句给出文法分析树：(1)John wanted to go the movie with Sally.(2)John wanted to go to the movie with Robert Redford.(3)I heard the story listening to the radio.(4)I heard the kids listening to the radio.16此课件下载可自行编辑修改，仅供参考！此课件下载可自行编辑修改，仅供参考！感谢您的支持，我们努力做得更好！谢谢感谢您的支持，我们努力做得更好！谢谢