基于词语对齐融合提高统计机器翻译质量.ppt

《基于词语对齐融合提高统计机器翻译质量.ppt》由会员分享，可在线阅读，更多相关《基于词语对齐融合提高统计机器翻译质量.ppt（21页珍藏版）》请在淘文阁 - 分享文档赚钱的网站上搜索。

1、基于词语对齐融合提高统计机器翻译质量 张春越 哈尔滨工业大学机器智能与翻译研究室提纲研究动机两种词对齐结果分析词对齐结果融合策略实验设置与结果分析结论与未来工作研究动机词对齐是当前主流机器翻译技术的基础目前广泛使用的是Giza+实现的IBM Model4 对齐模型近年来，研究者也相继提出不少其他的词对齐方法不同的词对齐工具并没有绝对意义上的优劣之分 目前学术界对词对齐质量和机器翻译性能之间的关系还没有一个明确的共识 本文切入点给定两种差异较大的词对齐工具，在同一语料上进行词对齐获取 利用这两组不同词对齐的语料共同训练机器翻译模型，是否可以提高机器翻译性能？提纲研究动机两种词对齐结果分析词对齐结

2、果融合策略实验设置与结果分析结论与未来工作两种词对齐工具 IBM词对齐模型GIZA+两个方向“grow-diag-final”合并为 n-to-m对齐 HIT-MITLAB词对齐模型 统计和词典相结合贪心算法实现 SSMT07语料上对齐结果差异度分析Step1:分别进行GIZA+词对齐(GIZA+双向一对多词对齐，然后采用“grow-diag-final”启发式策略获得双向词对齐，下文用“G”代称)和HIT-MITLAB词对齐(下文用“H”代称)；Step2:对两组词对齐结果计算其并集(HG)、交集(HG)、差集(H-G,G-H)；Step3:合并两组词对齐语料成为合并语料；Step4:基于合

3、并语料获取词汇概率表(lex.f2n,lex.n2f)；Step5:根据词汇概率表lex.f2n,lex.n2f，计算各个集合的词对齐关系的平均翻译分值。Step6:统计各种数据，分析两种词对齐信息是否具有明显差异。H、G词对齐集合统计词对齐集合统计GIZA+获取了超过1千万的词对齐个数 而HIT-MITLAB只获得7百多万词对齐个数 H和G相同的词对齐数只占G本身的44.8%，占H本身67%其他数据同样显示出，两者的差异非常明显 词对齐集合 H G HG HG H-G G-H词对齐数7,089,06110,675,7404,787,38112,977,4202,301,6805,888,35

4、9各个集合的词对齐翻译平均分数（1）假设S为一个词对齐集合，(f,e)为任意一个词对齐，Plex_f2n和Plex_n2f为词汇翻译概率表，则有 各个集合的词对齐翻译平均分数（2）两个均分都满足：HG H G HG G-HH-G 融合两者有希望获得性能上的改善 词对齐集合 H G HG HG H-G G-H0.2274340.1940500.3122550.1686800.0510110.0979450.2574960.2126170.3513930.1859390.0621960.099780 H、G词对齐平均词翻译概率统计提纲研究动机两种词对齐结果分析词对齐结果融合策略实验设置与结果分析结

5、论与未来工作词对齐结果融合策略IBM词对齐模型实验（G）HIT-MITLAB词对齐模型实验（H）数据融合实验（HGdc）训练语料:将H与G两个训练语料直接合并模型融合实验（HGmc）将在H和G两组数据上分别训练得到的模型直接合并 提纲研究动机两种词对齐结果分析词对齐结果融合策略实验设置与结果分析实验设置与结果分析结论与未来工作实验设置实验平台 Moses训练语料 SSMT07-811812句 开发集SSMT07汉英开发集 测试集 SSMT07汉英测试集对比实验结果HGdc比G提高了近0.7个BLEU值 减少了未登录词（UNK）的数目 注：表中的PP代表后处理(Post Processing)，

6、包括去掉 UNK，以及一些标点的前向粘结，如 It s -its,end.-end.。.H、G、HGdc、HGmc实验结果实验结果实验BLEUBLEU after PPUNK数H18.2418.84463G19.6120.15477HGdc20.3420.83363HGmc19.3919.94363不同源语言短语数统计不同源语言短语数统计这个短语数和UNK的个数直接相关HGdc比G多出2,240个这些短语使得HGdc的UNK个数比G的下降了114个各组实验中不同源语言短语数统计(用测试集进行过滤后)词对齐集合 HGHGdc短语数21,34420,13322,373例子对比Test卵磷脂卵磷脂

7、被 医学 专家 视为 老年性 痴呆 的 克星，还 可 防治 动脉 粥 样 硬化。G卵磷脂卵磷脂 medical experts deemed old senility,the prevention and control of killers atherosclerotic arteries.HGdclecithin medical experts as old senility of prevention and control of,atherosclerotic arteries.译文对比结果HGdc短语表短语表中文短语英文短语，卵磷脂lecithinB 复合体 之一，卵磷脂 的that

8、 is a constituent of lecithin 卵磷脂lecithinHGdc短语表G的短语表的短语表 中文短语英文短语，卵磷脂 的 一 种 要素that is a constituent of lecithin，卵磷脂 的 一 种 要素；that is a constituent of lecithin;卵磷脂 的 一 种 要素a constituent of lecithin卵磷脂 的 一 种 要素is a constituent of lecithin卵磷脂 的 一 种 要素；a constituent of lecithin;卵磷脂 的 一 种 要素；is a constituent of lecithin;之一，卵磷脂 的 一 种 要素that is a constituent of lecithinCWMT08测试集上的最终得分 BLEUCE新闻0.2104EC新闻0.2425EC科技0.4620谢谢！