模式识别第三章概率密度估计.pdf

《模式识别第三章概率密度估计.pdf》由会员分享，可在线阅读，更多相关《模式识别第三章概率密度估计.pdf（28页珍藏版）》请在淘文阁 - 分享文档赚钱的网站上搜索。

1、1概率密度的估计概率密度的估计引 言引 言2引言引言研究内容研究内容3两种方法两种方法参数估计参数估计最大似然估计最大似然估计贝叶斯估计贝叶斯估计4最大似然估计最大似然估计似然函数似然函数5似然函数似然函数讨论讨论6正态分布的最大似然估计正态分布的最大似然估计正态分布的最大似然估计正态分布的最大似然估计7贝叶斯估计贝叶斯估计8贝叶斯估计贝叶斯估计证明证明910贝叶斯学习贝叶斯学习贝叶斯学习贝叶斯学习11估计量的性质与评价估计量的性质与评价以正态分布为例以正态分布为例12以正态分布为例以正态分布为例问题：问题：13结论结论贝叶斯学习示例贝叶斯学习示例14非监督估计非监督估计15非监督参数估计的最

2、大似然法非监督参数估计的最大似然法非监督参数估计的最大似然法非监督参数估计的最大似然法16可识别问题可识别问题最大似然估计的计算最大似然估计的计算17结果结果18正态情况下的非监督参数估计正态情况下的非监督参数估计迭代法求解迭代法求解19讨论讨论非参数估计方法非参数估计方法20非参数估计的基本原理非参数估计的基本原理非参数估计的基本原理非参数估计的基本原理21理论结果理论结果选择方法选择方法22Pazen窗方法窗方法保证我们估计出来的值确实是概率密度函数常用窗函数常用窗函数11()()NNNiipNxxx232425Pazen窗形式窗形式才能保证所估计的符合概率密度函数的性质2627近邻估计近邻估计 解决的办法是：不使用固定的区域，而是固定落在区域内的样本数，例如个，而区域则由的邻域中正好包含个样本定。之所以用符号，表示的选择和总样本数有关。当把近邻法估计出的密度函数直接用于分类时，可以导致非常简单和有效的分类法。28错误率的评估错误率的评估