数据挖掘十大算法之Adaboost.pptx

《数据挖掘十大算法之Adaboost.pptx》由会员分享，可在线阅读，更多相关《数据挖掘十大算法之Adaboost.pptx（22页珍藏版）》请在淘文阁 - 分享文档赚钱的网站上搜索。

1、An example给定如下表所示的训练数据：序号12345678910 x0123456789y111-1-1-1111-1第1页/共22页AdaBoost算法AdaptiveBoostingAdaBoost主要思想：从弱学习算法出发，反复学习，得到一系列弱 分类器，然后组合这些弱分类器，构成一个强 分类器。第2页/共22页几个概念强可学习强可学习：在PAC学习的框架中，一个概念（类），如果存在一个多项式的学习算法能够学习它，并且正确率很高，那么就称这个概念是强可学习的弱可学习弱可学习：在PAC学习的框架中，一个概念（类），如果存在一个多项式的学习算法能够学习它，学习的正确率仅比随机猜测略好

2、，那么就称这个概念是弱可学习的在PAC学习框架下，一个概念是强可学习的充分必要条件是这个概念是弱可学习的第3页/共22页AdaBoost算法.弱分类器强分类器第4页/共22页AdaBoost算法第5页/共22页AdaBoost算法弱分类器1第6页/共22页AdaBoost算法权重增大第7页/共22页弱分类器2AdaBoost算法第8页/共22页权重增加AdaBoost算法第9页/共22页弱分类器3AdaBoost算法第10页/共22页最终的强分类器AdaBoost算法第11页/共22页An example给定如下表所示的训练数据：序号12345678910 x0123456789y111-1-

3、1-1111-1第12页/共22页AdaBoost算法Adaboost算法最终分类器的错误率是多少？第13页/共22页第14页/共22页AdaBoost的目标：最小化损失函数第15页/共22页第16页/共22页AdaBoost算法在人脸检测上的应用参考文献：P.Viola and M.Jones.Robust real-time face detection.IJCV 57(2),2004.第17页/共22页人脸检测的目标第18页/共22页级联分类器第19页/共22页人脸检测中的弱分类器第20页/共22页AdaBoost算法改进参考文献：lY.FreundandR.E.Schapire.A decision-theoretic generalization of on-line learning and an application to boosting.JournalofComputerandSystemSciences,55(1):119139,1997.lY.FreundandR.E.Schapire.A short introduction to boosting.JournalofJapaneseSocietyforArtificialIntelligence,14(5):771780,1999.第21页/共22页谢谢您的观看！第22页/共22页