机器学习入门机器学习入门 (21).pdf

贝叶斯决策论01贝叶斯决策论(Bayesian decision theory)是概率框架下实施决策的基本方法。对分类任务来说，在所有相关概率都己知的理想情形下，贝叶斯决策论考虑，如何基于这些概率和误判损失来选择最优的类别标记。这个选择类别的过程也称为贝叶斯分类，而贝叶斯分类又依赖于贝叶斯定理。假设，举办一个抽奖活动，抽奖桶里有10个球，其中2个白球，8个黑球，抽到白球就算中奖。你伸手进去随机摸出1颗球，摸出中奖球的概率是多大？根据频率概率的计算公式，你可以轻松的知道中奖的概率是2/10。贝叶斯定理的引出同样，以抽奖为例，我们并不知道抽奖桶里有什么，而是摸出一个球，通过观察这个球的颜色，来预测这个桶里白色球和黑色球的比例。这就是一个“逆概率”的问题，这个预测就可以用贝叶斯定理来做。贝叶斯定理的引出这是因为现实生活中的问题，大部分都是“逆概率逆概率”问题问题。比如，天气预报说，明天降雨的概率是30%。这是什么意思呢？因为我们无法像计算频率概率频率概率那样，重复地把明天过上100次，然后计算出大约有30次会下雨，所以只能利用有限的信息（过去天气的测量数据），采用贝叶斯定理来预测出明天下雨的概率是多少。为什么贝叶斯定理在现实生活中这么有用呢？为什么贝叶斯定理在现实生活中这么有用呢？为什么贝叶斯定理在现实生活中这么有用呢？为什么贝叶斯定理在现实生活中这么有用呢？同样的，在现实世界中，我们每个人都需要预测。要想深入分析未来、思考是否买股票、政策给自己带来哪些机遇、提出新产品构想，或者只是计划一周的饭菜。贝叶斯定理就是为了解决这些问题而诞生的，它可以根据过去的数据来预测出概率。贝叶斯定理的思考方式为我们提供了明显有效的方法来帮助我们提供能力，以便更好地预测未来的商业、金融、以及日常生活。P(A/B)=P(B/A)P(A)P(B)先验概率条件概率先验概率后验概率贝叶斯定理朋友小明说，他女神每次看到他的时候都会冲他笑，他想知道女神是不是喜欢他呢？分析：1）要求解的问题：女神喜欢你，记为A事件2）已知条件：女神冲你笑，记为B事件3）调查走访了女神的闺蜜，最后发现女神平日比较高冷，很少对人笑。根据条件概率，P(A|B)是女神经常冲你笑这个B事件发生后女神喜欢你（A事件）的概率。先验概率：先验概率：P(A)=0.3，这里根据女神比较高冷，不容易有喜欢的人，主观假设女神喜欢一个人的概率是30%。P(B)=0.19，假设女神喜欢一个人对他笑的概率为0.4，不喜欢一个人对他笑的概率为0.1，通过公式P(B)=P(B|A)P(A)+P(B|A)P(A)，计算可得P(B)=0.19。条件概率：条件概率：P(B|A)=0.4