分类问题和回归问题.docx

《分类问题和回归问题.docx》由会员分享，可在线阅读，更多相关《分类问题和回归问题.docx（11页珍藏版）》请在淘文阁 - 分享文档赚钱的网站上搜索。

1、分类问题和回归问题一、回归问题和分类问题的区别回归问题0分类问题a连续变量1离散变量a定量一定性”对真实值的一种逼近预测，输入变量输出确定的数值二将事物打上一个标签，输入变量输出标签类别”用函数拟合已知数据并对新数据的函数值进行预测“寻找有助于将数据分为几个类别的模型3均方误差一分类准确性回归树、线性回归决策树、逻囱圆归：区别简单概括为上图，具体举例如下：机器学习的思想和教小孩一样，拿识物卡片给她，告诉她这是猫、这 是狗、这是苹果，下次遇到真猫真狗的时候你问她这是啥，如果她 准确说出这是猫还是狗还是苹果，那么这个小孩训练成功了。那么机器学习就是把机器当小孩，给它一些历史数据，告诉机器，这 些数

2、据是什么，然后再给它一些新数据，让它告诉你新数据是什么。是5: 1,如果低于这个比例，婚姻就遇到问题了。最后，将结果放 在一个数学模型上，这个模型用差分方程式凸显出成功婚姻的潜在特 点。戈特曼根据得分，将这些夫妻分成5组：幸福的夫妻：冷静、亲密、相互扶持、关系友好。他们更喜欢 分享经验。无效的夫妻：他们尽最大努力避免冲突，只是通过积极回应对 方的方式。多变的夫妻：他们浪漫而热情，可争论异常激烈。他们时而稳 定时而不稳定，可总的来说不怎么幸福。敌对的夫妻：一方不想谈论某件事，另一方也同意，所以，两 者之间没有交流。彼此无感的夫妻：一方兴致勃勃地想要争论一番，可另一方对 讨论的话题根本不感兴趣。该

3、数学模型呈现了稳定型夫妻和不稳定型夫妻（敌对夫妻和无感夫妻） 之间的区别。而据预测，不稳定的夫妻可能会一直保持婚姻关系，尽 管他们的婚姻不稳定。对新用户进行预测12年以来，每隔一两年，默里和戈特曼都会与参与研究的那700对 夫妻交流。公式对离婚率的预测达到了 94%的准确率。在模型评估时，分类与回归也有区别。在回归中要考虑的是答案不完 全一致时的误差，而分类中要考虑的是答案是否正确。白话机器学习的数学一书中分别讲解了如何验证回归问题和分类 问题。你给它数据并且教它的过程就是力I练过程，它告诉你新数据是什么的 过程是测试过程。好的机器学习模型要求测试集和力I练集数据表征不 同、本质相同，希望模型

4、在没见过的数据上有良好的表现。分类问题：输入数据后输出为数据所代表的类别，例如水果分类器, 输入一个苹果它能告诉你这是苹果（归到苹果这一类），输入一个香 蕉它告诉你这是香蕉（归到苹果这一类），使用分类准确率来度量分 类模型的好坏。（准确率二分类正确的样本数/测试集的样本数）回归问题 输入数据后输出为预测值例如房价走势曲线拟合问题（房 价随房子面积变化的曲线），输入一个房子面积，它能告诉你这个面 积的房子价格，使用均方误差（Mean Square Error, MSE ）来度量 回归模型的好坏,se= i 3 （筑-切2）。二、回归问题和分类问题相互转化有些问题只能是分类问题，例如类别标签具有平

5、行属性的问题：水果 分类（苹果、香蕉、石榴），疾病诊断（心脏病、外伤、心理疾 病、肺病）有些问题只能是回归问题，例如没有明确的类别的问题：股票价格走 势拟合（股票价格随时间变化的曲线） 有些问题可以相互转化，例如类别标签具有连续属性、程度属性（即 类别标签取值连续）的问题：酒店星级、产品等级、随面积增大逐渐增加的房价、情感由强到弱等问题（可以将类别范围表示成一个连续 的数字范围）理论上到底如何将这两类问题转化呢？回归问题转化为分类问题：以房价回归模型为例，假设分类精度 为 ,我们将某个范围内的面积作为输入50,200平方米，得到对 应面积的房价50w,500w将50,500分成m份每份的大小为

6、 , 此时，就将回归问题转为为了分类问题（在训练过程完成转化），在 测试阶段，给定一个面积，预测出一个房价（本质还是预测），当这 个价格位于第i份时，就说这个房子属于第i类分类问题转化为回归问题：例如情感分类问题，情感的强弱不是离 散值，而是连续的，因为大喜大悲的情况概率极小，所以我们可以将 情感类别用数字区间表示，不同的区间代表不同的类，使用回归的方 法完成情感分类，具体实现细节和上例类似不学了，睡觉，明早健身。分类与回归 分类预测建模问题不同于回归预测建模问题。分类是预测离散类标签的任务。回归是预测连续数量的任务。分类 和回归算法之间存在一些重叠；例如：分类算法可以预测一个连续值，但连续值

7、的形式是类别标签的概率。回归算法可以预测一个离散值，但离散值以整数形式存在。一些算法经过小的修改即可用于分类和回归，例如决策树和人工神经 网络。某些算法不能或不能轻松用于这两种问题类型，例如用于回归 预测建模的线性回归和用于分类预测建模的逻辑回归。重要的是，我们评估分类和回归预测的方式各不相同并且不会重叠, 例如:分类预测可以使用准确性进行评估，而回归预测则不能。回归预测可以使用均方根误差进行评估，而分类预测则不能。要弄清楚分类与回归的区别，先要了解分类和回归的关系。结合白 话机器学习的数学，通过具体案例，和大家一起捋一下。首先，分类和回归同属于监督学习需要完成的任务。分类与回归最主要的区别是

8、输出变量的类型：连续变量的预测叫回归, 离散变量的预测是分类。回归的主要作用是了解两个或多个变量之间是否相关，相关的方向, 相关的强度，并利用数学模型以便观察特定变量来预测研究者感兴趣 的变量。分类模型是将回归模型输出离散化，分类和回归模型之间存 在重要差异。根本上来说分类是关于预测标签，而回归是关于预测数量。我们通过 案例来对比一下不同。机器学习监督学习无监督学习逻辑回归线性回归等级体系聚类回归聚类主要组件分析分类分类树决策树混合高斯模型多维统计支持向网络贝叶斯网络遗传算法人工神经网络人工神经网络模糊分类人工神经网络随机投影随机森林人工神经网络K-均值聚类张分解A回归案例：知乎盐值是怎么来的

9、?知乎社区将所有用户在知乎产生的认真、专业的分享，看作知识海洋 析出来的智慧之盐，盐值就是大家在知乎这片盐海里面的价值。盐值最终呈现的形式是分数，个人号0-1000分（机构号0-1200分）， 不同的分段有不同的权利和待遇，而且还会直接影响到内容推荐系统 （答案排名和流通）和账号赋权系统（账号权重），分数越高代表账 号权重越高。以知乎个人号举例，影响知乎个人号盐值的因素包括基础信用、 内容创作、友善互动、遵守规范和社区建设这五个 维度，如下所示。基础信用社区建设目内容创作爆友善互动遵守公约而盐值的发明过程就是监督学习的回归，具体步骤如下: 构建问题选择模型 首先找出盐值的影响因素基础信用、内容

10、创作指数等。基础信用 分数是知乎根据用户站内的账号行为（个人信息完善程度、个人账户 历史处罚情况）等进行数据归纳和赋权计算，从而评估出来的分数。内容创作指数是根据每个用户在站内发布的内容进行评估，再通过发 布内容后获取的赞同反对、评论、收藏等行为进行赋权计算得到的综 合评分。例如：在垂直领域持续创作内容，会对你的内容进行优先排序和推荐;内容中尽量使用客观描述，内容详实，避免存在煽动情绪等言 论；内容严肃有深度、积极向上，能对其他知友产生知识沉淀和帮 助；获得赞同、感谢、收藏，会提升内容创作指数；根据影响用户在平台价值的因素，平台就可以构建一个简单的模型。 这个模型可以理解为一个特定的公式，这个

11、公式可以将这些因素和每 个账户的盐值相关联。收集已知数据为了找出这个公式，我们需要先收集大量的已知数据（包括基础 信用、内容创作、友善互动、遵守规范和社区建设这五个维度）和他/她的知乎盐值（把知乎盐值转化为分数）。我们 把数据分成几个部分，一部分用来训练，一部分用来测试和验证。训练出理想模型有了这些数据，我们通过机器学习，就能“猜测”出这五种数据和盐值 分数的关系。这个关系就是我们想要找到的公式。然后我们再用验证数据和测试数据来验证一下这个公式是否0K。测试验证的具体方法是：将几种数据套入公式，计算出盐值分；用计算出来的盐值跟这个账号实际的盐值（预先准备好的）进 行比较；评估公式的准确度，如果

12、差别很大再进行调整优化。对新用户进行预测当我们想预测一个新用户的盐值分数时，只需要收集到他的这五种数 据，套进公式计算一遍就知道结果了！分类案例：如何预测离婚美国心理学家戈特曼博士曾用大数据还原过婚姻关系的真相，他的方 法就是分类的思路。戈特曼博士在观察和聆听一对夫妻5分钟的谈话后，便能预测他们是 否会离婚，且预测准确率高达94%!我们一起来看一下步骤：构建问题，选择模型戈特曼提出，对话能反映出夫妻之间潜在的问题，他们在对话中的争 吵、欢笑、调侃和情感表露创造了某种情感关联。通过这些对话中的 情绪关联可以将夫妻分为不同的类型，代表不同的离婚概率。收集已知数据研究人员邀请了 700对夫妻参与实验。他们单独在一间屋子里相对坐 下,然后谈论一个有争论的话题，比如金钱和性,或是与姻亲的关系。默里和戈特曼让每一对夫妻持续谈论这个话题15分钟，并拍摄下这 个过程。观察者看完这些视频之后，就根据丈夫和妻子之间的谈话给 他们打分。训练出理想模型戈特曼的方法并不是用机器学习来得到结果，不过原理都是类似的。他得到的结论如下：首先，他们将夫妻双方的分数标绘在一个图表上，两条线的交叉点就 可以说明婚姻能否长久稳定。如果丈夫或妻子持续得负分，两人很可 能会走向离婚。重点在于定量谈话中正负作用的比率。理想中的比率