回归分析(1)多元线性回归ppt课件.ppt

第二章 多元回归分析方法及其程序实现多元回归分析方法及其程序实现经营者提供商品或者服务有欺诈行为的，应当按照消费者的要求增加赔偿其受到的损失，增加赔偿的金额为消费者购买商品的价款或接受服务的费用 2.1概述经营者提供商品或者服务有欺诈行为的，应当按照消费者的要求增加赔偿其受到的损失，增加赔偿的金额为消费者购买商品的价款或接受服务的费用 2.1概述经营者提供商品或者服务有欺诈行为的，应当按照消费者的要求增加赔偿其受到的损失，增加赔偿的金额为消费者购买商品的价款或接受服务的费用 2.1概述人的身高与体重的关系经营者提供商品或者服务有欺诈行为的，应当按照消费者的要求增加赔偿其受到的损失，增加赔偿的金额为消费者购买商品的价款或接受服务的费用 2.1概述经营者提供商品或者服务有欺诈行为的，应当按照消费者的要求增加赔偿其受到的损失，增加赔偿的金额为消费者购买商品的价款或接受服务的费用 2.1概述任务与目标：u建立数学模型u参数估计u假设检验u方差分析经营者提供商品或者服务有欺诈行为的，应当按照消费者的要求增加赔偿其受到的损失，增加赔偿的金额为消费者购买商品的价款或接受服务的费用 回归分析方法回归分析方法就是在大量试验观测数就是在大量试验观测数据的基础上，找出这些变量之间的内部规据的基础上，找出这些变量之间的内部规律性，从而定量地建立一个变量或多个变律性，从而定量地建立一个变量或多个变量与其余变量之间的统计关系的数学表达量与其余变量之间的统计关系的数学表达式。式。1、多元回归问题：考查一个变量与其余、多元回归问题：考查一个变量与其余多个变量之间的关系多个变量之间的关系 2、多因变量的多元回归问题：考查、多因变量的多元回归问题：考查P个因个因变量与变量与M个自变量的关系个自变量的关系 2.2 2.2 多元线性回归数学模型建立多元线性回归数学模型建立经营者提供商品或者服务有欺诈行为的，应当按照消费者的要求增加赔偿其受到的损失，增加赔偿的金额为消费者购买商品的价款或接受服务的费用 2.2 2.2 多元线性回归数学模型建立多元线性回归数学模型建立经营者提供商品或者服务有欺诈行为的，应当按照消费者的要求增加赔偿其受到的损失，增加赔偿的金额为消费者购买商品的价款或接受服务的费用 2.1 2.1 多元线性回归数学模型建立多元线性回归数学模型建立n模型的建立模型的建立设随机变量设随机变量 与与 个自变量存在线性关系：个自变量存在线性关系：（2.1）式（式（2.1）称为）称为回归方程回归方程，其中，其中 称称为回归系数。为回归系数。为随机变量，为随机变量，称为随机误差，它称为随机误差，它可理解为可理解为 无法用无法用 表示的其他各种表示的其他各种随机因素造成的误差。随机因素造成的误差。经营者提供商品或者服务有欺诈行为的，应当按照消费者的要求增加赔偿其受到的损失，增加赔偿的金额为消费者购买商品的价款或接受服务的费用设有一组样本观测值数据设有一组样本观测值数据其中，其中，表示第表示第 次试验或第次试验或第 个样本关于变量个样本关于变量 的观测值。的观测值。2.2 多元线性回归数学模型建立多元线性回归数学模型建立经营者提供商品或者服务有欺诈行为的，应当按照消费者的要求增加赔偿其受到的损失，增加赔偿的金额为消费者购买商品的价款或接受服务的费用于是有于是有 （2.22.2）其中，其中，为为 个待定参数，个待定参数，为为个相互独立的且服从同一正态分布个相互独立的且服从同一正态分布 的随机的随机变变量量，式式（2.22.2）称称为为多多元元（m m元元）线线性性回回归归数数学学模型。模型。超定方程组 2.2 2.2 多元线性回归数学模型建立多元线性回归数学模型建立经营者提供商品或者服务有欺诈行为的，应当按照消费者的要求增加赔偿其受到的损失，增加赔偿的金额为消费者购买商品的价款或接受服务的费用式（式（2.2）亦可写成矩阵形式，设）亦可写成矩阵形式，设（2.3）2.2 多元线性回归数学模型建立多元线性回归数学模型建立因变量自变量误差未知参数经营者提供商品或者服务有欺诈行为的，应当按照消费者的要求增加赔偿其受到的损失，增加赔偿的金额为消费者购买商品的价款或接受服务的费用（1）参数估计：）参数估计：（2）显著性检验：）显著性检验：（3）模型检查：）模型检查：即检查对模型所作假设是否成立；（4）预测和控制，及对实际问题的结构分析。）预测和控制，及对实际问题的结构分析。2.2 2.2 多元线性回归数学模型建立多元线性回归数学模型建立经营者提供商品或者服务有欺诈行为的，应当按照消费者的要求增加赔偿其受到的损失，增加赔偿的金额为消费者购买商品的价款或接受服务的费用 2.3 2.3 回归模型中参数的最小二乘估计回归模型中参数的最小二乘估计 在回归模型式（在回归模型式（2.1）中，只要）中，只要 确定回归确定回归模型实际上就确定了。该如何确定模型实际上就确定了。该如何确定 呢呢?这里我们采用最小二乘法来对回归模型式这里我们采用最小二乘法来对回归模型式（2.3）中的）中的 作最小二乘估计。作最小二乘估计。设设 分别是分别是 的最小二乘估的最小二乘估计值，于是有计值，于是有 （2.4）经营者提供商品或者服务有欺诈行为的，应当按照消费者的要求增加赔偿其受到的损失，增加赔偿的金额为消费者购买商品的价款或接受服务的费用式（式（2.4）中：）中：是是 的一个最小二乘估计。的一个最小二乘估计。对于每一个试验数据对于每一个试验数据 。由式（由式（2.4），可得一个），可得一个 ，即，即 。这里称。这里称 为实际为实际值值 的的回归值。回归值。2.3 2.3 回归模型中参数的最小二乘估计回归模型中参数的最小二乘估计经营者提供商品或者服务有欺诈行为的，应当按照消费者的要求增加赔偿其受到的损失，增加赔偿的金额为消费者购买商品的价款或接受服务的费用显然，回归值显然，回归值 与实际值与实际值 有误差，即有误差，即当然我们希望当然我们希望 与与 值偏离程度越小越好，这值偏离程度越小越好，这样才能使回归值样才能使回归值 与实际值与实际值 拟合得最好。这拟合得最好。这里里 与与 偏差越小是指每一个偏差越小是指每一个 与与 的距离越的距离越小。小。2.3 回归模型中参数的最小二乘估计回归模型中参数的最小二乘估计经营者提供商品或者服务有欺诈行为的，应当按照消费者的要求增加赔偿其受到的损失，增加赔偿的金额为消费者购买商品的价款或接受服务的费用于是对全部观察值（试验值）有于是对全部观察值（试验值）有 2.3 2.3 回归模型中参数的最小二乘估计回归模型中参数的最小二乘估计多元函数求极值问题经营者提供商品或者服务有欺诈行为的，应当按照消费者的要求增加赔偿其受到的损失，增加赔偿的金额为消费者购买商品的价款或接受服务的费用（2.6）2.3 2.3 回归模型中参数的最小二乘估计回归模型中参数的最小二乘估计经营者提供商品或者服务有欺诈行为的，应当按照消费者的要求增加赔偿其受到的损失，增加赔偿的金额为消费者购买商品的价款或接受服务的费用 2.3 回归模型中参数的最小二乘估计回归模型中参数的最小二乘估计这里令这里令经营者提供商品或者服务有欺诈行为的，应当按照消费者的要求增加赔偿其受到的损失，增加赔偿的金额为消费者购买商品的价款或接受服务的费用所以式（所以式（2.5）可用矩阵形式表示为）可用矩阵形式表示为如果系数矩阵如果系数矩阵 满秩，则满秩，则 存在，此时有存在，此时有（2.7）这里式（这里式（2.7）即为）即为多元回归方程中参数的最多元回归方程中参数的最小二乘估计小二乘估计。2.3 回归模型中参数的最小二乘估计回归模型中参数的最小二乘估计经营者提供商品或者服务有欺诈行为的，应当按照消费者的要求增加赔偿其受到的损失，增加赔偿的金额为消费者购买商品的价款或接受服务的费用正规方程组式（正规方程组式（2.6）亦可表达为下述另一种）亦可表达为下述另一种形式：如果记形式：如果记 2.3 2.3 回归模型中参数的最小二乘估计回归模型中参数的最小二乘估计经营者提供商品或者服务有欺诈行为的，应当按照消费者的要求增加赔偿其受到的损失，增加赔偿的金额为消费者购买商品的价款或接受服务的费用则由式（则由式（2.6）中第一等式可解出）中第一等式可解出（2.8）再将式（再将式（2.8）代入式（）代入式（2.6）其他各式中，经）其他各式中，经化简整理可得化简整理可得 2.3 回归模型中参数的最小二乘估计回归模型中参数的最小二乘估计经营者提供商品或者服务有欺诈行为的，应当按照消费者的要求增加赔偿其受到的损失，增加赔偿的金额为消费者购买商品的价款或接受服务的费用 （2.9）2.3 2.3 回归模型中参数的最小二乘估计回归模型中参数的最小二乘估计经营者提供商品或者服务有欺诈行为的，应当按照消费者的要求增加赔偿其受到的损失，增加赔偿的金额为消费者购买商品的价款或接受服务的费用又由又由 如果记如果记 2.3 回归模型中参数的最小二乘估计回归模型中参数的最小二乘估计经营者提供商品或者服务有欺诈行为的，应当按照消费者的要求增加赔偿其受到的损失，增加赔偿的金额为消费者购买商品的价款或接受服务的费用则式（则式（2.9）可以表示为）可以表示为 （2.10）2.3 回归模型中参数的最小二乘估计回归模型中参数的最小二乘估计经营者提供商品或者服务有欺诈行为的，应当按照消费者的要求增加赔偿其受到的损失，增加赔偿的金额为消费者购买商品的价款或接受服务的费用式（式（2.10）称为）称为正规方程组正规方程组，解此方程组可，解此方程组可得得 ，再代入式（，再代入式（2.8）中则得）中则得 ，于是得回归方程，于是得回归方程式（式（2.11）称为）称为回归超平面方程回归超平面方程。（2.11）2.3 回归模型中参数的最小二乘估计回归模型中参数的最小二乘估计经营者提供商品或者服务有欺诈行为的，应当按照消费者的要求增加赔偿其受到的损失，增加赔偿的金额为消费者购买商品的价款或接受服务的费用如果记式（如果记式（2.10）的系数矩阵为）的系数矩阵为 ，右端常数，右端常数项向量为项向量为 ，则，则记记 ，则式（，则式（2.10）的矩阵形式）的矩阵形式为为再代回到式（再代回到式（2.8），则得），则得 。2.3 回归模型中参数的最小二乘估计回归模型中参数的最小二乘估计经营者提供商品或者服务有欺诈行为的，应当按照消费者的要求增加赔偿其受到的损失，增加赔偿的金额为消费者购买商品的价款或接受服务的费用例例2.12.1 某养猪场估算猪的毛重，测得某养猪场估算猪的毛重，测得1414头猪的头猪的体长体长 ，胸围，胸围 与体重与体重 的数据如表的数据如表2.12.1所示，所示，请建立请建立 与与 及及 的预测方程。的预测方程。多元线性回归分析的应用多元线性回归分析的应用经营者提供商品或者服务有欺诈行为的，应当按照消费者的要求增加赔偿其受到的损失，增加赔偿的金额为消费者购买商品的价款或接受服务的费用n解解 由公式可计算出由公式可计算出多元线性回归分析的应用多元线性回归分析的应用经营者提供商品或者服务有欺诈行为的，应当按照消费者的要求增加赔偿其受到的损失，增加赔偿的金额为消费者购买商品的价款或接受服务的费用于是得正规方程组为于是得正规方程组为 解此方程组得解此方程组得 又由又由 所求预测回归方程为所求预测回归方程为多元线性回归分析的应用多元线性回归分析的应用