概率论与数理统计数理统计方法.ppt

《概率论与数理统计数理统计方法.ppt》由会员分享，可在线阅读，更多相关《概率论与数理统计数理统计方法.ppt（55页珍藏版）》请在淘文阁 - 分享文档赚钱的网站上搜索。

1、概率论与数理统计课件数理统计方法现在学习的是第1页，共55页2.1 2.1 数理统计的基本概念数理统计的基本概念 我们把研究对象的全体称为我们把研究对象的全体称为总体总体,而把组成而把组成总体的每个基本单元称为总体的每个基本单元称为个体个体.从总体从总体X中随中随机抽取机抽取n个个体个个体(X1,X2,Xn)称为总体称为总体X中一中一个个样本样本,n 称为称为样本容量样本容量.由于样本是随机抽样的由于样本是随机抽样的,可以认为来自总体可以认为来自总体X中一个样本中一个样本(X1,X2,Xn)是一组相互独立且与是一组相互独立且与总体总体X同分布的随机变量同分布的随机变量.样本的观测值记为样本的观

2、测值记为(x1,x2,xn),样本样本(X1,X2,Xn)的不含任何未知参数的函数的不含任何未知参数的函数 f(X1,X2,Xn)称为称为统计量统计量.现在学习的是第2页，共55页常用统计量常用统计量样本均值样本均值样本方差样本方差样本标准差样本标准差现在学习的是第3页，共55页 根据样本的观测值根据样本的观测值(x1,x2,xn),可可以绘出样本频率直方图和累积频率直方图以绘出样本频率直方图和累积频率直方图(具具体方法见体方法见P10-11).P10-11).根据样本频率直方图和累积频率直方图可根据样本频率直方图和累积频率直方图可以近似描绘出总体的分布密度函数曲线和分布以近似描绘出总体的分布

3、密度函数曲线和分布函数曲线函数曲线.记住：最终还是要找出总体的分布规律！记住：最终还是要找出总体的分布规律！现在学习的是第4页，共55页2.2 2.2 参数估计参数估计 根据实际数据找出其规律根据实际数据找出其规律,它一般是含有未它一般是含有未知参数的数学关系式知参数的数学关系式.参数估计就是要根据实际数据给出数学关参数估计就是要根据实际数据给出数学关系式中未知参数的估计值系式中未知参数的估计值.参数估计的方法比较多参数估计的方法比较多.一般情况下一般情况下,参数参数估计问题可归结为求一个函数的极值点问题估计问题可归结为求一个函数的极值点问题.下面主要介绍最小二乘法和极大似然法下面主要介绍最小

4、二乘法和极大似然法.现在学习的是第5页，共55页最小二乘法最小二乘法 设设 y=f(x;),其中其中x是自变量是自变量(或向量或向量),),是未知参数是未知参数(或未知向量或未知向量),),y 是是 x的函数的函数.x 和和 y 都是可观测的都是可观测的.(x1,y1),(x2,y2),(xn,yn)是是n组观测值组观测值.最小二乘法的基本思想就是求最小二乘法的基本思想就是求 的一个的一个估计值估计值,使函数取使函数取最小值最小值.现在学习的是第6页，共55页 例如，例如，2003年年全国大学生数学建模竞赛全国大学生数学建模竞赛A题：题：SARS的传播的传播(http:/)假如你已经得到已确诊

5、假如你已经得到已确诊SARS病例累计数病例累计数x(t)与时间与时间t的关系符合的关系符合Logistic传播规律：传播规律：应用最小二乘法，可求出其中的未知参应用最小二乘法，可求出其中的未知参数数K、x0 0、r(可利用可利用MATLAB软件中的软件中的fmins函数函数).).现在学习的是第7页，共55页极大似然法极大似然法 设总设总体体 的概率分布的概率分布为为 p(x;)，其中，其中 是未是未知参数知参数.x1,x2,xn是总体的样本观测值是总体的样本观测值.称称L()为似然函数为似然函数.令令 极大似然法的基本思想是：在极大似然法的基本思想是：在 的取值范的取值范围内围内,挑选使似然

6、函数挑选使似然函数L()取得最大值的取得最大值的 估计估计值值.一般只需求一般只需求ln L()的最大值点即可：的最大值点即可：max ln L().现在学习的是第8页，共55页 例如，例如，1999年年全国大学生数学建模竞赛全国大学生数学建模竞赛A题：自动化车床管理题：自动化车床管理(P49).100次刀具故障记录次刀具故障记录(完成的零件数完成的零件数)服服从正态分布从正态分布(在假设检验中，我们将会验证这在假设检验中，我们将会验证这一点一点)：似然函数为似然函数为可以验证未知参数可以验证未知参数、分别是样本均值与标准差分别是样本均值与标准差现在学习的是第9页，共55页2.3 2.3 假设

7、检验假设检验 假设总体期望值为假设总体期望值为 0,假设总体方差不假设总体方差不大于大于 02，假设总体服从某种分布，假设总体服从某种分布,上述种种上述种种假设是否成立呢？假设是否成立呢？还有某种品种是否比其它品种更优？某种还有某种品种是否比其它品种更优？某种药品是否比其它药品更有效？等等这些问题需药品是否比其它药品更有效？等等这些问题需通过概率计算通过概率计算,采用假设检验的方法采用假设检验的方法,才能才能做出正确的推断做出正确的推断.假设检验的主要内容有：一个正态总体假设检验的主要内容有：一个正态总体的假设检验、两个正态总体的假设检验以及的假设检验、两个正态总体的假设检验以及分布律的假设检

8、验分布律的假设检验.现在学习的是第10页，共55页假设检验的基本方法假设检验的基本方法 提出待检验的假设提出待检验的假设H0 它可能有以下几个来源：它可能有以下几个来源：依据以往的经验依据以往的经验或某些实验的结果；或某些实验的结果；依据某种理论或某种模型；依据某种理论或某种模型；根据事先所做的某种规定根据事先所做的某种规定.选择检验假设选择检验假设H0 的统计量，并确定其分布，的统计量，并确定其分布，再根据样本观测值计算出该统计量的值再根据样本观测值计算出该统计量的值.确定拒绝域并作出判断确定拒绝域并作出判断 在给定的检验水平在给定的检验水平(或显著性水平或显著性水平)(0(0 1)1)下，

9、查所选统计量服从的分布表，求出临界值，然后下，查所选统计量服从的分布表，求出临界值，然后根据小概率事件在一次观测中不可能发生的原理确定检根据小概率事件在一次观测中不可能发生的原理确定检验假设验假设H0的拒绝域并做出判断的拒绝域并做出判断.现在学习的是第11页，共55页一个正态总体的假设检验有以下两种：一个正态总体的假设检验有以下两种：未知未知方差方差 2,检验假设检验假设H0：=0(0为已知，为已知，步骤步骤见见P15-16)P15-16)提出待检假设提出待检假设H0：=0.选取样本选取样本(X1,X2,Xn)的统计量：的统计量：再根据样本观测值计算出统计量再根据样本观测值计算出统计量T 的值

10、的值.查表得临界值：查表得临界值：t =t (n-1).然后根据然后根据P|T|t =下结论：若下结论：若|T|t ,则则否定否定H0；否则；否则,一般情况下接受一般情况下接受H0.现在学习的是第12页，共55页 未知未知期望期望,检验假设检验假设H0：2 02(02已知，步骤已知，步骤见见P16)P16)提出待检假设提出待检假设H0：2 02.选取样本选取样本(X1,X2,Xn)的统计量：的统计量：再根据样本观测值计算出统计量再根据样本观测值计算出统计量 2 的值的值.查表得临界值：查表得临界值：2=2(n-1).然后根据然后根据P|2|2 =下结论：下结论：若若|2|2,则否定则否定H0；

11、否则；否则,一般情况下接一般情况下接受受H0.现在学习的是第13页，共55页 例如，假设你要例如，假设你要检查食盐检查食盐包装机工作是否包装机工作是否正常？正常？(见见P16)P16)首先首先,你要建立假设检验你要建立假设检验H0：=0(0=500)，检验包装机有没有产生系统误差；，检验包装机有没有产生系统误差；再建立假设检验再建立假设检验H1：2 02(02=102)，检，检验包装机工作是否稳定验包装机工作是否稳定.现在学习的是第14页，共55页两个正态总体的假设检验有以下三种：两个正态总体的假设检验有以下三种：未知期望未知期望 1,2,检验假设检验假设H0：12=22.建立待检假设建立待检

12、假设H0：12=22.(步骤见步骤见P17)P17)选取样本选取样本(X1,X2,Xm),(Y1,Y2,Yn)的统计量的统计量(不妨设不妨设S12S22)：再根据样本观测值计算出统计量再根据样本观测值计算出统计量F 的值的值.查表得临界值：查表得临界值：F/2=F/2(m-1,n-1).然后根据然后根据P FF/2 =/2 下结论：若下结论：若FF/2,则否定则否定H0；否则；否则,一般情况下接受一般情况下接受H0.现在学习的是第15页，共55页 未知未知期望期望 1,2,检验假设检验假设H0：12 22 建立待检假设建立待检假设H0：12 22.(步骤见步骤见P17)P17)选取样本选取样本

13、(X1,X2,Xm),(Y1,Y2,Yn)的统计量：的统计量：再根据样本观测值计算出统计量再根据样本观测值计算出统计量F 的值的值.查表得临界值：查表得临界值：F =F(m-1,n-1).然后根据然后根据P FF =下结论：若下结论：若FF ,则否则否定定H0；否则；否则,一般情况下接受一般情况下接受H0.现在学习的是第16页，共55页 未知未知方差方差 12,22,但但 12=22，检验假设，检验假设H0：1=2(步骤见步骤见P17)P17)建立建立待检假设待检假设H0：1=2.选取统计量：选取统计量：其中其中 特别地特别地,当当m=n时时,查表得临界值：查表得临界值：t =t (m+n 2

14、).然后根据然后根据P|T|t =下结论：若下结论：若|T|t ,则则否定否定H0；否则；否则,一般情况下接受一般情况下接受H0.现在学习的是第17页，共55页 例如，要例如，要检查某种新药检查某种新药是否有效？是否有效？首先首先,将病人分为两类将病人分为两类,一类用该药一类用该药,另一类不用另一类不用.然后建立假设检验然后建立假设检验H0：12=22,检验两类病人指标方检验两类病人指标方差是否相等？差是否相等？当方差相等时当方差相等时,再建立假设检验再建立假设检验H1：1=2,检验检验两类病人指标均值是否相等？两类病人指标均值是否相等？又如，你要又如，你要检查两台食盐检查两台食盐包装机中哪一

15、台包装机包装机中哪一台包装机更好？更好？首先首先,你要分别建立假设检验你要分别建立假设检验H1：1=0与与H2：1=0(0=500),),检验每台包装机有没有产生系统误检验每台包装机有没有产生系统误差？差？再建立假设检验再建立假设检验H3：12 22,检验哪一台包装机更检验哪一台包装机更好？好？现在学习的是第18页，共55页 分布律的假设检验按分布律的假设检验按皮尔逊皮尔逊(K.Pearson)平平方和准则方和准则(步骤见步骤见P18-19)P18-19)例如，例如，1999年年全国大学生数学建模竞赛全国大学生数学建模竞赛A题：自动化车床管理题：自动化车床管理(P49).检验检验100次刀具故

16、次刀具故障记录障记录(完成的零件数完成的零件数)是否服从正态分布是否服从正态分布N(600,38663.02=196.632).100100-200200-300300-400400-500500-600频数频数mi12461522概率概率pi0.0044 0.0155 0.0426 0.0910 0.1509 0.1945 600-700700-800800-900900-10001000-11001100频数频数mi22148411概率概率pi0.1945 0.1510 0.0910 0.0426 0.0155 0.0044现在学习的是第19页，共55页首先做首先做假设假设H0：F(x)=

17、F0(x)，其中，其中 其次选取统计量：其次选取统计量：查表得临界值查表得临界值(12-1-2)=3.33.因为因为3.333.75,故否定故否定H0,所以在显著性所以在显著性水平水平0.05下认为？下认为？现在学习的是第20页，共55页 因为因为 (12-1-2)=3.333.75,故否定故否定H0.所以在显著性水平所以在显著性水平0.05下认为下认为 100次刀具次刀具故障记录故障记录(完成的零件数完成的零件数)不服从正态分布不服从正态分布N(600,196.632).但是但是(12-1-2)=4.17.因为因为3.754.17,故接受故接受H0.所以在显著性所以在显著性水平水平0.1下认

18、为下认为 100次刀具故障记录次刀具故障记录服从正态分布服从正态分布N(600,196.632).即有即有90%90%的可能性认为的可能性认为 100次刀具故障记录服从次刀具故障记录服从正态分布正态分布N(600,196.632).现在学习的是第21页，共55页2.4 2.4 方差分析方差分析 用不同的生产方法生产同一种产品用不同的生产方法生产同一种产品,比比较各种生产方法对产品的影响是人们经常遇较各种生产方法对产品的影响是人们经常遇到的问题到的问题.为此为此,需要找出对产品有显著影响的因素需要找出对产品有显著影响的因素.方差分析就是鉴别各因素效应的一种有效方差分析就是鉴别各因素效应的一种有效

19、的统计方法的统计方法.方差分析包括单因素方差分析和双因素方方差分析包括单因素方差分析和双因素方差分析差分析.现在学习的是第22页，共55页单因素方差分析单因素方差分析 如果在试验中只有一个因素在变化如果在试验中只有一个因素在变化,其其它可控制的条件不变它可控制的条件不变,称它为称它为单因素试验单因素试验；若；若试验中变化的因素多于一个试验中变化的因素多于一个,则称为则称为双因素以双因素以及多因素试验及多因素试验.单因素试验中单因素试验中,若只有两个水平若只有两个水平,就是以就是以前讲过的两个总体的比较问题前讲过的两个总体的比较问题.超过两个水超过两个水平的时候平的时候,也就是需要好多个总体进行

20、比较也就是需要好多个总体进行比较,这时这时,方差分析是一种有效的方法方差分析是一种有效的方法.单因素方差分析的假设前提、解题方法与单因素方差分析的假设前提、解题方法与步骤见步骤见P20-21 现在学习的是第23页，共55页 例例 为了考察为了考察6种不同的农药的杀虫率有无显著差种不同的农药的杀虫率有无显著差异异,做了做了18次试验次试验,得数据如下：得数据如下：农药农药 杀杀 虫虫 率率(%)(%)行平均值行平均值 1 87.4 85.0 80.2 84.201 87.4 85.0 80.2 84.20 2 90.5 88.5 87.3 94.7 90.26 2 90.5 88.5 87.3

21、94.7 90.26 3 56.2 62.4 59.30 3 56.2 62.4 59.30 4 55.0 48.2 51.60 4 55.0 48.2 51.60 5 92.0 99.2 95.3 91.5 94.50 5 92.0 99.2 95.3 91.5 94.50 6 76.2 72.3 81.3 76.27 6 76.2 72.3 81.3 76.27 要考察这要考察这6 6种不同的农药的杀虫率有无显著差异，需要建立种不同的农药的杀虫率有无显著差异，需要建立假设检验：假设检验：H0：1=2=6=.进一步进一步,自然希望找出最优的农药自然希望找出最优的农药,以便提高杀虫率以便提高杀

22、虫率.因因此要检验假设：此要检验假设：H1：2=5.现在学习的是第24页，共55页双因素方差分析双因素方差分析 进行双因素方差分析的目的进行双因素方差分析的目的,是要检验两是要检验两个因素对试验结果有无影响个因素对试验结果有无影响.在试验中在试验中,对每一因素的每一水平都可取一对每一因素的每一水平都可取一个容量为个容量为nij的样本的样本.按按nij=1(无重复试验无重复试验,不考虑两因素间的不考虑两因素间的交互作用交互作用)和和nij2(不等重复试验不等重复试验,考虑两因考虑两因素间的交互作用素间的交互作用)分为两种情形：无重复试验的分为两种情形：无重复试验的双因素方差分析和重复试验的双因素

23、方差分析双因素方差分析和重复试验的双因素方差分析.现在学习的是第25页，共55页 在重复试验的双因素方差分析中，就在重复试验的双因素方差分析中，就是要考察两个因素是要考察两个因素 A,B之间是否存在交互之间是否存在交互作用的影响作用的影响,需要对两个因素各种水平的需要对两个因素各种水平的组合组合(Ai,Bj)进行重复试验进行重复试验,假设每一个组假设每一个组合都重复试验合都重复试验 m(m1)次次(若是不等重复若是不等重复试验试验,残缺数据可按均值补齐以便于计算残缺数据可按均值补齐以便于计算).).无重复试验的双因素方差分析和重无重复试验的双因素方差分析和重复试验的双因素方差分析解题方法与步复

24、试验的双因素方差分析解题方法与步骤见骤见P22-24 P22-24 现在学习的是第26页，共55页 例例 设设4 4个工人操作个工人操作3 3台机器各一天台机器各一天,日产量日产量数据如下：数据如下：工人工人机器机器B1 B2B3B4行平均值行平均值 A15047475349.25A25354575855.5A35242414845.75列平均值列平均值 51.6747.6748.335350.17问是否真正存在机器或工人之间的差别？问是否真正存在机器或工人之间的差别？现在学习的是第27页，共55页2.5 2.5 回归分析回归分析 回归分析是考察两个变量之间统计联系的回归分析是考察两个变量之间

25、统计联系的一种重要方法一种重要方法,它在许多领域中都有极其广泛的它在许多领域中都有极其广泛的应用应用.变量之间的关系大致可分为两类变量之间的关系大致可分为两类,一类一类是确定性的关系是确定性的关系,如我们熟知的函数关系；另如我们熟知的函数关系；另一类是非确定性的关系一类是非确定性的关系.本节主要考察非确定性的关系中一个随本节主要考察非确定性的关系中一个随机变量与另一个或多个非随机变量之间的关机变量与另一个或多个非随机变量之间的关系系.现在学习的是第28页，共55页回归函数回归函数 对于某些非确定性的关系对于某些非确定性的关系,如随机变量如随机变量Y与与变量变量x(它可能是多维向量它可能是多维向

26、量)之间的关系之间的关系,当自变当自变量量x确定之后确定之后,因变量因变量Y 的值并不跟着确定的值并不跟着确定,而是而是按一定的统计规律按一定的统计规律(即随机变量即随机变量Y的分布的分布)取值取值.这时我们将它们之间的关系表示为这时我们将它们之间的关系表示为Y=f(x)+,其中其中f(x)是一个确定的函数是一个确定的函数,称之为称之为回归函数回归函数.为随机项为随机项,且且 N(0,2).现在学习的是第29页，共55页回归分析的任务之一是确定回归函数回归分析的任务之一是确定回归函数 f(x).当当 f(x)是一元线性函数时是一元线性函数时,称之为称之为一元线性回归一元线性回归；当当 f(x)

27、是多元线性函数时是多元线性函数时,称之为称之为多元线性回归多元线性回归；当当 f(x)是非线性函数时是非线性函数时,称之为称之为非线性回归非线性回归.如何确定回归函数如何确定回归函数 f(x)呢？一是根据经验公式呢？一是根据经验公式,二是根据散点图二是根据散点图.不管是那种类型的回归不管是那种类型的回归,f(x)总含有未知参数总含有未知参数,需需要用到参数估计方法要用到参数估计方法.一般情况下一般情况下,还需要检验回归函数还需要检验回归函数 f(x)是否合是否合理理.回归分析的目的是用回归分析的目的是用 f(x)来做预测和决策来做预测和决策.现在学习的是第30页，共55页一元线性回归、预测和控

28、制一元线性回归、预测和控制 一元线性回归是根据一元线性回归是根据数据数据(xi,yi)(i=1,2,n)确定线性关系确定线性关系y=0+1 x，利利用用最最小小二二乘乘法法确确定定回回归归直直线线方方程程中中的的未未知知参参数数 0和和 1：其中其中现在学习的是第31页，共55页 判断变量判断变量y与与x之间是否存在线性关系之间是否存在线性关系,需需要检验假设要检验假设H0：1=0.选取统计量选取统计量U+Q=Syy回归和总和残差平方和根据根据PFF (1,n-2)=下结论：下结论：如果如果FF 拒绝拒绝H0,即变量即变量y与与x之间存在之间存在线性关系；线性关系；否则接受否则接受H0,即变量

29、即变量y与与x之间不存在线性关之间不存在线性关系系,考虑用其它回归模型考虑用其它回归模型.现在学习的是第32页，共55页利用回归函数进行预测和控制利用回归函数进行预测和控制 如何根据样本提供的信息来预测当变量如何根据样本提供的信息来预测当变量 x=x0 时时随机变量随机变量Y0的值？的值？一个自然的想法是用预测量一个自然的想法是用预测量 y0=0+1 x0 来代替来代替,但是它与真值但是它与真值Y0 的差值是多少呢？的差值是多少呢？预测量预测量y0 的优劣取决于的优劣取决于|y0-Y0|的大小的大小.记记 当当n较大时较大时,估测区间的上下限近似取作估测区间的上下限近似取作(可信程度为可信程度

30、为95%)95%);或或(可信程度为可信程度为99%).99%).现在学习的是第33页，共55页 控制是预测的反问题控制是预测的反问题,即要使随机变量即要使随机变量 Y 落在指定落在指定的区间的区间(yL,yU)内内,变量变量x应控制在什么区间内？应控制在什么区间内？从方程从方程中解出中解出xL和和xU.则当则当 10 0时时,控制区间为控制区间为(xL,xU)；当；当 10 0时时,控制区间为控制区间为(xU,xL).现在学习的是第34页，共55页 例例 下面给出了悬挂不同重量下面给出了悬挂不同重量x(单位：单位：g)的物体的物体时弹簧的长度时弹簧的长度y(单位：单位：cm)：xi 5 10

31、 15 20 25 30 5 10 15 20 25 30yi 7.25 8.12 8.95 9.90 10.90 11.80 7.25 8.12 8.95 9.90 10.90 11.80 (1)(1)变量变量y与与x之间的线性关系如何？之间的线性关系如何？(2)(2)当悬挂当悬挂16g重物时弹簧的长度大约是多少？重物时弹簧的长度大约是多少？(3)(3)要使弹簧的长度控制在要使弹簧的长度控制在1011cm之间之间,问悬挂问悬挂物体的重量应控制在什么范围内？物体的重量应控制在什么范围内？现在学习的是第35页，共55页可线性化回归可线性化回归 根据经验公式或散点图根据经验公式或散点图,选择适当的

32、曲线回归方程选择适当的曲线回归方程.为了确定其中的未知参数为了确定其中的未知参数,往往可以通过变量代换往往可以通过变量代换,把非线性回归化为线性回归把非线性回归化为线性回归,然后用线性回归的方法然后用线性回归的方法确定这些参数的值确定这些参数的值.下表列出了常用的可线性化回归下表列出了常用的可线性化回归(a0).0).曲线方程曲线方程变换公式变换公式变换后的线性方程变换后的线性方程1/y=a+b/xu=1/x,v=1/yv=a+buy=axbu=lnx,v=lnyv=c+bu(c=lna)y=a+blnxu=lnx,v=yv=a+buy=aebxu=x,v=lnyv=c+bu(c=lna)y=

33、1/(a+be-x)u=e-x,v=1/yv=a+bu现在学习的是第36页，共55页多元线性回归和预测多元线性回归和预测 设随机变量设随机变量Y与与m个变量个变量x1,x2,xm有线性关有线性关系系Y=0+1 x1+2 x2+m xm+,其中其中 为随机项为随机项,且且 N(0,2).记记其中其中yi为随机变量为随机变量Y的观测值的观测值,X为已知的常数矩阵为已知的常数矩阵,且残差且残差 i N(0,2).现在学习的是第37页，共55页则问题归结为根据则问题归结为根据y和和X求求 使残差平方和使残差平方和达到达到最小值最小值.Q=T =(y-X )T(y-X )令令得得 =(X T X)-1

34、X T y.即得到所求的回归方程为即得到所求的回归方程为 y=0+1 x1+2 x2+m xm.现在学习的是第38页，共55页相关性检验相关性检验 H0：1=2=m=0.选取统计量选取统计量U+Q=Syy根据根据PFF (m-1,n-m-1)=下结论：下结论：如果如果FF 拒绝拒绝H0,即变量即变量 y与与x1,x2,xm 之之间存在线性关系；间存在线性关系；否则接受否则接受H0,即变量即变量y与与x1,x2,xm之间不存之间不存在线性关系在线性关系.现在学习的是第39页，共55页偏偏F检验法检验法 在多元线性回归模型中在多元线性回归模型中,拒绝假设拒绝假设H0,即回归方即回归方程显著程显著.

35、然而变量然而变量x1,x2,xm对对Y的影响并不都是的影响并不都是十分重要的十分重要的,人们还关心人们还关心Y对对x1,x2,xm的回归中的回归中哪些因素更重要些哪些因素更重要些,哪些不重要哪些不重要.要剔除不重要的要剔除不重要的,需要采用需要采用偏偏F检验法检验法,即检验假即检验假设设Hk：k=0,k=1,2,m.通常选取统计量通常选取统计量akk是是(X T X)-1的主对角线上第的主对角线上第k+1个元素个元素.现在学习的是第40页，共55页偏偏F检验法检验法检验假设检验假设Hk：k=0,k=1,2,m.通常选取统计量通常选取统计量其中其中 akk是是(X T X)-1的主对角线上第的主

36、对角线上第k+1个元素个元素.根据根据PFkF(1,n m 1)=下结论：下结论：如果如果FkF 拒绝拒绝H0,即即xk对对Y的影响显著；否则接的影响显著；否则接受受Hk,即即xk对对Y的影响不显著的影响不显著.现在学习的是第41页，共55页预测问题预测问题 如何根据样本提供的信息来预测当变量如何根据样本提供的信息来预测当变量(x1,x2,xm)=(x01,x02,x0m)时随机变量时随机变量Y0的的值？一个自然的想法是用预测量值？一个自然的想法是用预测量y0=0+1x01+2x02+mx0m.来代替来代替,但是它与但是它与Y0的差值是多少呢？预测量的差值是多少呢？预测量y0的优劣取决于的优劣

37、取决于|y0-Y0|的大小的大小.多元线性回归模型的预测问题较为复杂，多元线性回归模型的预测问题较为复杂，这里从略这里从略(见见P32).现在学习的是第42页，共55页多项式回归多项式回归 非线性回归比较复杂，通常采用适当的变非线性回归比较复杂，通常采用适当的变量代换，把非线性回归转化为线性回归量代换，把非线性回归转化为线性回归，然后然后用线性回归的方法确定其中的未知参数以及检用线性回归的方法确定其中的未知参数以及检验其合理性验其合理性.由于任意一个函数都可以用一个适当的多项由于任意一个函数都可以用一个适当的多项式来较好地近似，这就是多项式回归的意义所在式来较好地近似，这就是多项式回归的意义所

38、在.因此下面我们主要介绍一元多项式回归方因此下面我们主要介绍一元多项式回归方法，对于多元多项式回归，处理方法是类似的法，对于多元多项式回归，处理方法是类似的.现在学习的是第43页，共55页一元多项式回归一元多项式回归 假设回归函数假设回归函数 y=f(x)是一个是一个一元一元多项式：多项式：y=0+1 x+2 x2+m xm,其中其中m2.对自变量对自变量x作变换：作变换：xj=x j,j=1,2,m.由此由此得到得到 y=0+1 x1+2 x2+m xm.再将原来的再将原来的一元一元多项式回归问题中的多项式回归问题中的n对数据对数据(xi,yi)相应地变换成：相应地变换成：(yi;xi1,x

39、i2,xim),i=1,2,n,其中其中xij=(xi)j,i=1,2,n,j=1,2,m.这样我们便能用上一节多元线性回归分析的方法来这样我们便能用上一节多元线性回归分析的方法来处理了处理了.现在学习的是第44页，共55页 例例 某种合金的主要成分是金属甲与金属乙某种合金的主要成分是金属甲与金属乙.经试经试验与分析验与分析,发现这两种金属成分所占的百分比之和发现这两种金属成分所占的百分比之和x与合金的膨胀系数与合金的膨胀系数y之间有一定的相关关系之间有一定的相关关系.先测试先测试了了1313次次,得数据如下：得数据如下：xi 37.0 37.5 43.0 yi 3.40 3.00 2.90

40、试建立试建立x与与y之间的经验公式之间的经验公式.画出散点图画出散点图,从散点图上从散点图上看出看出,这这1313个已知的数据点大个已知的数据点大致在一条抛物线的周围致在一条抛物线的周围.现在学习的是第45页，共55页假定回归函数为假定回归函数为y=0+1 x+2 x2,作变换作变换x1=x,x2=x2,用多元线性回归分析用多元线性回归分析方法得到方法得到y=(3.40,3.00,2.90)T,=(0,1,2)T,现在学习的是第46页，共55页 =(X TX)-1X T y=(300.93,-14.85,0.1843)T,残差平方和残差平方和Q=(y-X )T(y-X )=0.2944,总和总

41、和 Syy=4.2212,回归和回归和 U=Syy-Q=3.9268.检验假设检验假设 H0：1=2=0.F=66.69F0.01(2-1,13-2-1)=10.04,所以拒绝所以拒绝H0,即即Y与与2个变量个变量 x1,x2 之间存在特别显著的线性相之间存在特别显著的线性相关关系关关系.故故x与与y之间的经验公式为之间的经验公式为y=300.93-14.85x+0.1843x2.现在学习的是第47页，共55页2.6 2.6 判别分析判别分析 判别分析方法最初应用于考古学判别分析方法最初应用于考古学,例如要根据例如要根据挖掘出来的人头盖骨的各种指标来判别其性别年龄等挖掘出来的人头盖骨的各种指标

42、来判别其性别年龄等.近年来近年来,在生物学分类在生物学分类,医疗诊断医疗诊断,地质找矿地质找矿,石油石油钻探钻探,天气预报等许多领域天气预报等许多领域,判别分析方法已经成为判别分析方法已经成为一种有效的统计推断方法一种有效的统计推断方法.假定需要作出判别分析的对象分成假定需要作出判别分析的对象分成 r 类类,记作记作A1,A2,Ar,每一类由每一类由m个指标的若干个标本确定个指标的若干个标本确定,即即A1,A2,Ar为已知的分类为已知的分类.现在问待判断的对象现在问待判断的对象x=(x1,x2,xm)T是属于是属于A1,A2,Ar中的哪一类？这就构成了判别分析问题的基中的哪一类？这就构成了判别

43、分析问题的基本内容本内容.现在学习的是第48页，共55页判别分析的原理判别分析的原理 为了能识别待判断的对象为了能识别待判断的对象x=(x1,x2,xm)T是属于是属于已知类已知类A1,A2,Ar中的哪一类？中的哪一类？事先必须要有一个一般规则事先必须要有一个一般规则,一旦知道了一旦知道了x的值的值,便便能根据这个规则立即作出判断能根据这个规则立即作出判断,称这样的一个规则为称这样的一个规则为判别规则判别规则.判别规则往往通过的某个函数来表达判别规则往往通过的某个函数来表达,我们把它称我们把它称为为判别函数判别函数,记作记作W(i;x).一旦知道了一旦知道了判别函数并确定了判别函数并确定了判别

44、规则，最好将已判别规则，最好将已知类别的对象代入检验，这一过程称为知类别的对象代入检验，这一过程称为回代检验回代检验，以便，以便检验你的检验你的判别函数和判别函数和判别规则是否正确判别规则是否正确.现在学习的是第49页，共55页判别分析的主要方法判别分析的主要方法 判别分析的主要方法有距离判别方法、费希尔判别分析的主要方法有距离判别方法、费希尔(Fisher)判别方法判别方法(见见P35-36)、贝叶斯、贝叶斯(Bayes)判别方判别方法和模糊识别方法法和模糊识别方法(见见P118-122).距离判别方法距离判别方法：判别函数判别函数W(i;x)=d(x,Ai),其其中中d(x,Ai)为为待判

45、别对象待判别对象x到第到第i类类Ai的距离的距离.判别规则判别规则为若为若W(k;x)=minW(i;x)|i=1,2,r,则则xAk.贝叶斯贝叶斯(Bayes)判别方法判别方法：判别函数：判别函数W(i;x)=pi i(x),其中其中pi为待判别对象为待判别对象xAi的概率的概率,如果没有任如果没有任何这种附加的先验信息何这种附加的先验信息,通常取通常取pi=1/r.i(x)为为已知已知类别类别Ai的分布密度的分布密度判别规则为若判别规则为若W(k;x)=maxW(i;x)|i=1,2,r,则则xAk.现在学习的是第50页，共55页判别效果检验判别效果检验 判别效果检验的好坏与判别效果检验的

46、好坏与A1,A2,Ar分类的合理分类的合理性有关性有关,左图说明马氏距离判别法和费歇尔判别法左图说明马氏距离判别法和费歇尔判别法是失效的是失效的,若将其重新分类如右图若将其重新分类如右图,那么判别的效那么判别的效果将会好一些果将会好一些.因此因此,需要对分类的合理性进行假设需要对分类的合理性进行假设检验检验(见见P36).现在学习的是第51页，共55页2.7 2.7 建模实例建模实例 两种蠓两种蠓Af和和Apf已由生物学家已由生物学家W.L.Grogna和和W.W.Wirth于于1981年根据它们的触年根据它们的触角长和翼长加以角长和翼长加以区分区分,右下右下图给出图给出了了9只只Af和和6只

47、只Apf蠓的触角长和翼长蠓的触角长和翼长数据数据,其中其中“”表表示示Apf,“”表示表示Af.根据触角长和根据触角长和翼长来识别一个标翼长来识别一个标本是本是Af还是还是Apf是重是重要的要的.现在学习的是第52页，共55页 给给定定一一只只Af族族或或Apf族族的的蠓蠓,如如何何正正确确地地区区分分它属于哪一族？它属于哪一族？将将你你的的方方法法用用于于触触角角长长和和翼翼长长分分别别为为 (1.24,1.80),(1.28,1.84),(1.40,2.04)三个标本三个标本.设设Af是是传传粉粉益益虫虫,Apf是是某某种种疾疾病病的的载载体体,是是否否应修改你的分类方法？若需修改应修改你

48、的分类方法？若需修改,为什么？为什么？假设假设 两种群两种群Af和和Apf的触角长和翼长的期望值、标准差、的触角长和翼长的期望值、标准差、相关系数与由数据给出的样本的统计量一致相关系数与由数据给出的样本的统计量一致.两种群两种群Af和和Apf的触角长和翼长服从二元正态分布的触角长和翼长服从二元正态分布.两种群两种群Af与与Apf的数量之比为一个确定的值的数量之比为一个确定的值.所给的样本数据是无误差的所给的样本数据是无误差的.现在学习的是第53页，共55页样本数据样本数据 族族 1 2 1 2 先验概率先验概率Af1.4131.8040.09900.13000.5939/15=0.6Apf1.2271.9270.06280.08820.6536/15=0.4模型建立与求解模型建立与求解(见见P38-40)现在学习的是第54页，共55页现在学习的是第55页，共55页