2022年线性回归分析的数学模型.docx

《2022年线性回归分析的数学模型.docx》由会员分享，可在线阅读，更多相关《2022年线性回归分析的数学模型.docx（72页珍藏版）》请在淘文阁 - 分享文档赚钱的网站上搜索。

1、2022年线性回归分析的数学模型线性回来分析的数学模型摘 要在实际问题中经常遇到简洁的变量之间的关系，我们会遇到多个变量同处于一个过程之中，它们之间相互联系、相互制约这些问题中最简洁的是线性回来线性回来分析是对客观事物数量关系的分析，是一种重要的统计分析方法，被广泛的应用于社会经济现象变量之间的影响因素和关联的探讨由于客观事物的联系错综困难经济现象的改变往往用一个变量无法描述，故本篇论文在深化分析一元线性回来及数学模型的状况下，又具体地介绍了多元线性回来方程的参数估计和其显著性检验等全面揭示了这种困难的依存关系，精确测定现象之间的数量变动以提高预料和限制的精确度本文中具体的阐述了线性回来的定义

2、及其线性模型的简洁分析并应用了最小二乘法原理详细介绍了线性回来分析方程参数估计方法和其显著性检验并充分利用回来方程进行点预料和区间预料但困难的计算给分析方法推广带来了困难，须要相应的操作软件来计算回来分析求解操作过程中的数据以提高预料和限制的精确度从而为工农业生产及探讨起到强有力的推动作用关键词：线性回来；最小二乘法；数学模型目 录第一章 前言1其次章 线性模型2第一节 一元线性模型2其次节 多元线性模型4第三章 参数估计 5第一节 一元线性回来方程中的未知参数的估计5其次节 多元线性回来模型的参数估计8第四章 显著性检验13第一节 一元线性回来方程的显著性检验 13其次节 多元线性回来方程的

3、显著性检验 20第五章 利用回来方程进行点预料和区间预料21第六章 总结26致谢 27参考文献 第一章 前 言回来分析是对客观事物数量依存关系的分析是数理统计中的一个常用的方法是处理多个变量之间相互关系的一种数学方法在现实世界中，我们常与各种变量打交道，在解决实际问题过程中，我们经常会遇到多个变量同处于一个过程之中，它们之间相互联系、相互制约常见的关系有两种：一类为“确定的关系”即变量间有确定性关系，其关系可用函数表达式表示例如：路程s,时间t,与速度v之间有关系式：s=vt 在圆体给与半径r之间有关系式v= 另外还有一些变量他们之间也有肯定的关系，然而这种关系并不完全确定，不能用函数的形式来

4、表达，在这种关系中至少有一个变量是随机的例如：人的身高与体重有肯定的关系，一般来讲身高高的人体重相对大一些但是它们之间不能用一个确定的表达式表示出来这次变量（或至少其中有一个是随机变量）之间的关系我们称之为相关关系又如环境因素与农作物的产量也有相关关系，因为在相同环境条件下 农作物的产量也有区分，这也就是说农作物的产量是一个随机变量回来分析就是探讨相关关系的一种数学方法，是找寻不完全确定的变量间的数学关系式并进行统计推断的一种方法它能帮助我们从一个变量取得的值去估计另一个变量的值在这种关系中最简洁的是线性回来线性回来分析是对客观事物数量关系的分析，是一种重要的统计分析方法，被广泛的应用于社会经

5、济现象变量之间的影响因素和关联的探讨由于客观事物的联系错综困难经济现象的改变往往用一个变量无法描述， 故本篇论文在深化分析一元线性回来及数学模型的状况下，又具体地介绍了多元线性回来方程的参数估计和其显著性检验等全面揭示了这种困难的依存关系，精确测定现象之间的数量变动以提高预料和限制的精确度 其次章 线性模型第一节 一元线性模型在工农业生产及科研中最常遇到的配直线问题，就是回来分析的统计推断方法来求阅历公式（线性回来）的问题如：例1 今有某种大豆脂肪含量x（%）与蛋白质含量y（%）的测定结果如下表所示：试求它们之间的关系（检验公式）x165175185195205215225y435426426

6、406403387372首先将这组数据在直角坐标系上描成点，如下图：一般的，按此方法描点所得的图成为散点图从图上可以看出：这些数据描出的点分布在一条直线旁边于是推出他们大致可以表示为线性关系这里再y上加“ ”是为了区分于他的实际值y，因为y与x一般不具有确定的函数关系，这样，在散点图的启发下，我们选定了回来方程是线性的然后依据统计推断方法来估计出未知数 和 从而确定所求的阅历公式一般的，设随机变量y与x之间的相关关系可以用线性模型 , N(0, ) （1） 来表示这里x是试验或视察中可以限制或精确观测的变量即非随机变量,y是可观测的随机变量 是不行观测的随机变量（它表示模型误差，是除去x对Y的

7、先行影响之外的且不能测出的其它各个随机因素对Y的影响的总和）通过试验观测可得到关于变量x和Y的一组数据（ ， ），（ ， ），（ ， ）因为对于随意一个 （i=1,2,n），在 的观测值在取定前不能精确预言它肯定能取什么值，故把 看作是随机变量Y的观测值而相互独立的随机变量 ， ， 为Y的样本我们知道，样本与样本观测值之间的区分是：前者是随机变量，后者为取定的数值，但为了叙述便利，今后把样本视察值也成为样本在符号上均用 ， ， 来表示详细表示的意义也可由上下文分析清晰，设观测值 与样本 之间满意关系式： = （i=1,2,n） （2） 其中 （i=1,2,n）且相互独立 假如两个变量间的关系用

8、上述线性模型描述，则它们之间存在线性相关关系由（1）有： E(Y)= 我们希望依据观测的数据 ，求出 , 的估计量 ， 这样就可以利用方程 （3）去估计随机变量Y的数学期望E(Y)也就是说，将 ， 代入方程 （1）并略去误差 ，就得到了随机变量Y和变量x的线性关系式（3）方程（3）通常称为Y对x的线性回来方程或回来方程，其图形称为回来直线对于（1）和（2）所确定的线性模型，所考虑的统计推断主要问题是：未知参数 和 的估计：检验x和Y之间的关系是否可确信是线性关系，即对假设（1）进行检验，对Y进行预料等 其次节 多元线性模型一般来讲，影响结果Y的因素往往不止一个设有 ， 共p个元素这时要用图来确

9、定它们的关系是困难的常可依据阅历做出假设其中最简洁的是假设它们之间有线性关系： （4）式中 ， 都是可精确测量或可限制的一般变量，Y是可观测的随机变量， ， ， 都是未知参数， 是听从 分布的不行观测的随机误差我们对（4）获得了n组相互独立的观测值（样本）（ ； ， ， ） （i=1,2,n） （5）于是由（4）式可知 具有数据结构式： i=1,2,n （6） 其中各个 （ i=1,2,n）相互独立，且均听从 这就是p元线性回来模型对于（4）所确定的模型统计推断的主要问题是：依据样本去估计未知参数 ， ， 、 ，从而建立Y与 ， 间的数量关系式和对比得到的数量关系式的可信度进行统计检验;检验各

10、变量 ， 分别对指标是否有显著影响2其次章 参数的估计第一节 一元线性回来方程参数的估计有多种确定回来方程也就是确定未知参数 , 的估计量 ， ，的方法其中最常用的是“最小二乘法” 我们将采纳“最小二乘法原理”来求出 ， 也就是求，使误差 （ i=1,2,n）的平方和 Q= = （7）为最小的 ， 值作为参数 , 的估计量由（7）知Q是 , 的二元函数即Q=Q( , )按二元函数求极值的方法可得联立方程组： （8） 这个方程组称为正规方程组即： （9） 解此方程组由（9）的第一式得因此 的估计量为： （10） 其中，将（10）式代入（9）中的其次式可解得 的估计量为 （11） 这样：利用（10

11、）和（11）确定的 , 使平方和Q达到最小，从而求出回来方程这里 ， 分别表示由（10）和（11）确定的 , 的值并称 为阅历截距； 为阅历回来系数，简称为回来系数，而 是 的无偏估计量由（10）可得回来方程的另一种形式： （12） 由此可知，回来直线通过点（ ， ），即通过由馆测值的平均值组成的点，并且回来方程由回来系数 完全确定一般的，把由回来方程确定的x的对应值 称为回来值依据观测数据，利用 （10）和（11）来求回来直线时，常把（11）中的分子和分母分别记为 和 ，且按下面的公式计算：所以（10）和 （11）两式可记作： （13） （14） 又有公式: = = （15）然而，对总体中的

12、未知参数进行估计，其主要目的还是建立一元线性回来方程虽然有一个正规方程组存在事实上并不探讨它以下是建立一元线性回来方程的详细步骤：（1） 计算 ， ， ， ， ；（2） 计算 ， ， （在回来方程作显著性检验时用）；（3） 计算 和 写出一元线性回来方程3序号11654352722518922571775217542630625181476745503185426342251814767881041954063802516483679170520540342025162409826156215387462251497698320572253725062513838483700823536055

13、2251296008460092453406002511560083300184535553842251412775721725从而可求得 =205， =395， =60， =-705，-1175， = - =63588所求回来方程为 63588-1175x例2 设两个变量x与Y由某种相关关系，测得它的一组数据如下表所示，试求其回来方程x492500493490490495498499502502Y167170168166167168168170170171解：依据计算得 =4961， =1685， =2461351， =835994 =03293， = - =05129所以回来方程为 051

14、29+03293x其次节 多元线性回来模型的参数估计设 ， ，Y有一组观测值(样本);（ ， ， ）（i=1，2，n）我们希望由估计 ， ， 所确定出的回来方程能使一切 与 之间的偏差达到最小依据最小二乘法的原理 即：要求=所以只要求偏离平方和达到最小的为书写便利以下把“ ”书写成“ ”依据微积分中值原理和最小二乘法估计 是下列方程组的解 （ j=1,2,，n） （16） 经整理即得关于 的一个线性方程组 （17）此方程组（17）称为正规方程组借此方程组就可求得参数 的回来值 为了求解便利我们将（17）是写成矩阵的形式，令 1 X= 1 ，Y= ， B= 1 记（17）式的系数矩阵为A，常数项

15、矩阵为B，则A恰为 ，B恰为 即： 1 1 1 1 = 1 1 n = =A 1 1 1 = = =B 因此用矩阵的形式可表式为 = 在回来分析中通常 存在这时最小二乘估计 可表式为：= （18）当我们求出了 的最小二乘估计 后，就可以建立多元回来方程5例 3 某地区所产原棉的纤维实力Y与纤维的公制支数 ，纤维的成熟度 有关，现实测得28组数据（见下表）试建立Y关于 ， 的二元线性回来方程i i 1541515840315620817038125700138401165798159400356741574001755511614194569815540918605915738156165152

16、373196060153396659291604092060591553937750511429521637014537285920150390226102149384976461182892362451503881065561273482466441453381164751503602561911583761259071503772663521503791356971543942759991593791466181236628581517409解：先求出方程组的系数矩阵及常数向量，再求=172388 =61567143=4184 =14943=10609 =37889=1068433202

17、=708953972=630632 =05423=25608704 =-15098857=64911128 =-40545386=1594481 =09193=4045287求 ， 的正规方程组为708953972 -15098857 =-40545386 -15098857 +05423 =09193 解得 =-00005181 ， =02527 ， = =66011所以 Y的关于 ， 的二元线性回来方程为 =66011-00005181 +02527 第四章 显著性检验第一节 一元线性回来方程的显著性检验由上面的探讨知，对于任何的两个变量x和Y的一组观测数据（ ）（i=1,2,n）按公式（

18、10）和（11）都可以确定一个回来方程然而事前并不知道Y和x之间是否存在线性关系，假如两个变量Y和x之间并不存在显著的线性相关关系，那么这样确定的回来方程明显是毫无实际意义的因此，我们首先要推断Y和x是否线性相关，也就是要来检验线性假设 是否可信，明显，假如Y和x之间无线性关系，则线性模型的一次项系数 =0；否则 0所以检验两个变量之间是否存在线性相关关系，归根究竟是要检验假设依据现行假设对数据所提的要求可知，视察值 ， ， 之间的差异，是有两个方面的缘由引起的：（1）自变量x的值不相同;（2）其它因素的影响，检验 是否成立的问题，也就是检验这两方面的影响哪一个是主要的问题因此，就必需把他们引

19、起的差异从Y的总的差异中分解出来也就是说，为了选择适当的检验统计量，先导出离差平方和的分解因式6一、离差平方和的分解公式视察值 （i=1,2,n），与其平均值 的离差平方和，称为总的离差平方和，记作因为 = 其中：=2=2=2=2所以=由于 中的 ， 为（10）和（11）所确定即它们满意正规方程组（9）的解因此定义项 = 于是得到了总离差平方和的分解公式： 其中 （19） 是回来直线 上横坐标为 的点的纵坐标，并且 的平均值为 ， 是 这n个数的偏差平方和，它描述了 的离散程度，还说明它是来源于 的分散性，并且是通过x对于Y的线性影响而反映出来的，所以， 称为回来平方和而 =它正是前面探讨的

20、的最小值，在假设（1）式的条件下它是由不行视察的随机变量 引起的，也就是说，它是由其它未限制的因素及试验误差引起的，它的大小反映了其它因素以及试验误差对试验结果得影响我们称 为剩余平方和或残差平方和7二、 、 的性质及其分布由以上分析可知，要解决推断Y和x之间是否存在线性相关关系的问题，须要通过比较回来平方和和剩余平方和来实现为了更清晰地说明这一点，并寻求出检验统计量，考察估计量 ， 的性质及其分布（一） 的分布由（14）式可知=在 相互独立且听从同一分布 的假定下由（2）知 ， ， 是P个相互独立的随机变量，且 （i=1,2,，n）所以他们的平均值 的数学期望为：因为 是 的线性函数，且有：

21、这说明 是 的无偏估计量且 的方差为所以即:同样可证，对于随意给定的 其对应的回来值 （它是 的点估计）适合( ，（二） 方差 的估计及分布因为=由 、 及 可得=又由于 及E(L)，E(U)得=E(L)+E(U) =（n-2）从而,说明白 = = 是 的无偏估计量，由此可见，不论假设 成立与否， 是 的一个无偏估计量，而 仅当假设成立时，才是 的一个无偏估计量，否则它的期望值大于 说明比值 （20） 在假设成立时有偏大倾向，也就是说，假如F取得值相当大，则没有理由认为x和Y之间有线性相关关系，也就是下面我们将采纳F作为检验统计量的缘由另外，由于 ， 是 的最小二乘估计，由（8）式可知=0 ，

22、 =0这表明 中的n个变量 ， 之间有两个独立的线性约束条件，故 的自由度为n-2因此 8三、F检验由以上探讨可知，当 成立时 ； 且二者相互独立，由此可得因此可用这个统计量F作为检验假设 的检验统计量对给定的显著性水平 ，查自由度为（1，n-2）的F分布的临值表，得临界值 ，假如由实际视察值计算所得的F> 则否定假设 ，即认为x,Y之间线性相关关系显著否则不能否定 ，而认为线性相关关系不显著 这种采纳F检验法来对回来方程来进行显著性检验的方法称为方差分析 在F检验中， ， 的计算公式如下 = （21）其中 =例4 对例1进行线性关系显著性检验解：n=9 =-1175(-705)=828

23、4 = =8550-8184=266 详细检验在如下的方差分析表上进行方差来源平方和自由度平均平方和F值回来82841828421800剩余2667038总和85488查下表对 =001 ， 今说明线性关系极显著，即回来方程是有意义的9例5 某种物质在不同的温度下可以吸附另一种物质，假如温度x（单位：）与吸附重量Y（单位：mg）的观测值如下表所示：温度151824303539444850重量48577083109124131136153试求其回来方程并作显著性检验解：依据上述观测值得到 n=9=303 =9111=11511 =34509 =103665=13100 =38387 =11451

24、6=3367 =10122 = =29303=02569所求线性回来方程为 =02569+29303x因为 =114516 =112485 所以 = =2031由n-2=7 =122 =38769 F>122 所以回来方程极显著其次节 多元线性回来方程的相关性检验由于 的无偏估计量为 将总的离差平方和 进行分解可得到 + 其中，这里 叫做残差平方和，其自由度为n， 叫做回来平方和，自由度为n-p-1检验假设 是否成立在 成立时因此可利用F检验法检验线性相关关系的显著性假如F ，则可认为 与 ， 之间的线性相关关系显著；假如 则可以认为 与 ， 之间的线性相关关系特殊显著否则可认为 与 ，

25、 之间不存在线性相关关系，所建立的线性回来方程是不显著的例6 对例1 的回来方程进行显著性检验解：经过计算得 =23510 ， = =47346 =248284 （2，10）=756 所以所求二元线性回来方程线性极其显著10第五章 利用回来方程进行点预料和区间预料若线性回来方程作显著性检验的结果是拒绝 ，也就是拒绝回来系数 =0的假设，便可以利用回来方程进行点预料和区间预料这是人们关注线性回来的主要缘由之一（1）当x= 时用 预料 的观测值 称为点预料，依据 得 的观测值 的点预料是无偏的（2）当x= 时用适合不等式 的统计量G 和H所确定的随机区间 预料 的取值范围称为区间预料，而 称为 的

26、 预料区间若 与样本的各 相互独立，则依据 听从正态分布 , ，Z与Q 相互独立可以导出因此 的 预料区间为与一元线性回来一样，当给定 时，可求出相应的 的点估计亦可求出区间估计，还可以给出相应的 的预料 区间11影响预料精度的主要因素有：（1） ，但 是不行变更的一般的， 越小精度越高（2） n，n越大精度越高因此，要尽量扩大样本容量（3）自变量取值 不要太集中；预料点 离 越近精度越高例7 一些夏季害虫的盛发期与春季温度有关，现有1956-1964年间3月下旬至4月中旬平均温度的累计数x和一代三螟蛾盛发期Y（以5月10日为0）的观测值如下：温度35534131740336840231739

27、2442盛发期12169273139-1试求线性回来方程并进行F检验；若 =40 ，求 的095预料区间解：依据上述观测值得到的 n=9=3337 =70=1251749 =24364 =794=1446356 =-1590444 =1495556=37077 =77778= =-10996 =4835493所以所求的线性回来方程为 =48.5-1.1x当 =40时 =456 ， =836 ，所以 的095预料区间为（-380，1292）检验说明当3月下旬至4月下旬平均温度的累计数为40时，应当预料一代螟蛾盛发期为5月6日5月23日之间，并且预料100次将有95次是正确的例8 下表列出在不同挂

28、重x下，弹簧长度y的测量值，设测量值y对给定的x听从正态分布挂物的重量 （牛）50100150200250300弹簧的长度 （厘米）725812895990109118(1) 求线形回来法方程 ；(2) 检验假设 ；(3) 若回来效果显著，求b的置信度为95的置信区间;(4) 求在x=160（牛）时，y的置信度为095的预料区间解：(1) =175, =227500,=94867 =5546594n=6, =10762=27500-6 =43750=10762-617594867=800965=5546594-6 =146745=001831=94867-001831175=62825所以=6

29、2825+001831x（2） =001831800965=146657=146745-146657=0008831=005， =771=66429392>771所以 ，拒绝 ，认为重量x与弹簧长度y有显著的线性关系（3） =004697， 27764b的置信度为095的置信区间为（001769，001893）（4） 160=92121=01412所以，y的置信度为095的预料区间为（90709，93533）例9 假设儿子的身高y与父亲的身高x适合一元线性回来模型，视察了10对父子的身高（英寸）得数据如下：X60626465666768707274y6366556665666967167

30、463370170（1） 建立y与x的回来方程（2） 对线性回来方程作假设检验（ =005）（3） 当 =69时，求 的信置度为095的预料区间解：（1）设回来方程为：y= 按所给数据计算，得 =668， =668， =44794 =6651， =6651， =4428393=444924 =1716=48129=6372所以 =03713， =417072线性回来方程为： =417072+03713x （2）需检验假设 b=0检验统计量因为 =236592 ， =244698，于是F=236592（10-2）/244698=7735而 =532<7735=F，故认为回来是显著的拒绝原假设（3） 的置信度为1- 的预料区间为当 =69时， =417072+0371369=673269，从而 42837 所以预料区间的一个观测值为（630432，716106）第六章 结论本篇论文从基础的一元线性回来入手深化的分析了多元线性回来方程的参数性质及其显著性检验，并对一元线性回来方程进行点预料和区间预料,并给出实例进行解析但困难的计算给分析方法推广带来了困难，须要相应的软件来简化回来分析求解的操作过程