直线回归法的公式推导课件.ppt

《直线回归法的公式推导课件.ppt》由会员分享，可在线阅读，更多相关《直线回归法的公式推导课件.ppt（16页珍藏版）》请在淘文阁 - 分享文档赚钱的网站上搜索。

1、关于直关于直线回回归法的公法的公式推式推导现在学习的是第1页，共16页主要内容主要内容 回回归直直线法的原理法的原理 回回归直直线的公式推的公式推导一一二二现在学习的是第2页，共16页0 x 业务量（件）y 成本（元）y=a+bx一、直线回归法的原理一、直线回归法的原理直线回归发的原理直线回归发的原理微积分极值原理微积分极值原理现在学习的是第3页，共16页 从散布图法可以看出，我们总能设法找到从散布图法可以看出，我们总能设法找到一条尽可能通过所有坐标点，也就是所有误差一条尽可能通过所有坐标点，也就是所有误差最小的惟一直线最小的惟一直线y=a+bx。设设ei为当业务量为为当业务量为xi时，实际值

2、（又称观时，实际值（又称观测值）测值）yi与计算值（与计算值（a+bxi）的误差，即）的误差，即 ei=yi (a+bxi)二、直线回归法公式推导二、直线回归法公式推导现在学习的是第4页，共16页 怎样判断一条直线方程就是我们所要找怎样判断一条直线方程就是我们所要找的所有误差最小的那条直线的所有误差最小的那条直线y=a+bx 呢？可呢？可以考虑的办法有三：以考虑的办法有三：第一，判断所有误差的代数和是否最小。第一，判断所有误差的代数和是否最小。即：即：ei=0 但由于误差有正有负，可能相互抵消，会存但由于误差有正有负，可能相互抵消，会存在无数满足上述条件的直线，因而无法据此作出在无数满足上述条

3、件的直线，因而无法据此作出最终判断。最终判断。二、直线回归法公式推导二、直线回归法公式推导现在学习的是第5页，共16页所有误差的代数和是否最小示意图？所有误差的代数和是否最小示意图？0 x 业务量（件）y 成本（元）满足满足ei=0的条件的条件满足满足ei=0的条件的条件二、直线回归法公式推导二、直线回归法公式推导现在学习的是第6页，共16页 第二，判断所有误差绝对值的合计是否第二，判断所有误差绝对值的合计是否最小。即：最小。即：ei =0 但上式展开后，涉及到绝对数运算，非常但上式展开后，涉及到绝对数运算，非常麻烦：麻烦：ei =e1e2 e3 en-1 en 因而也无法据此作出判断。因而也

4、无法据此作出判断。二、直线回归法公式推导二、直线回归法公式推导现在学习的是第7页，共16页 第三，判断所有误差平方和是否最小。第三，判断所有误差平方和是否最小。即：即：ei2=0 这种方法既排除了正负误差的符号问题，这种方法既排除了正负误差的符号问题，又避免了绝对值运算的麻烦。又避免了绝对值运算的麻烦。因此，可以根据误差的平方和是否达到最小，因此，可以根据误差的平方和是否达到最小，来判断直线方程来判断直线方程y=a+bx的总误差是否达到最小。的总误差是否达到最小。此法又称最小二乘法或最小平方法。此法又称最小二乘法或最小平方法。二、直线回归法公式推导二、直线回归法公式推导现在学习的是第8页，共1

5、6页 根据上述道理，回归直线法就是求能使根据上述道理，回归直线法就是求能使ei2=0成立的回归系数成立的回归系数a和和b的值。的值。因为因为 ei=yi(a+bxi)所以所以 ei2=yi(a+bxi)2 按照微分极值原理，令上式按照微分极值原理，令上式=0，并分别，并分别对对a和和b求偏导数，就可以求出能满足求偏导数，就可以求出能满足ei2 达到达到极小值的极小值的a和和b。按照此法推导的按照此法推导的a，b计算公式，称为计算公式，称为 公式法。公式法。二、直线回归法公式推导二、直线回归法公式推导现在学习的是第9页，共16页e2=y(a+bx)2 =y 22 y(a+bx)+(a+bx)2

6、=y 22ay 2bxy+a2+2abx+b2x2 =y22ay2bxy+na2+2abx+b2x2令：令：y 22ay 2 bxy+na2+2abx+b2 x2=0 对上式求对上式求a的偏导数，得：的偏导数，得：2y+2na+2bx=0 整理得整理得 y=na+bx （1）式）式1.按公式法推导按公式法推导a，b计算公式的过程计算公式的过程现在学习的是第10页，共16页对对y22ay2bxy+na2+2abx+b2 x2=0求求b的偏导数，得：的偏导数，得：2xy+2ax+2bx2=0整理得整理得 xy=ax+bx2 （2）式）式解联立方程，即可求出解联立方程，即可求出a，b的值。的值。1.

7、按公式法推导按公式法推导a，b计算公式的过程计算公式的过程y=na+bx xy=ax+bx2现在学习的是第11页，共16页 2.用行列式求二元一次方程组中用行列式求二元一次方程组中a和和b的解的解y =na +bx xy=ax +bx2 因为下列联立方程中，未知数为因为下列联立方程中，未知数为a和和b，y,xy 为已知常数，为已知常数，n,x和和x2分别分别为为a和和b的系数，则有的系数，则有常数列常数列 y xy用行列式的方法解法如下：现在学习的是第12页，共16页=n x2-(x)2a=yx2-x xy nxxx2yxyxx2b=nxy-x y nxyxy nx 2.用行列式求二元一次方程

8、组中用行列式求二元一次方程组中a和和b的解的解现在学习的是第13页，共16页a=ab=bn x2-(x)2yx2-x xy=nxy-x y=n x2-(x)2y=na+bx可以同时计可以同时计算出算出a和和by-bxna=必须先计必须先计算出算出b，然，然后才能计后才能计算算 a 2.用行列式求二元一次方程组中用行列式求二元一次方程组中a和和b的解的解现在学习的是第14页，共16页 上述联立方程也可以不用求偏导数的方法来建上述联立方程也可以不用求偏导数的方法来建立，可利用一种所谓简捷法来实现。立，可利用一种所谓简捷法来实现。y=a+bx y=(a+bx)=na+bx （1）式）式又又 xy=x(a+bx)=ax+b x2 xy=(ax+b x2)=ax+bx2 （2）式）式3.用简捷法来建立方程用简捷法来建立方程现在学习的是第15页，共16页感感谢谢大大家家观观看看现在学习的是第16页，共16页