第14章 非线性回归模型PPT讲稿.ppt

《第14章 非线性回归模型PPT讲稿.ppt》由会员分享，可在线阅读，更多相关《第14章 非线性回归模型PPT讲稿.ppt（22页珍藏版）》请在淘文阁 - 分享文档赚钱的网站上搜索。

1、第14章 非线性回归模型第1页，共22页，编辑于2022年，星期日14.1本质上的线性和非线性回归模型模型可以线性于参数，也可以线性于变量。一开始讨论线性回归模型的时候，我们陈述过本书所关心的基本上是线性于参数的模型。如果一个模型非线性于参数，那么它就是非线性回归模型。然而，这里必须小心，有些模型可能看起来非线性于参数，但是通过合适的变换它们可以变成线性于参数的回归模型。第2页，共22页，编辑于2022年，星期日如果此类模型不能线性化于参数，则它们就被称作为本质非线性回归模型。简单起见，我们把它称为“NLRM”。柯布-道格拉斯(C-D)生产函数是本质线性的。(14.1.2)问题：函数 是不是本

2、质线性的？第3页，共22页，编辑于2022年，星期日答案:所以这个模型本质上是线性的。第4页，共22页，编辑于2022年，星期日问题：常替代弹性（CES）生产函数是不是本质线性的？(14.1.5)Y -产出 K -资本投入 L -劳动投入 A -规模参数 -分布函数 (0 1)-替代参数 ()答案：此模型本质上非线性第5页，共22页，编辑于2022年，星期日14.2线性和非线性回归模型的估计考虑以下的模型：(14.2.2)回归(14.2.2)被称为指数回归模型。我们利用OLS方法得到正规方程：(14.2.4)(14.2.5)第6页，共22页，编辑于2022年，星期日应用于一个非线性回归模型的O

3、LS方法被称为非线性最小二乘法（NLLS）。然而，由上述正规方程不能得出未知量的显示解。因为方程的左侧和右侧都有未知量。第7页，共22页，编辑于2022年，星期日14.3 估估计计非非线线性回性回归归模型：模型：试错试错法法为了做好准备，让我们来考虑一个具体例子。数据：P567 表14.1和图14.1根据图14.1，假定 则可以把（14.2.2）写成 (14.3.1)因此，(14.3.2)第8页，共22页，编辑于2022年，星期日根据给定的数值，我们得到:如果我们选择其他数值重复刚才拟定的程序，我们发现现在将得到：第9页，共22页，编辑于2022年，星期日这种方法被称为试错法。可见，如果我们假

4、定一组值，相应地就可以得到一个 值。如果你有无限的时间和耐心，最终一定可以得出使 最小的 和 的值。第10页，共22页，编辑于2022年，星期日14.4 估估计计非非线线性回性回归归模型的方法模型的方法1.直接搜索或试错法或不用求导的方法 这是在14.3中提到过的方法。缺陷：a.如果回归元太多，计算会很复杂。b.可以得到局部最小值，但不一定是绝对最小值。2.直接最优化 通过直接运用OLS方法，可以得到正规方程(14.2.4)和(14.2.5)，然后运用最速下降法来解出参数值。第11页，共22页，编辑于2022年，星期日3.迭代线性化方法迭代线性化方法首先，在参数初始值附近线性化一个非线性方程。

5、其次，用OLS方法估计线性化了的方程，并调整参数初始值。第三，用经过高速的参数值重新线性化该模型，再次用OLS方法估计，得出新的参数估计值。继续重复上述过程，直到两次估计结果无实质变化。第12页，共22页，编辑于2022年，星期日泰勒定理(Taylors theorem,or Taylor series expansion)：R代表高阶无穷小。多项式的次数越高，近似值就越接近初始函数。第13页，共22页，编辑于2022年，星期日问：如何在x=0附近得到 的近似值？因此我们得到：一阶近似：答：第14页，共22页，编辑于2022年，星期日二阶近似：三阶近似：第15页，共22页，编辑于2022年，星

6、期日问：如何在x=a,z=b处展开Y=f(x,z)？答：第16页，共22页，编辑于2022年，星期日14 A.3 方程方程(14.2.2)的线性化的线性化 (1)在 和 处线性化于是我们有:第17页，共22页，编辑于2022年，星期日选取初始值：代入上式得：.(4)第18页，共22页，编辑于2022年，星期日(4)亦可写作：.(5)其中：第19页，共22页，编辑于2022年，星期日令于是可将(5)写作：第20页，共22页，编辑于2022年，星期日模型转化为 -这就是线性化的回归模型通过OLS 方法可得 和 ，并且 由(6)可得 .(8)第21页，共22页，编辑于2022年，星期日通过 可重复以上步骤直至收敛，即最后所得的两个均值极为靠近。（见李子奈 8.2）第22页，共22页，编辑于2022年，星期日