岭回归的基本思想 岭回归法的基本思想是什么

岭回归的基本思想 岭回归法的基本思想是什么

小周给大家谈谈岭回归的基本思想，以及岭回归法的基本思想是什么应用的知识点，希望对你所遇到的问题有所帮助。

1、多重共线性问题的几种解决方法在多元线性回归模型经典假设中，其重要假定之一是回归模型的解释变量之间不存在线性关系，也就是说，解释变量X1，X2，……，Xk中的任何一个都不能是其他解释变量的线性组合。

2、如果违背这一假定，即线性回归模型中某一个解释变量与其他解释变量间存在线性关系，就称线性回归模型中存在多重共线性。

3、多重共线性违背了解释变量间不相关的古典假设，将给普通最小二乘法带来严重后果。

4、这里，我们总结了8个处理多重共线性问题的可用方法，大家在遇到多重共线性问题时可作参考：1、保留重要解释变量，去掉次要或可替代解释变量2、用相对数变量替代绝对数变量3、差分法4、逐步回归分析5、主成份分析6、偏最小二乘回归7、岭回归8、增加样本容量这次我们主要研究逐步回归分析方法是如何处理多重共线性问题的。

5、逐步回归分析方法的基本思想是通过相关系数r 、拟合优度R2 和标准误差三个方面综合判断一系列回归方程的优劣，从而得到最优回归方程。

6、具体方法分为两步：第一步，先将被解释变量y对每个解释变量作简单回归:对每一个回归方程进行统计检验分析（相关系数r 、拟合优度R2 和标准误差），并结合经济理论分析选出最优回归方程，也称为基本回归方程。

7、第二步，将其他解释变量逐一引入到基本回归方程中，建立一系列回归方程，根据每个新加的解释变量的标准差和复相关系数来考察其对每个回归系数的影响，一般根据如下标准进行分类判别：1.如果新引进的解释变量使R2 得到提高,而其他参数回归系数在统计上和经济理论上仍然合理，则认为这个新引入的变量对回归模型是有利的，可以作为解释变量予以保留。

8、2.如果新引进的解释变量对R2 改进不明显，对其他回归系数也没有多大影响，则不必保留在回归模型中。

9、3.如果新引进的解释变量不仅改变了R2 ，而且对其他回归系数的数值或符号具有明显影响，则认为该解释变量为不利变量，引进后会使回归模型出现多重共线性问题。

10、不利变量未必是多余的，如果它可能对被解释变量是不可缺少的，则不能简单舍弃，而是应研究改善模型的形式，寻找更符合实际的模型，重新进行估计。

11、如果通过检验证明回归模型存在明显线性相关的两个解释变量中的其中一个可以被另一个很好地解释，则可略去其中对被解释变量影响较小的那个变量，模型中保留影响较大的那个变量。

12、下边我们通过实例来说明逐步回归分析方法在解决多重共线性问题上的具体应用过程。

13、具体实例例1 设某地10年间有关服装消费、可支配收入、流动资产、服装类物价指数、总物价指数的调查数据如表1，请建立需求函数模型。

14、表1 服装消费及相关变量调查数据年份服装开支C（百万元）可支配收入Y（百万元）流动资产L（百万元）服装类物价指数Pc1992年=100总物价指数P01992年=10019888.482.917.1929419899.688.021.39396199010.499.925.19697199111.4105.329.09497199212.2117.734.0100100199314.2131.040.0101101199415.8148.244.0105104199517.9161.849.0112109199619.3174.251.0112111199720.8184.753.0112111（1）设对服装的需求函数为用最小二乘法估计得估计模型：模型的检验量得分，R2=0.998，D·W=3.383，F=626.4634R2接近1，说明该回归模型与原始数据拟合得很好。

15、由得出拒绝零假设，认为服装支出与解释变量间存在显著关系。

16、（2）求各解释变量的基本相关系数上述基本相关系数表明解释变量间高度相关，也就是存在较严重的多重共线性。

17、（3）为检验多重共线性的影响，作如下简单回归：各方程下边括号内的数字分别表示的是对应解释变量系数的t检验值。

18、观察以上四个方程，根据经济理论和统计检验（t检验值=41.937最大，拟合优度也最高），收入Y是最重要的解释变量，从而得出最优简单回归方程。

本文到这结束，希望上面文章对大家有所帮助。