发布时间 : 星期二 文章2009级博士高级计量经济学指南（西南财大） - 图文更新完毕开始阅读
西南财经大学2009级博士研究生高级计量经济学学习指南
在计量经济学中有关注变量和控制变量的说法，就是对应了以上的原理。不妨假设在一个典型的线性回归方程y?X1?1?X2?2??中，变量集X2是我们的关注变量集，相应的X1就是我们的控制变量集。估计系数b2表示的就是在控制了变量集X1后，X2对y的影响。也就是通常说的，在其他变量保持不变的情况下，
X2的变化引起的y的变化。很显然，在不同的情况下，我们可以改变我们的控制变量集，来看我们的关注变量系数是否发生显著的变化，这在实证中是很重要步骤和思想。控制变量的t值大小可以不必过于在意。
小结：
双残差回归思想的理解和具体步骤
Y=Xβ+ε=X1β1+X2β2+ε
b2=(X2'M1X2)-1(X2'M1Y)
**-1** =(XX Y2'X2)2*其中：M1=I-X1(X1'X1)-1X1'，X*2=M1X2，Y=M1Y
假设现在要求的是系数β2
（1）X2对X1进行回归，得到回归的残差记为e2。 （2）Y对X1进行回归，得到回归的残差记为e1
（3）e1对e2回归，得到的参数估计b2=(e2'e2)-1e2'e1就是β2的估计值。
残差e1中扣除了Y中包含的X1的信息；残差e2扣除了X2中包含的X1的信息。因此双残差（e1、e2）回归仅反应了，在扣除了X1的影响，X2对Y的作用情况，同样说明了系数b2表示的是变量X2与Y的偏相关。
同样，b1的表示与b2一样，它们是一种对称的关系。
双残差回归得到的偏回归系数与统计中的偏相关系数是密切联系的，但不是严格意义上的偏相关系数。所谓偏相关系数，就是扣除了中间变量影响后的相关系数。它与简单相关系数的一个主要区别在于，通常情况下，简单相关系数不仅包含了两个变量之间的直接相关关系，额包括了变量间的间接相关关系（通过中间变量的相关性传导）。一种极端的情况是：变量间的相关关系完全是由间接相关关系引起的。如果是这样，那么在控制了中间变量的影
- 13 -
西南财经大学2009级博士研究生高级计量经济学学习指南
响之后，两个关注变量之间就表现为不相关。又或者说，两个变量之间的简单相关关系是一种负相关的关系，但是在控制了中间变量影响后就可能表现为正相关。
在计量经济学中有关注变量和控制变量的说法，就是对应了以上的原理。不妨假设在一个典型的线性回归方程y?X1?1?X2?2??中，变量集X2是我们的关注变量集，相应的估计系数b2表示的就是在控制了变量集X1后，X2对y的影响。X1就是我们的控制变量集。
也就是通常说的，在其他变量保持不变的情况下，X2的变化引起的y的变化。很显然，在不同的情况下，我们可以改变我们的控制变量集，来看我们的关注变量系数是否发生显著的
变化，这在实证中是很重要步骤和思想。控制变量的t值大小可以不必过于在意。
6、方差分解和拟合优度 （1）方差分解
??e 在初等计量中：考虑一个线性回归方程式：y?Xb?e?y??e 方程两边同取平均值，为y?Xb?e?y??y?)?(e?e) 两式相减得到：y?y?(X?X)b?(e?e)?(y?(y?y)ii?1n2??y?)?(e?e)]?[(y??y?)?(e?e)] ?(y?y)?(y?y)?[(y??y?)?(y??y?)]?[(e?e)?(e?e)]?2(y??y?)?(e?e) ?[(y?i?y?)??(ei?e)2 （二倍交叉项为零） ??(y2i?1i?1nn也就是：TSS?RSS?ESS，即: 总离差平方和＝残差平方和＋回归平方和。
于是可以得到可决系数R2?ESS，它可以用来判别模型的拟合优度。 TSS1jj?)，可以证明M0也是一n在格林教材中，对于可决系数的计算是用矩阵来表达的。记单位向量
jn?1??111?，令矩阵M0?(I?j(j?j)?1j?)?(I?'个对称幂等矩阵。
对任意的列向量y，有如下结论成立： （a）M0y?y?y
- 14 -
西南财经大学2009级博士研究生高级计量经济学学习指南
（b）y?My?(y?y)?(y?y)??(yi?y)2
0i?1n??M0e?y?M0y?y??M0y??e?M0e?b?X?则M0y?M0yM0Xb?e?e ??M0y?b?X?M0XbRSSye?e定义可决系数R?。 ???1?TSSy?M0yy?M0yy?M0y2而由前面条件期望部分的方差分解定理：
Var(y)?E[Var(y|X)]?Var[E(y|X)]
它同样表示了：总离差平方和＝回归平方和 + 残差平方和 因此有：R2?RSSE[Var(y|X)]?…………① TSSVar(y)扩展方差分解定理，得到：
Var(y|X)?E[Var(y|X,z)|X]?Var[E(y|X,z)|X] ?Var(y|X)?E[Var(y|X,z)|X]
两边取期望，由迭代期望定理得到：
?E[Var(y|X)]?E{E[Var(y|X,z)|X]}?E[Var(y|X,z)]
结合①式，上式说明在回归式中增加新的变量会使得可决系数增大。 （2）两个重要的定理
定理①：记e'e是y对X回归的残差平方和，而u'u是y对X和z回归的残
?z*)?e'e。 差平方和。那么有u'u＝e'e?c2(z*其中：c是y对X和z的回归中z的参数估计，z*?[I?X(X'X)?1X']z。 这个定理说明的是在一个线性回归模型中增加新的解释变量，总是可以使模型的残差平方和减小，或者至少不增大。
由于总离差平方和TSS是不变的，上述结论意味这可决系数R2的增大。于
2。 是得到书上的定理○
2：记R2是y对X和z回归的可决系数，而R2是y只对X回归的可决定理○XzX22**2
系数，表示在控制了X之后，y与z的偏相系数。则有：RXz＝RX。 ?(1?RX)?ryzryz - 15 -
西南财经大学2009级博士研究生高级计量经济学学习指南
由该定理也说明了，增加新的解释变量会使得可决系数增大。 小结：
方差分解定理可以表述为：
Var?y??Varx??E?y|x????Ex??Var?y|x???
它表示，在一个二元分布中，y的方差可分解为条件均值函数的方差加上条件均值的期望方差。
（1）在方差分解定理的公式中，Var?y?是y的方差，也就是回归式中的总离差平方和TSS。条件均值的方差Varx??E?y|x???是回归式中的回归平方和ESS；条件方差的期望
2Ex??Var?y|x???是回归的残差平方和RSS。由此，可以构造R统计量为：
R2?ESSVarx??E?y|x??? ?TSSVar?y?（2）对方差分解定理进行简单的扩展，得到如下的表达式：
Var(y|X)?E[Var(y|X,z)|X]?Var[E(y|X,z)|X] ?Var(y|X)?E[Var(y|X,z)|X]
两边取期望，由迭代期望定理得到：
?E[Var(y|X)]?E{E[Var(y|X,z)|X]}?E[Var(y|X,z)]
由于回归方程的总离差平方和TSS是不变的，因此，上式说明，在回归式中增加新的
变量会使得可决系数增大。
四、思考题
1、阐述双残差回归的步骤和其中体现的统计思想。
2 2、证明在线性回归中增加新的解释变量会使得可决系数增大。即上述定理○
?X1)-1X1?，X1是X中的部分解释变3、定义M=I-X(X?X)-1X?，M1=I-X1(X1量。证明：MM1?M
- 16 -