计量经济学,求大神帮忙看一下这个eviews回归结果填空通过F检验和T检验了吗?

本人急需计量经济学论文一篇,内容须有模型设计,EVIEWS软件计算,T检验F检验,自相关,异方差,多重共线_百度知道
本人急需计量经济学论文一篇,内容须有模型设计,EVIEWS软件计算,T检验F检验,自相关,异方差,多重共线
最少是二元变量,我把所有的分都悬赏~~O(∩_∩)O谢谢candise....
最少是二元变量,我把所有的分都悬赏~~O(∩_∩)O谢谢candise.
答题抽奖
首次认真答题后
即可获得3次抽奖机会,100%中奖。
采纳数:10
获赞数:96
擅长:暂未定制
为你推荐:
其他类似问题
个人、企业类
违法有害信息,请在下方选择后提交
色情、暴力
我们会通过消息、邮箱等方式尽快将举报结果通知您。简介:本文档为《计量经济学论文(eviews分析)《促进内蒙古经济发展的因素分析》doc》,可适用于领域,主题内容包含计量经济学论文(eviews分析)《促进内蒙古经济发展的因素分析》促进内蒙古经济发展的因素分析摘要:“西部大开发”发展战略的实施西部落后地区迎来了发符等。
侵权或盗版
*若权利人发现爱问平台上用户上传内容侵犯了其作品的信息网络传播权等合法权益时,请按照平台要求书面通知爱问!
赌博犯罪类
下载本资料需要:0下载券
热门下载排行
用户评论(0)
在此可输入您对该资料的评论~
添加成功至
资料评分:苹果/安卓/wp
积分 268, 距离下一级还需 182 积分
权限: 自定义头衔, 签名中使用图片
道具: 涂鸦板, 彩虹炫, 雷达卡, 热点灯, 显身卡, 匿名卡, 金钱卡, 变色卡下一级可获得
道具: 抢沙发
购买后可立即获得
权限: 隐身
道具: 金钱卡, 变色卡, 彩虹炫, 雷达卡, 热点灯, 涂鸦板
本帖最后由 wanghaidong918 于
22:03 编辑
回归参数的显著性检验(t检验)和回归方程的显著性检验(F检验)的区别是什么?
区别很明显啊,T检验是检验单个参数的显著性,而F检验是检验整体参数的显著性。通过T检验说明被检验的参数是显著有效的,通过F检验,说明整体参数中至少有一个是显著的,但不一定是都显著。F检验是检验解释变量与被解释变量总体的线性关系(对线性模型而言),T检验是检验单个解释变量对被解释变量的解释能力,如果不能通过T检验的话,说明该解释变量对被解释变量的解释作用不大,应该在模型中剔除。
本帖被以下文库推荐
& |主题: 12506, 订阅: 39
区别很明显啊,T检验是检验单个参数的显著性,而F检验是检验整体参数的显著性。通过T检验说明被检验的参数是显著有效的,通过F检验,说明整体参数中至少有一个是显著的,但不一定是都显著。F检验是检验解释变量与被解释变量总体的线性关系(对线性模型而言),T检验是检验单个解释变量对被解释变量的解释能力,如果不能通过T检验的话,说明该解释变量对被解释变量的解释作用不大,应该在模型中剔除。
提示: 作者被禁止或删除 内容自动屏蔽
呵呵 ,学习一下!!!!!
数据的奥秘!!!
解释的真好!!!!
thank you so much
学习啦&&谢谢
说的很好!
忒J8犀利了
&nbsp&nbsp|
&nbsp&nbsp|
&nbsp&nbsp|
&nbsp&nbsp|
&nbsp&nbsp|
&nbsp&nbsp|
如有投资本站或合作意向,请联系(010-);
邮箱:service@pinggu.org
投诉或不良信息处理:(010-)
论坛法律顾问:王进律师博士生高级计量经济学指南85
您的位置: →
博士生高级计量经济学指南
第一部分第二部分第三部分第四部分第五部分第六部分第七部分第八部分第九部分
西南财经大学2013级博士研究生高级计量经济学学习指南 2013级博士生高级计量经济学 学习指南 条件期望与条件方差 古典假设与最小二乘法 最小二乘的有限样本性质 最小二乘的大样本性质 非球型扰动与广义回归模型 极大似然估计,广义矩估计 检验与推断 工具变量和两阶段最小二乘 模型设定检验
- 1 -西南财经大学2013级博士研究生高级计量经济学学习指南第一部分
条件期望与条件方差在正式进入计量经济学的学习之前,需要对条件期望以及条件方差熟练掌握,它们是以后学习的基础。一、条件期望1、条件均值的定义条件均值的定义为:?yf?y|x?dy??若y是连续的?? m(x)?E?y|x???y??yPy|x?y|x???若y是离散的?y应当指出的是,条件期望是谁的函数。2、条件均值的性质条件均值有几个简单而有用的性质:(1)迭代期望律 ( Law of Iterated expectations, LIE)条件期望的条件期望等于无条件期望。E?y??Ex??E?y|x???,其中,记号Ex???表示关于 x值的期望。Proof:离散情形:We need to show: E?y???E?y|X?x?PX?X?x?xWhere E?Y|X?x???yPY|X?y|x?.yWe have?E?Y|X?x?P?X?x???y?P?y|x?P?x???yP?Y?y??E?Y?. XY|XXYxyxy连续情形:?EX?g???gf?x?dx,and
E?y|x???yf?y|x?dyxy?EX??E?Y|X?x???????E?Y|X?x???f?x?dxx??
????yf?y|x?dy?f?x?dx ??x?y????yf?y|x?dyf?x?dxxy- 2 -西南财经大学2013级博士研究生高级计量经济学学习指南???yf?y|x?f?x?dxdyxy???yf?x,y?dxdy??yf?y?dy?E?y?xyy迭代期望律的一般表述方式E?y|x??E?E?y|w?|x?其中,x?g?w?,x是w的子集,g???为非随机函数。语义:若已知w的结论,我们也就知道x的结论。记:
?1?w??E?y|w?,
?2?x??E?y|x?则:?2?x??E?y|x??E??1?w?|x?Proof 需要较多的测度论的知识,这里只是加以说明证明的思路。
E??E?y|w?|x??中,w的信息多于x。因此,当?1?w??E?y|w?时,运用x的信息,也可描述?2?x??E?y|x?。例如,w和x分别为天平的砝码,w为1克的集合,x为5克的集合,因此,有x?g?w?。当我们用w的信息描述y时,也可以用x的信息加以描述。特例: E?y|x??E?E?y|x,z?|x?另外,E?y|x??E?E?y|x?|w?也成立。(2)E?g(y)h(x)|y??g(y)E?h(x)|y?(3)E?g(y)h(x)??E?g(y)E?h(x)|y??E?g(y)h(x)??E?E?g(y)h(x)|y???E?g(y)E?h(x)|y??(4)E?ax?by|z??aE?x|z??bE?y|z?更为一般的情形:设,a1?x?,a2?x?,?,aG?x?和b?x?为x的标量函数,y1,y2,?,yG为随机变量,那么:- 3 -西南财经大学2013级博士研究生高级计量经济学学习指南?G?GE??aj?x?yj?b?x?|x???aj?x?E?yj|x??b?x??j?1?j?1(5)对于任何二元变量的分布,Cov?x,y??Cov?x,E?y|x??E|y?xx dx
???x?E?x???x?f?x证明:Cov(x,y)?Exy?ExEy)?]
?E[E(xy|xExE?y[Ex(E|y?)]xE[xE( Eyx?Cov?x,E?y|x??)[E(y|?x)
?E{(x?Ex)E(y|x)?]
?E[(x?ExE(E(y| x)E[?(xEx)?E]y?E[(xE)x (EyxE|y?xx dx
???x?E?x???x?f?x从这个公式中,我们需要理解线性回归中的两个古典假设:E(u|x)?0?Cov(x,u)?0由此,零均值假定(在xi给定的条件下,ui的条件均值为零)(强外生),与随机扰动项与解释变量不相关的假定(弱外生),这将在以后的学习中经常提及。,3,J和,(6)若定义??y?E?y|?x,在假设Egi?x????,
j?1,2?E?????条件下,有E?g?x????0。其中,g?x?为任意函数。特殊情形,E????0,Cov?x,???0。证明:E??|x??E??y?E?y|x??|x??E?y|x??E?E?y|x?|x??E?y|x??E?y|x??0又
E?g?x????EE??x??|?g???x?E?g?x?E?|??x??E??g0?x? 0E0?y
E????E?y?Ex????E?y??E|x??y???|y?E?E??y?- 4 -西南财经大学2013级博士研究生高级计量经济学学习指南Cov?x,???E?x???E?x?E????E?x???E?E?x?|x???E?xE??|x???E?x0??03、条件方差的定义条件方差的定义为:22Var?y|x???2?x??E??y?E?y|x??|x??E?y2|x???E?y|x??
??它的简化公式为:Var?y|x??E?y2|x???E?y|x?? 2可认为是:分组条件下的集中程度的度量,或者,分组条件下的差异程度的度量。同理,条件期望为总体分组条件下的分门别类地求期望(学校教师的平均年龄=各院系教师平均年龄的平均)。(1) Var?a?x?y?b?x??|x??a?x??Var?y|x?证明:()(2)一个重要的方差分解定理:在一个联合分布中有,Var?y??Varx??E?y|x????Ex??Var?y|x???它表示,在一个二元分布中,y的方差可分解为条件均值函数的方差加上条件方差的期望。将此式变形即可得到:Ex??Var?y|x????Var?y??Varx??E?y|x???它表示从平均意义上看,在条件约束下,条件化减少了变量的方差。我们有清楚的结论:y的条件方差不大于y的无条件方差。证明Var?y??E?y?E?y???E?y?E?y|x??E?y|x??E?y?? 22??2?E?y?E?y|x???E?E?y|x??E?y??22?2E?y?E?y|x???E?y|x??E?y????????????????????E??h?x???0???E?y?E?y|x???E?E?y|x??E?y?? 22?????????2
?EE?y?E?y|x??|x?E?E?y|x??E?y?? ?????????????????????EE?y|x??E?E?y|x????2?2??E?Var?y|x???Var?E?y|x??- 5 -西南财经大学2013级博士研究生高级计量经济学学习指南?E?Var?y|x???Var?E?y|x???(3)Var(y|x)?E[Var(y|x,z)|x]?Var[E(y|x,z)|x]证明:利用性质:E[E(y|x,z)|x]?E(y|x),E[E(y2|x,z)|x]?E(y2|x)则:Var(y|x,z)?E(y2|x,z)??E(y|x,z)?2?E[Var(y|x,z)|x]?E?E(y2|x,z)??E(y|x,z)?|x????E(y2|x)?E?E(y|x,z)2|x?2??Var[E(y|x,z)|x]?E(E(y|x,z)2|x)??E(E(y|x,z)|x)??E(E(y|x,z)|x)??E(y|x)?222?E[Var(y|x,z)|x]?Var[E(y|x,z)|x]?E(y2|x)?E?E(y|x,z)2|x??E(E(y|x,z)2|x)??E(y|x)??E(y2|x)??E(y|x)?22小结:1、方差分解定理可以表述为:Var?y??Varx??E?y|x????Ex??Var?y|x???它表示,在一个二元分布中,y的方差可分解为条件均值函数的方差加上条件方差的期望。在方差分解定理的公式中,Var?y?是y的方差,相当于回归式中的总离差平方和TSS。条件均值的方差Varx??E?y|x???,相当于回归式中的回归平方和ESS;条件方差的期望Ex??Var?y|x???,相当于回归的残差平方和RSS。 (注意总体与样本的区别)2、依据方差分解定理,可以构造R2统计量:R2?Varx?ESS?E?y|x??? ?TSSVary3、对方差分解定理进行简单的扩展,得到如下的表达式:Var(y|X)?E[Var(y|X,z)|X]?Var[E(y|X,z)|X]?Var(y|X)?E[Var(y|X,z)|X]两边取期望,由迭代期望定理得到:- 6 -西南财经大学2013级博士研究生高级计量经济学学习指南?E[Var(y|X)]?E{E[Var(y|X,z)|X]}?E[Var(y|X,z)]由于回归方程的总离差平方和TSS是不变的,因此,上式说明,在回归式中增加新的变量会使得可决系数增大。第二部分
古典假设与最小二乘一、背景本部分开始我们正式进入计量经济学的学习。在计量经济学中,我们考察经济变量之间的相互关系,最基本的方法是回归分析。回归分析是计量经济学的主要工具,也是计量经济学理论和方法的主要内容。本部分从多元回归模型入手,对古典假设进行复习,然后就最小二乘估计法的算法、双残差回归和模型拟合优度的一些问题进行探讨。二、知识要点1、回归模型,2、古典假设,3、最小二乘法,4、双残差回归,5、方差分解和拟合优度三、要点细纲1、回归模型一般的,我们可以将回归模型写为条件期望和条件异方差的和,即:y?E(y|X)?S(X)ε。对于S(X)ε的讨论构成条件异方差自回归模型,我们这里仅考虑当条件方差为常数1时的情形,即:y?E(y|X)?ε。当E(y|X)取不同的形式时,也就构成了不同的模型,包括:线性、非线性和非参数等。我们这里主要讨论的是线性模型(一元或多元):E[y|X]
=Xβ,则总体回归方程可表示为:y?Xβ?ε。其中:?1x11?y1????y2??1x21?y?,X???????????y??1xT1?T?(T?1)????x1j?xTjx1k?1???0?????x2k?1??1?,β?? ??????????????xTk?1?k?1?(k?1)?(T?k)??x2j- 7 -西南财经大学2013级博士研究生高级计量经济学学习指南T表示样本数量,k表示解释变量个数(包含了常数项),当k?2时就是一元线性回归模型。而ε???1?2??T?(1?T)表示的是随机扰动项,包含了除了解释变量以外的其他影响因素。若遗漏变量,则这个变量也将被扰动项所包含。这里有个回归和投影的概念,简单的说回归是相对总体而言,而投影是相对样本而言,线性投影总是存在的,而且是唯一的。对于线性,一般是指参数线性,而不是解释变量的线性。这里,某些非参数线性的模型,可以通过对解释变量和被解释变量进行一定的线性变形,可以转换为参数线性模型,比如对数线性模型、半对数线性模型、超对数线性模型等。2、古典假设在初级计量经济学中,我们可以看到对于回归模型的假设条件包括:(1)零均值,即E(?i|X)?0?Cov?xij,?i|X??0;(2)同方差与无自相关假定,即随机扰动项的方差Var(?|X)??2I;(3)随机扰动项与解释变量不相关,即Cov(xji,?i|X)?0;(4)无多重共线性,即各解释变量之间线性无关,Rank(X)?k;(5)正态性假定,即?i~N(0,?2)。外生性条件,表示随机扰动项中不包含有解释变量的任何信息。注意,外生性条件的不同表述方式和内涵(强外生性和弱外生性)。外生性条件的违反将影响到参数估计的一致性问题。满秩性条件,它是为了保证条件期望的唯一性,参数可求解。球形扰动,是指随机扰动项的方差-协方差矩阵为同方差和无自相关同时成立时的情况。违反此假设条件,被称为非球形扰动,将会影响到参数估计的有效性问题。正态性条件,它主要与我们的统计检验和推断有关,但在大样本的条件下,根据中心极限定理这个条件是可以放宽的。在后期的学习过程中,将逐渐放宽这些假设条件,从而对于这些假定的进行深入理解。 T- 8 -西南财经大学2013级博士研究生高级计量经济学学习指南3、最小二乘法以估计的残差平方和最小的原则确定样本回归函数,称为最小二乘准则。在古典假定下的最小二乘法,也称为普通最小二乘估计(简记为OLS)。对于多元回归模型,??残差平方和S=e'e=(Y-Xβ)'(Y-Xβ) ????
=Y'Y-β'X'Y-Y'Xβ+β'X'Xβ?'X'Y+β?'X'Xβ? ?Y'Y-2β我们的目标是使得回归的残差平方和达到最小,即:S
m?inβ则它的一阶条件为:?S? =-2X'Y+2X'Xβ?β满秩????=(X'X)-1X'Y 化简得:X'Y=X'Xβ??β以上是属于级计量中的做法。我们还可以从矩条件对最小二乘进行理解。关于矩将在后面部分中详细提到,这里只是应用该知识点。由强外生性条件E[ε|X]?0可得:E[XTε]?0从而:
E[XTε]?EX[T(y-Xβ)?] 0用样本矩替代总体矩,则可以得到:?11TX(y-Xb)?0。 n?1??1?所以有:?β=b=?XTX??XTy?。 ?n??n?注意XX的含义。 若记Ω为参数估计量的方差-协方差矩阵的估计,则有(1)s2T?XX?T?1?Ω(2)s?(3)s差; 221e?e n?kT?1?XX?为对称阵,对角线元素是b1,b2,?bk的方差,非对角线元素为相应的协方4、最小二乘估计的一些代数性质- 9 -西南财经大学2013级博士研究生高级计量经济学学习指南(1)残差均值等于0,即?iei?0;(2)回归线经过均值点,即?'b;y?y。 (3)回归的预测值的平均值等于实际值的均值,即?但注意这些代数性质只有在回归方程中包含了常数项的情况下才成立。5、双残差回归对于双残差回归,首先考察它的由来,然后进一步讨论由它引申出的一些性质。(1)残差的定义由e=Y-Xb,可以得到:e=Y-X(X'X)-1X'Y=(I-X(X'X)-1X')Y=MY 其中M=I-X(X'X)-1X',它是一个对称等幂矩阵,有M=M',M2=M的性质。因此MY表示了Y对X回归得到的残差。(2)双残差回归我们记:Y=Xβ+ε=X1β1+X2β2+ε?和X?
两边同时左乘X12,并用矩阵表示可以得到:'?X1X1
?'??X2X1''?1X1X2??b1?XY????=?'? 'X2X2???b2???X2Y??利用分块矩阵求逆的公式可以得到:''''''b1=(X1X1)-1X1Y-(X1X1)-1X1X2b2=(X1X1)-1X1(Y-X2b2)再带回到方程中,并整理可以得到:b2=[X2'(I-X1(X1'X1)-1X1')X2']-1[X2'(I-X1(X1'X1)-1X1')Y]**-1*
?(X2'M1X2)-1(X2'M1Y)=(X)2X Y2'X2*其中:M1=I-X1(X1'X1)-1X1',X*,=MXY=M1Y 212Y*表示了Y对X1回归得到的残差e1,对上式进行理解: X*2表示了X2对X1回归得到的残差e2,即:b2=(e2'e2)-1e2'e1。它表示的是残差e1对残差e2回归的参数估计。进一步理解:残差e1中扣除了Y中包含的X1的信息;残差e2扣除了X2 - 10 -西南财经大学2013级博士研究生高级计量经济学学习指南中包含的X1的信息。因此双残差(e1、e2)回归仅反应了,在扣除了X1的影响,X2对Y的作用情况,同样说明了系数b2表示的是变量X2与Y的偏相关。同样,b1的表示与b2一样,它们是一种对称的关系。(3)经济解释与实际应用双残差回归得到的偏回归系数与统计中的偏相关系数是密切联系的。所谓偏相关系数,就是扣除了中间变量影响后的相关系数。它与简单相关系数的一个主要区别在于,通常情况下,简单相关系数不仅包含了两个变量之间的直接相关关系,还包括了变量间的间接相关关系(通过中间变量的相关性传导)。一种极端的情况是:变量间的相关关系完全是由间接相关关系引起的。如果是这样,那么在控制了中间变量的影响之后,两个关注变量之间就表现为不相关。又或者说,两个变量之间的简单相关关系是一种负相关的关系,但是在控制了中间变量影响后就可能表现为正相关。举例来说,假设回归方程为y?X??Z???,要计算y与Z之间的偏相关系数,具体的计算步骤如下:(1)y对X进行回归,得到回归残差y*?My(M?I?X(X?X)?1X?)(2)Z对X进行回归,得到残差Z*?MZ(3)y与Z之间的偏相关系数就是y*与Z*之间的简单相关系数。可以简单的写成平方形式为:?*2yz(Z*?y*)2?
(残差的均值为零,上下N消去,证明略) ??(Z*Z*)(y*y*)在计量经济学中有关注变量和控制变量的说法,就是对应了以上的原理。不妨假设在一个典型的线性回归方程y?X1?1?X2?2??中,变量集X2是我们的关注变量集,相应的X1就是我们的控制变量集。估计系数b2表示的就是在控制了变量集X1后,X2对y的影响。也就是通常说的,在其他变量保持不变的情况下,X2的变化引起的y的变化。很显然,在不同的情况下,我们可以改变我们的控制变量集,来看我们的关注变量系数是否发生显著的变化,这在实证中是很重要 - 11 -西南财经大学2013级博士研究生高级计量经济学学习指南步骤和。控制变量的t值大小可以不必过于在意。 小结:双残差回归思想的理解和具体步骤Y=Xβ+ε=X1β1+X2β2+εb2=(X2'M1X2)-1(X2'M1Y)**-1**
=(XX Y2'X2)2*其中:M1=I-X1(X1'X1)-1X1',X*,=MXY=M1Y 212假设现在要求的是系数β2(1)X2对X1进行回归,得到回归的残差记为e2。(2)Y对X1进行回归,得到回归的残差记为e1(3)e1对e2回归,得到的参数估计b2=(e2'e2)-1e2'e1就是β2的估计值。 残差e1中扣除了Y中包含的X1的信息;残差e2扣除了X2中包含的X1的信息。因此双残差(e1、e2)回归仅反应了,在扣除了X1的影响,X2对Y的作用情况,同样说明了系数b2表示的是变量X2与Y的偏相关。6、方差分解和拟合优度(1)方差分解??e 在初等计量中:考虑一个线性回归方程式:y?Xb?e?y? 方程两边同取平均值,为???y??y)?(e?) 两式相减得到:y??(X?)b?(e?)?(y?(y?)ii?1n2??y)?(e?)]?[(y??y)?(e?)] ?(y?)?(y?)?[(y??)?(y??)]?[(e?)?(e?)]?2(y??)?(e?)
?[(y?i?y)??(ei?)2
(二倍交叉项为零) ??(y2i?1i?1nn- 12 -西南财经大学2013级博士研究生高级计量经济学学习指南也就是:TSS?RSS?ESS,即:
总离差平方和=残差平方和+回归平方和。 于是可以得到可决系数R2?而由前面条件期望部分的方差分解定理:Var(y)?E[Var(y|X)]?Var[E(y|X)] ESS,它可以用来判别模型的拟合优度。 TSS它同样表示了:总离差平方和=回归平方和 + 残差平方和 因此有:R2?RSSE[Var(y|X)]
① ?TSSVar(y)扩展方差分解定理,得到:Var(y|X)?E[Var(y|X,z)|X]?Var[E(y|X,z)|X]?Var(y|X)?E[Var(y|X,z)|X]两边取期望,由迭代期望定理得到:?E[Var(y|X)]?E{E[Var(y|X,z)|X]}?E[Var(y|X,z)]结合①式,上式说明在回归式中增加新的变量会使得可决系数增大。(2)两个定理定理1:记e'e是y对X回归的残差平方和,而u'u是y对X和z回归的残差?z*)?e'e。 平方和。那么有u'u=e'e?c2(z*其中:c是y对X和z的回归中z的参数估计,z*?[I?X(X'X)?1X']z。 这个定理说明的是在一个线性回归模型中增加新的解释变量,总是可以使模型的残差平方和减小,或者至少不增大。22定理2:记RXz是y对X和z回归的可决系数,而RX是y只对X回归的可决22**2系数,表示在控制了X之后,y与z的相关系数。则有:RXz=RX。 ?(1?RX)?ryzryz由该定理也说明了,增加新的解释变量会使得可决系数增大。四、思考题- 13 -西南财经大学2013级博士研究生高级计量经济学学习指南1、阐述双残差回归的步骤和其中体现的统计思想。2、证明在线性回归中增加新的解释变量会使得可决系数增大,即上述定理2?X1)-1X1?,X1是X中的部分解释变量。证明:3、定义M=I-X(X?X)-1X?,M1=I-X1(X1MM1?M第三部分
最小二乘(OLS)的有限样本性质一、背景OLS是最基本也是最常用的一个回归估计方法,其思想十分简单,就是使回归的残差平方和达到最小。需要注意的是,应用OLS离不开相应的假设条件,也就是所谓的古典假设。在这些假设条件下,OLS估计具有一系列优良的性质。这个部分主要阐述对古典假设条件和理解并讨论在该条件下OLS所具有的优良性质。二、知识要点1、对古典假设的理解2、自变量的随机和非随机问题3、OLS在古典假设下的无偏性和有效性三、要点细纲1、对古典假设的理解最小二乘有限样本性质的推导是在古典假设下得到的,因此需要注意的是,一旦古典假设不能得到满足,OLS的一系列有限样本的优良性质就不在具备了。计量经济学中的假设很多,从现实角度出发,假设条件应该是越弱越好的。这意味着模型的假设条件在现实中越容易得到满足,但是古典假设是一个很强的假设,虽然有其合理性,但是某些假设需要被放宽或者舍弃。最强的两个假设条件是:自变量的强外生性假定,即E(?|X)?0随机扰动项服从正态分布,即??N(0,?2)- 14 -西南财经大学2013级博士研究生高级计量经济学学习指南其中,强外生性条件E(?|X)?0不仅意味?与X是不相关的,即E(X?)?0,也意味着?与X的任何函数形式f(X)是不相关的。根据条件期望定理:若??y?E(y|X),那么对于任意X的函数f(X),有E[f(X)?]?0。(证明:?
E(?|X)?E[(y?E(y|X))|X]?E(y|X)?E(y|X)?0?
E[f(X)?]?E(E[f(X)?|X])?E(f(X)E[?|X])?0)其次,随机扰动项服从正态分布也是一个过强,有时不够实际的假设条件,但是该假设是有限样本性质的核心内容,是进行构造统计量进行假设检验和统计推断的基础。当然,在随机扰动项不服从正态分布的情况下,必须利用渐进理论讨论估计量的大样本性质。2、自变量X的随机与非随机问题的讨论一个一般性的回归式为:Y?f(X)??其中X?(x1,x2?xk) 是一个k维的向量,f(?)的函数形式可以是线性的,也可以是非线性的。在初等计量的课程中,我们通常把X看作是非随机的变量,也就是说,向量X在回归中是被作为常数处理的,不具备随机变量的性质。扰动项?是唯一的随机变量,由于?的存在,使得Y成为一个随机数。所有的分析都是在以上的假定下展开的,初看来,这样的假定使得对问题的分析变得相对简单化;但是,仔细推敲,就可以发现这样的设定是不科学的,无论是解释变量X还是被解释变量Y都没有可能是一个非随机的常量,这样的假定与随机抽样的假定是相违背的。一个简单的例子是,在截面数据中,在随机抽样的前提下,每个样本是按照一定的随机原则被抽中的,当这个样本被抽中时,用来描述样本特质(或者说是样本的某个属性)的X和Y也就被选定了。也就是说,属性X和Y也是从其自身的分布总体中抽出的样本,其本身也是一个随机变量。在时间序列数据中,由于时间序列只是样本的一次实现,没有实施随机抽样的可能,因此很容易被认 - 15 -西南财经大学2013级博士研究生高级计量经济学学习指南为是非随机的。但是,由于隐藏在时间序列数据背后的数据生成过程(DGP)是未知的,所有的时间序列数据都是这个未知总体的一个样本实现,因此,时间序列数据也必定是一个随机序列,而不是一个确定的常量。对于X是否随机问题争论不影响OLS估计的性质,其原因在于我们总是在条件期望的背景下讨论问题,而在X给定的情况下,X就可以被认为是非随机的。下面结合OLS的有限样本性质对X的随机和非随机进行比较分析,这部分内容需要认真学习、理解、掌握。3、OLS的有限样本性质以下讨论都基于回归式y?Xb?e(1)无偏性b?(X?X)?1X?y?(X?X)?1X?(X???)???(X?X)?1X??Ⅰ、若视X为非随机,则直接取无条件期望,有:E(b)?E??E[(X?X)?1X??]???(X?X)?1X?E(?)??Ⅱ、若视X为随机,则取条件期望得到:E(b|X)???E[(X?X)?1X??|X]???(X?X)?1X?E(?|X)??E(b)?E[E(b|X)]??(2)有效性Ⅰ、若视X为非随机,则直接取方差得到:Var(b)?Var(??(X?X)?1X??)?(X?X)?1X?Var(?)[(X?X)?1X?]??(X?X)?1X??2X(X?X)?1??2(X?X)?1Ⅱ、若视X为随机,则取条件方差得到:Var(b|X)?E[(b??)(b??)?|X]?E[(X?X)?1X????X(X?X)?1|X]?(X?X)?1X?E(???|X)X(X?X)?1?(X?X)?1X?(?2I)X(X?X)?1??2(X?X)?1此时根据方差分解定理- 16 -西南财经大学2013级博士研究生高级计量经济学学习指南Var(b)?E[Var(b|X)]?Var[E(b|X)]得到无条件方差为:Var(b)?E[?2(X?X)?1]??2E[(X?X)?1]有效性的证明:假设有另一个关于y的无偏估计b0?Cy,C是一个K?n的矩阵,对应于X)?1X?也是一个K?n的矩阵。 b?(X?X)?1X?y,A?(X?设b0?Cy是?的无偏估计,因此有:E(b0|X)?E(Cy|X)?E(CX??C?|X)??必有CX?I成立,且Var(b0|X)??2C?C令D?C?(X?X)?1X?,则有DX?0。于是Var(b0|X)??2[(D?(X?X)?1X?)(D?(X?X)?1X?)?] (展开运算)Var(b0|X)??2(X?X)?1??2DD??Var(b|X)??2DD??Var(b|X)需要说明的一点是,在计量经济学中,对于估计量的性质,关注的最多的就是无偏性和一致性,而有效性的地位要略为次之。因为计量经济学总是在寻求无偏估计的基础上不断的放宽假设条件,然后在新的条件下,在保证无偏性或是一致性的前提下改进估计量的有效性。(3)最小均方误差预测这是在不知道估计量是否无偏的情况下,根据均方误差最小原则进行的求解,得到一个最优估计的过程。其本质上就是最小二乘的估计原理。可以证明在该原则下求出的参数估计量表达式就是OLS表达式。需要注意的是,有效性的证明是在无偏性的前提下进行的。也就是说,有效性比较的是两个无偏估计量的方差大小,如果是有偏的估计量,那么就需要在偏离程度和方差大小两者之间做出权衡。,这最就是小均方误差原则体现的思想。(4)方差的无偏估计是对随机扰动项?的方差?2进行的估计。要求估计量必须是无偏的。实际上就是对自由度进行了调整。在证明中需要用到有关矩阵的迹(trace)的性质, - 17 -西南财经大学2013级博士研究生高级计量经济学学习指南列举如下:迹就是矩阵主对角线的元素之和,矩阵A的迹用符号tr(A)来表示。一个标量(数)的迹就是它本身。tr(A?B)?tr(A)?tr(B)tr(AB)?tr(BA)证明:e=My=M(Xβ+ε)=Mε?e?e=ε?Mε上式两边同取X的条件期望,得到:E[e?e|X]=E[ε?Mε|X]方程两边同取迹,并交换和期望算子的位置,得到:E[tr(e?e)|X]=E[tr(ε?Mε)|X]?E[tr(Mεε')|X]?tr[E(Mεε')|X]
M是关于X的矩阵,因此可从条件期望中提出来,得到: tr(E[M(εε')|X])?tr(M?2I)??2tr(M)tr(M)?tr[In-X(X?X)-1X?]?tr(In)?tr[(X?X)-1X?X]?tr(In)?tr(Ik)?n?k 而e?e是一个标量,它的迹等于它本身,因此,有:?E[e?e|X]=(n?k)?2??2?E[ee|X]1n2所以?的无偏估计是?ei n?ki?12n?k)小结:???X?X?(1)在古典假设条件下,β的估计量β-1?X?y?具有最小方差。?的有效性会受到什么样的影响。在这种情况下,如何(2)在古典假设不成立的情况下,β?的有效估计。 得到β(1)Var(b|X)?E[(b??)(b??)?|X]?E[(X?X)X????X(X?X)|X] ?1?1 - 18 -西南财经大学2013级博士研究生高级计量经济学学习指南?(X?X)?1X?E(???|X)X(X?X)?1?(X?X)?1X?(?2I)X(X?X)?1??2(X?X)?1此时根据方差分解定理Var(b)?E[Var(b|X)]?Var[E(b|X)]得到无条件方差为:Var(b)?E[?2(X?X)?1]??2E[(X?X)?1]有效性的证明?的有效性,(2)当古典假定不成立时,特别是存在非球形扰动时,将影响到参数估计量β?的有效估计。第五部它将不再满足最小方差性。当存在这种情况时,可以利用GLS得到β分介绍具体做法。四、思考题?,??,它们的方差分别为v,v。问:1、关于参数?有两个相互独立的无偏估计量?1212??c????当c1,c2为何值时,线性组合?11?c2?2是关于参数的最小方差无偏估计?2、证明在古典假定下,利用OLS对线性回归方程估计得到的结果,是回归参数的最小方差无偏估计。3、对于自变量X是随机或非随机的争论,你有什么看法,在X随机和非随机这两个不同的假设条件下,参数的估计值和估计的方差有什么不同?阐述其中体现的思想。第四部分
最小二乘(OLS)的大样本性质一、背景在有限样本条件下,OLS估计的一系列优良特性都是建立在严格的古典假定上的。显然,在现实生活中,严格的古典假定并不都能得到满足。大样本性质就是在古典假定中的扰动项服从正态分布这一假定不成立的条件下,利用大数定律和中心极限定理对估计量渐进性质的讨论。- 19 -西南财经大学2013级博士研究生高级计量经济学学习指南二、知识要点1、矩估计、样本矩代替总体矩2、基本的大数定律和中心极限定理3、大样本OLS估计的推导和性质三、要点细纲1、矩估计、样本矩和总体矩矩估计的方法是由英国统计学家K.Pearson提出的。其基本的思想就是替换,即在确定总体的参数估计值时,基于样本矩依概率收敛于相应的总体矩,样本矩的函数依概率收敛于相应总体矩的函数。因而,可以用样本矩估计(替换)总体矩,通过求解方程组的办法来得到相应的参数估计。(1)总体矩和样本矩的概念①总体矩定义 设X为随机变量,c为常数,k是正整数,则E(X?c)k称为X关于c点的k阶总体矩。特别的,有以下两种请况:A、c?0,这时,?k?EXk称为X的k阶总体原点矩;B、c?EX,这时,?k?E(X?EX)k称为X的k阶总体中心矩。可以看出,一阶原点矩为随机变量的期望,二阶中心矩为随机变量的方差。 扩展
关于偏度和峰度A、偏度:偏度衡量的是一个随机变量的分布是否是对称分布,这里的对称指的是关于其均值(期望)对称。偏度是用随机变量的三阶中心矩来衡量的,其公式为:如果?3?0,则称分布为右偏(或者正偏),如果?3?0,?3?E(X?EX)3。则称分布为左偏(或者负偏)。遵循可比性的原则,将度量的单位标准化得到“偏度系数”的表达式如下所示:?1?v3v2?E(X?EX)3[E(X?EX)]2B、峰度:峰度衡量的是一个随机变量的分布在均值附近的陡峭程度如何(注意:这里的陡峭程度有一个对比的标准――正态分布)。峰度用随机变量的四阶 - 20 -西南财经大学2013级博士研究生高级计量经济学学习指南矩来衡量。其公式为:?4?E(X?EX)4。很显然,如果X的取值在概率上很集中在EX的附近,?4就倾向于小;反之,则?4就会比较大。同样遵循可比性的原则,进行标准化,得到峰度系数的表达式:v4E(X?EX)4?2?2?v2[E(X?EX)2]2峰度大小(也就是分布在均值附件集中程度)的衡量是有一个比较标准的,这个标准就是正态分布的峰度――3。如果大于3,就是常说的“尖峰”。这在金融时间序列数据中很常见。②样本矩和总体矩相对应,关于随机变量的样本矩有如下定义:1n定义 设X为随机变量,c为常数,k是正整数,则?(X?c)k称为X关于ni?1c点的k阶样本矩。1nkA、c?0,这时,gk??Xi称为X的k阶样本原点矩; ni?11n1nB、c???Xi,这时,gk??(X?)k称为X的k阶样本中心矩。 ni?1ni?1同样采取“替换”的思想,可以得到样本的偏度和峰度。实际上,在具体的实践操作中,总体矩总是未知的,上述统计量都是用样本矩来近似的代替总体矩。(2)总体矩和样本矩的关系可以证明,样本矩依概率收敛于总体矩。因此,在大样本情况下,样本矩可以很好的近似替代总体矩。在计量经济学中,主要指的就是样本均值和样本方差可以很好的替代总体均值和总体方差。(二阶矩)如果一个随机样本具有有限的总体均值和总体方差,那么样本均值是总体均值的一致估计。一个关于随机样本的函数g(x),如果E[g(x)]和Var[g(x)]是有限的常数,那么有:1nplim?g(xi)?E[g(x)] ni?1- 21 -西南财经大学2013级博士研究生高级计量经济学学习指南即函数的样本均值是函数总体均值(期望)的一致估计。取g(x)?x2,得到样本的二阶矩(方差)是总体二阶矩(方差)的一致估计。2、基本的大数定律和中心极限定理关于中心极限定理的内容有很多,根据收敛条件的强弱可以分为(1)几乎处处收敛、(2)依矩收敛、(3)依概率收敛和(4)依分布收敛。其中,几乎处处收敛和依矩收敛强于依概率收敛;依概率收敛又强于依分布收敛;而几乎处处收敛和依矩收敛不能相互推出。但是,在众多的中心极限定理中,有两种重要的区别。那就是收敛于一个确定的数,以及收敛于一个已知分布的随机变量。这两者之间有很显著的不同。在计量经济学中关注的通常是一个未知分布的随机变量收敛于另一个已知分布的随机变量(一般而言是正态分布)。这就是依分布收敛的定义和极限分布的由来。需要注意的是大数定律一般是依概率收敛,而中心极限定理一般是依分布收敛。在给出依分布收敛的定义后,就产生了渐进分布的概念。简单来说,当一个未知分布的随机变量依分布收敛于另一个已知分布的随机变量时,这个已知的分布就是该随机变量的渐进分布。而该分布的均值和方差就是这个未知分布随即变量的渐进均值和渐进方差。若干重要的极限定理如下(1) Khinchine弱大数定律
(WLLN)如果xi(i?1,2,是来自独立同分布总体的随机样本,且总体均值?n)E(xi)??,则plimn??。(2)Chebychev弱大数定律xi(i?1,2,?n)是n个随机样本,满足E(xi)??i??,Var(xi)??i2??,并2/n)?plim[(1/n2)?i?i2]?0。
且有plim(nn??n??则plim(n?n)?0(3)Kolmogorov强大数定律xi(i?1,2,?n)是分布相互独立的随机变量序列,满足E(xi)??i??, - 22 -西南财经大学2013级博士研究生高级计量经济学学习指南a.s?0 Var(xi)????,并且有plim(??i2/i2)??。则:n?n??2in??i?1n(4)Slutsky’s
Thoerem如果存在一个连续的关于xn的函数g(xn),且该函数与n无关,那么有: plimg(xn)?g(plimxn)(5)定义{ZN:N?1,2?}是一个K?K的随机矩阵序列,且A是一个非随p机、可逆的K?K矩阵,如果有ZN???A,那么以下结论成立:?1①ZN以概率1存在p?1?1②ZN???A?1 或者plimZN?A?1(6)定义{XN:N?1,2?}是一个K?1的随机向量,XN依分布收敛于连续的随机向量X,当且仅当对任意的满足c?c?1的K?1维的非随机向量c,都有dc?XN???c?X。(7)Lindeberg-Levy中心极限定理
(CLT){wi:i?1,2?}是一个独立同分布的G?1维的随机向量序列,且有2?,1?G)(g2以及E(wi)?0,那么{wi:i?1,2?}满足中心极限定理,E(wig)??,N也就是说:N定矩阵。 ?2?Normal(0,B)。其中,B?Var(w)?Eww?是一个半正?w??diiiii?1(8)Lindeberg-Feller中心极限定理{wi:i?1,2?}是一个G?1维的随机向量序列,如果有E(wi)??i,Var(wi)?Qi,并且所有的混合三阶矩存在。令:1nn???i ni?11nn??Qi ni?1- 23 -西南财经大学2013级博士研究生高级计量经济学学习指南1n假设limn?lim?Qi?Q是一个有限正定的矩阵,并且有: n??n??ni?1lim?nn?n???1?n?Qi?lim??Qi?Qi?0 n???i?1??1那么有:n?2?Normal(0,Q)。 ?(w?)??dini?1nLindberg-Feller中心极限定理的应用,主要指的是异方差时候的情形(非同分布)。该定理的条件总是假定被满足的,因为在实际的问题中通常不能认为各个不同的指标有相同方差(或者分布)。因此,该定理保证了在更弱的条件下,中心极限定理仍然成立。也就是说,在定理满足的条件下样本均值趋于一个正态分布。该定理也是White异方差一致估计的基础。3、大样本OLS估计的推导和性质大样本性质的推导不依赖于扰动项服从正态分布的假设,它仅仅假定(xi,?i)是一个相互独立的观测序列。并且有如下条件成立: X?X?Q是一个正定的矩阵。 nn??X?ε?E(x??)?0 Ⅱ、plimnn??Ⅰ、plim在总体方程y?xβ??两边同乘x?并取期望,得到:E(x?y)?E(x?x)β?β?[E(x?x)]?1E(x?y)根据样本矩代替总体矩的思想,有:n1n?X?X??X?y??X?X??X?ε??11?b?[?x?x](xy)??β??iiii???????? ni?1ni?1?n??n??n??n??1?1上式两边取概率极限,有:?X?ε?plimb?β?Q?1plim???βn??n???n?所以,b是β的一致估计量。在同方差假定下,根据Lindeberg-Levy中心极限定理,有:- 24 -西南财经大学2013级博士研究生高级计量经济学学习指南d?ε???N[0,?2Q] 因此,可以得到以下结论:Q?1dX?ε???N[0,Q?1(?2Q)Q?1] 也就是:b-β)?Q?1dX?ε???N[0,?2Q?1] 1ε?Mε的形式。但是,在大样本n?k对总体方差?2的估计仍然可以采用s2?情况下,有如下结果:s2?11ε?Mε?[ε?ε?ε?X(X?X)-1X?ε] n?kn?kn?n?k?ε?ε?ε?X??X?X?-1?X?ε??????????? nnnn??????????1ε?ε。 n当n??时,s2?因此有:?X?X?2?1plims???Q ?n???n?2?1Est.Var[b]?s2(X?X)?1四、思考题1、说明依概率收敛和依分布收敛的区别和联系,阐述Lindeberg-Levy中心极限定理和Lindeberg-Feller中心极限定理假设条件的不同及其应用。22、假定在线性回归模型y?xβ??中,有E(x??)?0,Var(?|x)??,但是E(?|x)?E(?)。问此时E(?2|x)??2是否成立?若不成立,对最小二乘估计的适用性会有什么样的影响?3、假设y和xj(j?1,2,?k)有有限的二阶矩,有如下的回归方程:y??0??1x1????kxk????0?xβ??- 25 -西南财经大学2013级博士研究生高级计量经济学学习指南E(?)?0,E(xj?)?0(j?1,2,?k)2(1)在xj(j?1,2,?k)是随机变量的条件下求y的方差?y(2)定义总体拟合优度为?2?1???22。证明R2?1?ESS是?2的一致估计。 y2(1)?y?Var(y)?E??Var?y|x????Var??E?y|x???2Vary|x?EVar??xβ??|x?EVar(?|x)?????其中,E? ??????0?????Var??E?y|x????Var?xβ?所以,?y?Var(y)?Var?xβ???? 22(2)R?1?RSS?1?22RSSN TSS/N?plim?RSSN????2?RSSN?2?1??1???所以,plimR?1?plim? ??2?TSS/NplimTSS/N????y?第五部分
非球型扰动与广义回归模型一、背景在之前内容中,我们主要集中在普通最小二乘估计OLS,以及基于OLS的两阶段最小二乘上。在古典假定下,OLS估计有诸多的优良性质,诸如无偏性、一致性、有效性等。但是,在实际的问题中,古典假定往往是很难得到满足的。那么,在古典假定不能得到满足的情况下,比如异方差或自相关时的非球型扰动的情形,利用OLS估计仍然会具有上述优良特性吗?如果没有,那么应该采取怎么样的处理办法进行修正?这正是广义回归模型这个部分要讨论的内容。二、知识要点1、异方差和自相关2、广义回归模型(GR)的假设条件2、GR模型中参数估计量的方差3、White和Newey-West一致估计- 26 -西南财经大学2013级博士研究生高级计量经济学学习指南4、广义最小二乘(GLS)和可行广义最小二乘(FGLS)三、要点细纲(一)、 异方差与自相关在广义回归模型中我们已经讨论了当古典假设条件不能得到满足时如果进行有效的估计。但是,如果古典假定中的同方差和无自相关假定不能得到满足,会引起什么样的估计问题呢?另一方面,如何发现问题,也就是发现和检验异方差以及自相关的存在性也是一个重要的方面,这个部分就是就这个问题进行回顾和讨论。1、引起异方差的原因及其对参数估计的影响引起异方差的众多原因中,我们讨论两个主要的原因,一是模型的设定偏误,主要指的是遗漏变量的影响。这样,遗漏的变量就进入了模型的残差项中。当省略的变量与回归方程中的变量有相关关系的时候,不仅会引起内生性问题,还会引起异方差。二是截面数据中总体各单位的差异。异方差对参数估计的影响主要是对参数估计有效性的影响。在存在异方差的情况下,OLS方法得到的参数估计仍然是无偏的,但是已经不具备最小方差性质。一般而言,异方差会引起真实方差的低估,从而夸大参数估计的显著性,即是参数估计的t统计量偏大,使得本应该被接受的原假设被错误的拒绝。2、异方差的检验(1)图示检验法由于异方差通常被认为是由于残差的大小随自变量的大小而变化,因此,可以通过散点图的方式来简单的判断是否存在异方差。具体的做法是,以回归的残差的平方ei2为纵坐标,回归式中的某个解释变量xi为横坐标,画散点图。如果散点图表现出一定的趋势,则可以判断存在异方差。(2)White一般性检验White的检验的思想直接来源于其异方差一致估计。当存在异方差时,传统的方差估计式Var(b|X)??2(X?X)?1不再是估计量方差的一致估计,而应该使用White一致性估计:(X?X)-1(?i?1ei2xi'xi)(X?X)-1。通过检验?2(X?X)?1是不是参数估计方差的一致估计,可以检验是否存在异n - 27 -西南财经大学2013级博士研究生高级计量经济学学习指南方差。但是,在实际的应用过程中,可以通过回归的步骤来简单的实现上述思想。具体的操作是将OLS估计的残差平方ei2对所有的解释变量以及解释变量的平方和交叉乘积进行辅助回归。然后计算统计量nR2,该统计量渐进服从自由度为P-1的卡方分布,其中P是辅助回归中解释变量的个数(包括常数项)。(3)Goldfeld-Quandt检验Goldfeld-Quandt异方差检验又称为样本分段法,该检验的基本思想是将样本分为两个部分,然后分别对两个样本进行回归,并计算比较两个回归的残差平方和是否有明显的差异,以此判断是否存在异方差。Goldfeld-Quandt检验有两个前提条件,一是该检验只应用于大样本,二是除了同方差假定不成立以外,要求其他假设都成立。其具体的实施步骤为:A、将观测值按照解释变量x的大小顺序排列B、将排在中间部分的c个(约1/4)观测值删去,再将剩余的观测值分成两个部分,每个部分的个数分别为n1、n2。C、分别对上述两个部分的观测值进行回归,得到两个部分的回归残差平方和。D、构造F统计量F??e1(n1?K)e1?F[n1?K,n2?K] ?e2(n1?K)e2(4)ARCH检验ARCH检验主要用于检验时间序列中存在的异方差。ARCH检验的思想是,在时间序列数据中,可认为存在的异方差性为ARCH过程,并通过检验这一过程是否成立来判断时间序列是否存在异方差。ARCH过程可以表述为:?t2??0??1?t2?1????p?t2?p?vt其中p是ARCH过程的阶数,并且?0?0,?i?0,(i?1,2,?p);vt为随机误差。ARCH检验的基本步骤如下:①提出假设- 28 -西南财经大学2013级博士研究生高级计量经济学学习指南H0:?1??2???p?0; H1:?j(j?1,2,?p)中至少一个不为零。②对原模型做OLS估计,求出残差et,并计算残差平方序列et2(t?1,2,?T),分别作为对?t2的估计。③作辅助回归?0???1et2?1?????pet2?p et2??并计算上式的可决系数R2,可以证明,在原假设成立的情况下,基于大样本,有(n?p)R2近似服从只有度为p的卡方分布。拒绝原假设,则表明原模型的误差项存在异方差。3、异方差的办法对异方差的传统解决办法是通过加权最小二乘WLS将残差向同方差转换。可以将WLS看作是GLS的一种特殊情况。一般认为,异方差的产生是由于残差项中包含了解释变量的相关信息,也就是说,可以将残差项e表达成解释变量x的函数:e?g(x))可以是关于x的线性函数,也可以是非线性的。其中x是1?k的向量,g(?如果知道g(x)的函数形式,那么可以通过加权最小二乘的方法对模型进行修正,在不存在自相关的假定下,在回归方程y?f(x)??两边同乘可以对残差进行修正,从而消除残差的异方差性使得OLS估计量仍然具有有效性。但是,)的形式难以确定(为了简便,这样的方法却有两个方面的问题――首先,是g(?)是关于x的线性函数,但实际上真实的函数形式很可能是非线我们往往假设g(?性的),从而相应的WLS的权重设定也就往往是不正确的了;其次,即使知道g(x)的真实函数形式,通过加权得出的参数估计也已经不是原来的关注参数了;最后,在强外生性条件E(?|x)?0不满足的条件下,WLS估计量也往往是不一致的。因此,从现代的观点来看,从模型设定的角度对异方差进行修正才是可行的方法。- 29 -西南财经大学2013级博士研究生高级计量经济学学习指南4、引起自相关的原因及其对参数估计的影响引起自相关的原因主要可以归纳为四点,一是经济系统自身的惯性。这只要出现在时间序列数据当中,经济变量在时间上的惯性往往是造成自相关的主要原因。二是经济活动的滞后效应。滞后效应指的是某一经济变量对另一经济变量的影响不仅影响于当期,二是延续若干期,由此带来变量的自相关。三是对数据的处理造成了数据的内在联系,从而引起自相关现象。四是模型的设定误差,主要仍然是遗漏变量的影响,将遗漏的变量归入了残差项,由于遗漏的变量在不同时间点上是相关的,这就造成了残差项的自相关。自相关对参数估计的影响仍然是影响参数估计的有效性,自相关的存在使得OLS得到的参数估计不再具有最小方差性质。一般而言,在存在自相关的情况下,如果仍然用满足古典假定的OLS去估计参数及其方差,会低估真实的?2,更会低估参数估计的方差,从而是t统计量被高估,致使原来不显著的解释变量变得显著,夸大的参数的显著水平。5、自相关的检验(1)图示检验图示检验是一种直观的检验自相关的方法。与上述检验异方差的方法略有不同的是,该方法是通过做残差的当期值与其滞后期的值的散点图来判断是否存在自相关。具体做法是,以OLS回归的残差当期值为纵坐标,以其滞后值为横坐标(可以是滞后一期,也可以是滞后一期以上)画散点图。如果该图形有明显的趋势,则可以认为残差存在自相关。(2)相关系数检验法相关系数的方法是检验自相关的一个简单方法。其基本思想就是通过计算OLS回归得到的残差之间的一阶自相关系数,来确认是否存在自相关的现象。具体表示如下:et?yt?x?tb做辅助回归et?ret?1?vt?T?r???etet?1??t?2??et?1T2t - 30 -西南财经大学2013级博士研究生高级计量经济学学习指南显然,r是对相关系数的一个估计。但是这个方法的问题是:没有一个确定的标准来判断究竟多大的相关悉数才能认为存在自相关。(3)Breusch-Godfrey LM检验Breusch-Godfrey LM检验的原假设是存在自相关(H1:?t?AR(p),或者H1:?t?MA(p))备择假设是不存在自相关。他们构造了一个LM统计量,表示如下:-1???e?X0(X?0X0)X0eLM?T??TR02 ?e?e??其中,X0是在原始数据矩阵X的基础上加上P列,分别包括了OLS估计的回归残差et?1,et?2,?et?p。同样,该检验也可以通过一件简单的回归来实现。回归的被解释变量是OLS残差et,被解释变量是xt0,代表X0的第t行。其中缺失的滞后2期的残差用0来填补。滞后计算TR0,就是要求的LM统计量。(4)Box―Pierce―Ljung的Q检验Q统计量最早由Box和Pierce于1970年提出,其计算表达式为:Q?T?rj2 j?1P其中,rj?i?j?1T?ee?ei?1Ttt?j。Q统计量服从自由度为P的卡方分布。为了使该统计量具2t有更加优良的小样本性质,Ljung和Box于1979年对其进行了改进。改进后的统计量其表达形式为:Q?T(T?2)?j?1Prj2T?j(5)Durbin-Watson检验DW统计量是用OLS回归的残差来构造检验自相关的统计量的。可以表述如下:- 31 -西南财经大学2013级博士研究生高级计量经济学学习指南d??(e?ett?2Tt?1)2?2(1?r)?2e12?eT?et?1T2t?et?1T 2T其中,r是一阶自相关系数。当样本量很大的时候,上式中的第二项可以忽略,此时统计量变成d?2(1?r)。DW检验有两个临界值dU和dL(dU?dL),当统计量的值落在两个临界值中间时,接受原假设,认为不存在自相关。当统计量的值临界值大于dU或者小于dL时,均认为存在自相关。使用DW统计量对自相关进行检验需要注意该统计量的使用条件。一是该统计量只能检验一阶自相关,不能检验高阶的自相关;二是该检验要求回归式中不能包含有解释变量的滞后值,否则计算得到的统计量总是倾向于得出没有自相关的结论。(6)Durbin H检验Durbin H检验克服了DW检验要求回归式中不含有被解释变量的滞后项的缺点,其构造的统计量可以表示如下:h?2其中sc是OLS回归中yt?1回归系数的方差。h的值越大,越倾向于拒绝原假设,即认为存在自相关。当sc2?时,该统计量无法计算,此时可以使用辅助回归的做法进行检验。具体步骤如下:(1)et对xt,yt?1,?et?1进行回归,解释变量可以包括et更多的滞后期值。(2)利用F检验检验该回归方程的显著性。(3)若F统计量显著,则认为存在自相关。(二)、广义回归模型1、GR模型的假设广义回归模型GR(Generalized Regression)只是对先前学过的简单线性回归模型的一个扩展。和所有计量经济学模型的扩展一样,模型的扩展往往直接来自对假设条件的放宽。广义回归模型也是这样。回忆在普通最小二乘估计中的古典假定,为了保证估计量的有效性,我们假设回归模型的残差具有同方差性质, - 32 -西南财经大学2013级博士研究生高级计量经济学学习指南并且无自相关,GR模型就是放宽了上述两个假设条件,在这样的情况下,普通最小二乘得到的估计量虽然仍然是无偏和一致的,但是其方差不再是最小的,也就是说,不再是一个有效的估计量。考虑如下的回归方程:y=Xβ+ε??(1)根据古典假定,我们有:E(ε|X)=0在无异方差和无自相关的假定下,残差项的方差协方差矩阵是一个对角阵,并且主对角线的元素都相同。即有:??2?0?E(εε?|X)=???????2I ?0??2???(1)若放松关于同方差的假定,允许异方差的存在,但仍然假设无自相关,则上述结果变成:??12?0???11?0?2E(εε?|X)=??????????????2Ω ?0????0??2?nn??n??(2)反过来,如果假设不存在异方差,但有自相关,则上述结果为:??2??1n??1??1n?2E(εε?|X)=???????????? ???1?2????n1??n1???如果二者同时存在,则结果为:??12??1n???11??1n?2E(εε?|X)=??????????????2Ω ?????2?????nn??n1n1n??2、GR假设下参数估计的性质(1)无偏性此时,OLS估计获得的估计量仍然是无偏和一致的,但是其有效性会受到较大的影响。对(1)式进行OLS估计获得的结果为:b=(X?X)-1X?y=β+(X?X)-1X?ε因为E(ε|X)=0,所以有E(b)=β+EX[E[(X?X)-1X?ε|X]]=β- 33 -西南财经大学2013级博士研究生高级计量经济学学习指南仍然是无偏的。(2)b方差的估计在GR模型中,估计量的方差不再是var(b|X)=?2(X?X)-1,运用该式对方差进行估计会产生错误的结果。此时正确的估计量的方差估计为:var(b|X)=E[(b-β)(b-β)?|X]=E[(X?X)-1X?εε?X(X?X)-1|X]=(X?X)-1X??2ΩX(X?X)-1=?2111(X?X)-1(X?ΩX)(X?X)-1 nnnn其中,(1/n)X??X = (1/n)?i?j ?ij xi xj?从渐进的角度来看,在大样本下,如果仍然有以下结论成立的话:plimX?X=Q n那么有:Asy.var(b)=?21Q-1(X?ΩX)Q-1 nn现在,问题的关键是如何估计矩阵?3、GR假定下2SLS的性质在古典假定下,可以得到2SLS估计量为:b2SLS?[(X?Z(Z?Z)-1Z?X)]?1[X?Z(Z?Z)-1Z?Y]?β?[(X?Z(Z?Z)-1Z?X)]?1[X?Z(Z?Z)-1Z?ε](1)无偏性E(b2SLS)?β?EX,Z{E[(X?Z(Z?Z)-1Z?X)]?1[X?Z(Z?Z)-1Z?ε]|Z,X}?β(2)b的方差的估计在如下假定下:A、plimZ?=Qzz是一个有限、可逆的L?L维正定矩阵。B、plimZ?=Qzx是一个有限的L?K的矩阵,并且该矩阵的秩是K。-1?1-1令:QXX,Z?[QXZQZZQZX]QXZQZZ- 34 -西南财经大学2013级博士研究生高级计量经济学学习指南?plim[(X?Z)Z?Z-1Z?X?1X?ZZ?Z-1()()]()() nnnnn则有:VIV??21(QXX,Z)plim(Z?ΩZ)(Q?XX,Z) nn同样存在的问题是:如何估计矩阵?4、White和Newey-West的一致估计(1)White 估计需要注意的是,White和Newey-West一致估计的思想是在GR假定下给出方差协方差矩阵的一致估计,但是并不意味着White和Newey-West一致估计得到的方差是最小的,也就是最有效的。在假设存在异方差,但不存在自相关的情况下,White给出的方差协方差矩阵的一致估计,也就是著名的White异方差一致估计。White异方差一致估计实际上回避了直接估计矩阵?的问题,而是把(1/n)X??X的部分作为一个整体,利用样本进行估计。显然,对(1/n)X??X的一个自然的样本估计是:S0?1n2?eixi'xi ni?1于是,得到var(b|X)=E[(b-β)(b-β)?|X]=E[(X?X)-1X?εε?X(X?X)-1|X]?111n1111(X?X)-1(?i?1ei2xixi')(X?X)-1?(X?X)-1S0(X?X)-1 nnnnnnn(2)Newey-West估计Newey-West一致估计是在同时考虑了异方差和自相关的情况下,给出的估计量的方差协方差矩阵的一致估计。其思想也比较简单,就是分别估计总体方差协方差矩阵的主对角线元素和非主对角线元素。 令:S0?1n2exi'xi ?i?1in1Ln??S1??l?1?t?l?1wletet?l(xtxt?l?xt?lxt),一般在实际应用中取L?T。 n- 35 -西南财经大学2013级博士研究生高级计量经济学学习指南那么有:1?X'X??X'X?Est.Var[b]=?[S?S]01?? ?????5、GLS和FGLS(1)GLS过程上面已经分析过,White和Newey-West估计只是在GR假定下给出了估计量方差的一致估计,并不能提高估计的有效性。而GLS方法针对的就是如何提高模型估计量的有效性,它给出了存在异方差和自相关假定下的有效估计。GLS的思想十分简单,就是通过对总体方差协方差矩阵的分解,将回归的残差转变成满足古典假定的残差,然后使用OLS估计。由于?是一个正定的对称矩阵,由矩阵代数的知识,我们知道?可以写成如下形式: ?1?1Ω=CΛC?其中C的每一列是?的特征向量,Λ是?的特征根组成的对角矩阵。 令P?=CΛ,则有Ω-12?1=P?P,在古典回归方程两边同乘P,得到:Py=PXβ+Pε或者写成:y*=X*β+ε*?可以看出,E(ε*ε?*)=PσΩP=σI,显然满足古典假定,因此可以用OLS对该式进行估计。得到如下结果: 22?=(X?X)-1(X?y) β****=(X?P?PX)-1(X?P?Py)=(X?Ω-1X)-1(X?Ω-1y)(2)GLS的性质GLS具有无偏性、有效性、渐进正态等优良的性质――Aitken定理。(3)FGLSFGLS是GLS在实际问题中的应用。显然,如果方差协方差矩阵是?已知的,那么GLS就是最优的估计方法。但是,在实际的问题中,?往往是未知的。 - 36 -西南财经大学2013级博士研究生高级计量经济学学习指南?,然后再按照上述GLS的方法这就要求我们必须先对矩阵?进行估计,得到Ω对回归模型进行估计。由于对矩阵?的估计可能有很多,但是什么样的估计才能够使FGLS的估计满足如下一致性条件:p?-1X)-1(X?Ω?-1y)??(X?Ω?(X?Ω-1X)-1(X?Ω-1y)p?是Ω的一致估计,???可以证明,只要满足条件Ω?Ω,也就是说,只要Ω那么最后的FGLS估计就和GLS估计是一致的。很显然,对矩阵?2Ω的一个合理的一致估计是:n112?????? ?Ωu?uu?ini?1n2?i对普通最小二乘估计的残差。 其中u四、思考题1、简要阐述Newey-West估计和White 估计的思想2、由最小二乘回归得到如下回归结果:yt?1.3?0.97yt?1?2.31xt,DW?1.21(0.3)(0.18)(1.04)检验残差序列是否存在自相关。3、在广义回归模型中,假设?已知,则写出:(1)OLS估计量和GLS估计量?的协方差矩阵;(2)OLS 估计的残差e?y?xb的协方差矩阵;(3)GLS估计的残差??y?x?的协方差矩阵。4、阐述异方差检验的White一般性检验和Goldfeld-Quandt检验的思想和具体操作。 ??第六部分
极大似然估计和广义矩估计- 37 -西南财经大学2013级博士研究生高级计量经济学学习指南一、背景极大似然估计法(ML)是不同于最小二乘法的另一种参数估计方法,其应用虽然没有最小二乘普遍,但在计量经济学中占有绝对重要的地位,因为极大似然原理比最小二乘原理更本质的揭示了通过样本估计母体参数的内在机理。计量经济学理论的发展更多的是以极大似然估计原理为基础的,一些特殊的计量经济模型只有用极大似然的方法才能进行估计。OLS就估计而言,不需要??N(?,?2(X?。而另一种u?N(0,?2I)(只是在有关检验时,才由此引出?X)?1))重要而常用的估计方法则需要知道u或者说Y的分布。这就是极大似然估计法。极大似然估计方法的重要假设就是需要知道分布才能估计,但是往往现实理论我们无法得到关于分布的信息,因此矩估计方法便显示其优势。矩估计方法的基本思想是利用样本矩代替总体矩以求得未知参数,以此得到渐进性质下的一致性估计量。本部分包括极大似然估计的基本原理以及性质,广义矩方法(GMM)的基本思路和步骤。二、知识要点1、极大似然函数,2、正则条件与克拉美-劳下界,3、极大似然估计的性质,4、矩估计的识别问题,5、矩正交方程和矩条件,6、广义矩估计的思路、步骤和性质三、要点细纲1、极大似然函数及其估计的基本原理从总体中经过N次随机抽取得到样本容量为N的样本观测值,在任一次随机抽取中,样本观测值都以一定的概率出现,各样本的抽取是独立的,因此容易得到样本的联合密度函数。若只知道总体服从某种分布,但不知道其分布的参数,在可供选择的总体中,我们选择使得产生N个样本的联合概率最大的总体。样本观测值联合概率函数就称为似然函数。极大似然估计法的基本思想是:在一次观测中某一事件出现了,我们则认为此事件出现的可能性大。在概率统计中,密度函数f(x,?)扮演了重要的角色。当?已知时,f(x,?)显示概率密度函数怎样随x变化。而当有了样本数据x后, - 38 -西南财经大学2013级博士研究生高级计量经济学学习指南则可考虑对不同的?,概率密度如何变化,它反映了对x的解释能力,这便是似然。极大似然估计就是要寻找使这种可能性或似然达到最大的未知参数?。设总体的概率密度函数为f,其类型是已知的,但含有未知参数?,观测值x1,x2,?,xN的联合密度函数为:L(x,?)??f(xi)。它就称为样本的似然函i?1N数,包含有未知参数?。?,?就极大似然估计的原理就是寻找参数估计量?使得似然函数达到最大,?称为极大似然估计量。通过取对数以及一阶条件可以求得该参数估计值。下面显示对于多元线性回归模型,在古典假设条件成立的条件下,极大似然估计得到的回归参数与最小二乘估计得到的参数是一样的,但扰动项方差的估计是不一样的。就线性回归模型及五条古典假定,我们有Y?N(X?,?2I)。在获取样本后的联合密度函数,也就是似然函数为(矩阵形式) ?n2 L(X,Y;?,?)?(2??)exp{?取对数: 2(Y?X?)?(Y?X?) 2?2nn(Y?X?)?(Y?X?)InL??ln2??ln?2? 222?2于是
?lnL1??2(?2X?Y?2X?X?)?0 ??2??lnLn1???(Y?X?)?(Y?X?)?0 224??2?2?得到??(X??X)?1X?YML?)?(Y?X??)
?2?(Y?X?ML?MLML1n2222?与OLS的??相同。??????
可以看出?与OLS的不同,是的有偏估计,?MLMLML- 39 -西南财经大学2013级博士研究生高级计量经济学学习指南但可以证明是一致估计量。相比之下,在线性回归模型的参数估计时,OLS较ML更为优越常用,但对于非线性模型有时ML比OLS有用。(比如Logit模型、Probit模型的估计)2、正则条件设?x1,x2,?,xn?是来自于密度函数或似然函数为f?x,θ?的单元(或多元)总体,密度函数f?x,θ?遵从下列正则条件:R1. 对几乎所有的x和所有的?,lnf?xi,??关于?的前三阶导数是有限的;
R2. 满足获得lnf?xi,θ?一阶二阶导数期望所需的条件;?3lnf?xi,θ?R3. 对于所有?的取值,小于一个具有有限期望的函数(这点??j??k??l使我们能够对Taylor级数进行舍去项数)。在这些正则条件,我们有下列关于f?xi,θ?的基本性质:?lnf?xi,θ??2lnf?xi,θ?对于lnf?xi,θ?, gi?和Hi? (i?1,2,?,n),有 ???θ?θT??lnf?xi,θ??(1)E?gi??E???0,一阶导数的期望为零; ?θ????2lnf?xi,θ??(2) Var?gi???E?Hi???E??,二阶导数矩阵期望的负值等于一T?θ?θ??阶导数的方差。3、克拉美-劳下界若x的密度函数满足一定的正则条件,参数?的一个无偏估计量的方差总是大于等于????InL????2?????InL??????1??
??E???E?????2?I???????????????????????????2?1?1这就是克拉美-劳下界,或称为信息矩阵。??g??x,x?,x?, 对g(?)的任一无偏估计,g12n- 40 -西南财经大学2013级博士研究生高级计量经济学学习指南?)?(g'(?)),这是g(?)无偏估计的方差下界,但不一定是下确界。若Var(gnI(?)2?)的方差正好达到不等式的右端,则g(??)为g(?)的最小方差估计。 g(?4、极大似然估计的性质若似然函数f?x,θ?满足正则条件,极大似然估计量有下列渐进性质: M1、一致性:??θ plimθa?12??lnL?????,I?θ??EM2、渐进正态:θ?N?θ,?Iθ?????θ?θT? ???????是渐进有效的,且达到一致估计量的克拉美-劳下界: M3、渐进有效:?????lnL?θ???n?θ?????????lnL?θ????lL??????θ
AsyVar.?E?E?????? ??????TT?????????θ???θ?????θ?θ??????2?1?1?是?的ML估计,c???是连续函数,则γ?c???的MLM4、不变性:若??。 估计是c?这四个性质特别是最后两个性质,估计量达到了最小方差,即ML估计量是有效估计量。同时若要估计参数的函数,无需重新估计模型,为估计参数函数提供了便利。但在小样本的条件下,ML估计并不一定是最佳的。5、广义矩估计应用背景极大似然估计方法的重要假设就是需要知道分布才能估计,但是往往现实理论我们无法得到关于分布的信息,因此矩估计方法便显示其优势。矩估计方法的基本思想是利用样本矩的信息组成方程组来求总体矩,以此得到渐进性质下的一致性估计量。那么在构成方程组求解的过程中涉及识别问题和解决。本章详细介绍矩估计方法。矩估计方法实际应用非常广泛,应注意将矩估计与OLS估计和极大似然估计方法结合对比进行应用。矩估计的基本思想是:在随机抽样中,样本统计量(在一个严格意义上,一个统计量是观察的n维随机向量即子样X????X1,X2,?,Xn?的一个函数,且要求它不包含任何未知参数。在不知道总体分布的情况下,利用样本矩构造方 - 41 -西南财经大学2013级博士研究生高级计量经济学学习指南程(包含总体的未知参数),利用这些方程求得总体的未知参数。样本矩的基本定义1n??Xi为子样的ν阶矩(ν阶原点矩)统计量 m??;ni?11n??X?统计量 B??为子样的ν阶中心矩。 ini?1??6、GMM的基本思路和步骤就参数估计方法来说,矩估计是最简便直观的方法,即用样本矩作为总体矩的估计。广义矩方法GMM是其发展,下面简要介绍GMM的一般理论和方法。设?是k?1的未知参数向量。m(z,?)是??1的向量函数(??k),满足矩条件E[m(z,?)]?0。1n对于样本容量n,设g(?)??m(zi,?) ni?1?。而如果??k(称为恰好识别),由g(?)?0,我们可得矩估计量(MM)?一般更常见的,??k时(称为过度识别),可能没有估计量使得g(?)?0成立,于是我们希望g(?)尽可能接近于0,那么minJ(?)?ng(?)?Wg(?)?GMM?argmin[1m(z,?)]?W[1m(z,?)] 可得到广义矩估计量
??i?innW为加权矩阵。?GMM具有良好的渐近性质:?d?GMM??)????N(0,V)V?(??W?)?1??W?W?(??W?)?1 其中???E[m(z,?)],??E[m(z,?)m(z,?)?] ??'?1?GMM具有最小方差V?(??而且,若取W???1,??)?1,即有效GMM估计。- 42 -西南财经大学2013级博士研究生高级计量经济学学习指南对于常用的线性模型,yi?zi????i
E(xi?i)?0其中zi(k?1)是xi(??1)的部分或函数(??k)。这里的m(zi,?)?xi?i?xi(yi?zi??)。或者将线性模型表示为矩阵形式Y?Z???
E(X??)?0其中Z'?(z1,...,zn),X??(x1,?xn)。Z的第i行是zi',X的第i行是xi?。在此情1n11形下,(?)??m(zi,?)?X???X'(Y?Z?)。 ni?1nn那么若取W???1(此时的??E[m(z,?)m(z,?)?]?E(xixi??i2)),可以得到未知参数?的有效GMM估计量??argminJ(?)?argmin(?)???1(?) ?1?
?(??X??1X??)?1??X??XY且d???)????N(0,(????1?)?1)其中??E[m(z,?)m(z,?)?]?E(xixi??i2),???1E[m(z,?)]??E(xizi?)??X??。 ??n?1?1?1????是未知?的一致估计?????(ZX?XZ)ZX?X?Y,这里的?而具体运用时量。或者可采用两步GMM估计方法得到有效估计量。即,先取加权矩阵W=单位矩阵I,或者对于线性模型Y?X??u,取W?(X'X)?1得到初始GMM估计量?)?1?[1m(z,??(??)。然后再取加权矩阵W????(或??ii?)mi(zi,??)']?1,可以证明它n是??1的一致估计量。于是??argmin(?)'??)?1(?)
?即是通过两步完成的GMM估计量。GMM方法还可用于检验矩条件E[m(z,?)]?0是否成立。即通过样本信息检验理论假设或计量模型的统计性质H0:E[m(zi,?)]?0,尤其是对于??k的过度 - 43 -西南财经大学2013级博士研究生高级计量经济学学习指南识别状态。用于检验的统计量依分布收敛于?2统计量2?GMM)?ng?
J?J(?(??)W?g?(?)d????(?,k )如果J???2,则拒绝H0,即拒绝矩条件。这就是GMM的一般理论和方法。GMM方法是现代计量经济学的重要内容之一。有关GMM的更多具体内容可参见相应文献。思考题1、简要阐述矩估计的应用背景和识别问题2、简要阐述两步广义矩估计的思想和步骤3、简要阐述GMM估计和OLS估计之间的关系。4、阐述极大似然估计法的基本思想及其性质,并将它与最小二乘估计、GMM估计进行比较。第七部分
检验与推断:t检验、F检验、卡方检验和Wald检验、拉格朗日乘数检验和似然比检验一、背景我们都知道统计包括参数估计和假设检验两部分,参数估计是指利用样本信息估计总体分布或总体的某些特征值(如期望和方差),假设检验是指当我们面对某种陈述时,我们根据数理统计知识判断这个陈述的正确性,比如某工厂宣称他们生产的产品合格率在99%以上,我们就要检验它的可信性。在计量经济学中,模型检验包括经济学检验、统计学检验和计量经济学检验。计量经济学检验就包括常用的几个检验统计量: t检验、F检验、卡方检验,另外在经济理论中我们常常需要检验带有约束条件的命题,这就是Wald检验、拉格朗日乘数检验和似然比检验。本章详细讲述在计量经济学中的推断和相应的检验方法。检验是贯串计量经济学始终的内容。二、知识要点- 44 -西南财经大学2013级博士研究生高级计量经济学学习指南1,t检验、F检验和卡方检验的意义及数学基础2,三大检验的提出背景、检验统计量的公式及性质3, 三大检验之间的关系三、要点细纲1、有关的数学基础和检验的应用背景在计量经济学中,设计模型估计参数之后,我们要做三个检验,经济学意义检验、统计学意义检验和计量经济学意义检验。所谓经济学意义检验比如某个参数本身的经济含义预示它必须大于0我们就要看一下是否满足这个条件;所谓统计学检验是由于模型估计是利用样本进行因此存在一定的误差,我们要将误差控制在一定范围内,就要检验在这个显著性水平下估计出来的参数的可靠性;所谓计量经济学检验就是我们利用计量经济学模型实证分析中遇到问题的检验,包括自相关、异方差检验、结构稳定性检验和模型设定检验等等。做检验的目的是使模型更能符合总体数据并满足计量经济学中的良好性质。t检验、F检验和卡方检验是在检验系数显著性和计量经济学检验中常用的方法。其数学基础:(1)卡方分布定义:n 个相互独立的标准正态变量的平方和。(2)F分布定义:Fn,n?122???1212(3)若干定理(标准正态向量的幂等二次型的分布)定理1(标准正态向量的幂等二次型的分布)若x~N?0,I?,A是幂等阵,那么xTAx~?2?RankA???2?A的1特征根个数?。定理2(幂等二次型的独立性)若x~N?0,I?,那么xTAx和xTBx独xTAx和xTBx是x的两个幂等二次型,立当AB?0。定理3(标准化正态向量的分布)- 45 -西南财经大学2013级博士研究生高级计量经济学学习指南?若x~N?μ,Σ?,则Σ?x?μ?~N?0,I?。定理4(当x~N?0,I? xT??1x的分布)T若x~N?μ,Σ?,则?x?μ?Σ?1?x?μ?~?2?n?。(4)检验的应用背景在建立回归模型时,有时根据经济理论需对模型中变量的参数施加一定的约束条件。如:满足0阶齐次性条件的消费需求函数、满足1阶齐次性条件的C-D生产函数。(若 ftq,?tqn?tkfq,?qn,其中,k是常数,t是使?tq1,?tqn?在11函数定义域内的任何正实数,则称f?tq1,?tqn?为k 次齐次函数。)模型施加约束条件后进行回归,称为受约束回归(restricted regression);不加任何约束的回归称为无约束回归(unrestricted regression)。受约束回归包括:对回归模型增加或减少解释变量,模型参数的线性约束或非线性约束等。其中模型参数的线性约束、对回归变量增加或减少解释变量的约束、参数稳定性约束检验多采用F检验,这部分在模型设定检验中详细介绍,非线性约束是三个检验(Wald检验、拉格朗日乘数检验和似然比检验)的提出背景。问题的一般性描述:对于多元回归模型的一般表达式: ????Yi????X??X????X?ui 122i33ikki当回归系数存在约束g(?,?,?,?)?0时,如何进行检验?
23k2、一般线性框架下的假设检验多元回归模型Y??1??2X2????kXk?u的统计检验通常包括以下三种情况:(1)单个系数的显著性检验;(2)若干个回归系数的联合检验;(3)回归系数线性组合的检验。例如:考虑下面这些典型假设的例子。10、H0:?i?0。即回归元Xi对Y没有影响,这是最常见的参数显著性检验。
- 46 -西南财经大学2013级博士研究生高级计量经济学学习指南20、H0:?i??i0 。?i0是某一具体值。例如?i表示价格弹性,我们也许希望它是-1。30、H0:?2??3?1。这里的?表示生产函数中资本和劳动的弹性,此时检验是否规模报酬不变。40、H0:?3??4或?3??4?0。即检验X3和X4的系数是否相同。50、H0:?2???k?0。即检验全部回归元都对Y没有影响。
60、H0:?II?0。 这里的含义是把?向量分为两个子向量?I和?II,分别含有k1和k2个元素。检验H0:?II?0就是检验某一些回归元XII(X的一部分)对Y没有影响。诸如以上的情形都可归于一般的线性框架:R??r
(注意:这里??(?1,??k)?)其中R是由已知常数构成的q?k矩阵(q?k),r是各元素为常数(一般是0或1)的q?1矩阵。于是,对于上述情形,具体的我们有: (i)R?(0?1?0),r?0.(q?1)(ii)R?(0?1?0),r??i0.(q?1)(iii)R?(0,1,1,0?0),r?1.(q?1)(iv)R?(0,0,1,?1,?0),r?0.(q?1)(v)R?(0Ik?1),r?0.(q?k?1)(vi)R??0Ik2?,r?0.(q?k2)所以,上述问题的统一假设是:- 47 -西南财经大学2013级博士研究生高级计量经济学学习指南H0:R??r?0??r,若其值较“小”?,计算R?为了检验这个假设,应先估计出?(接近于0),?则不应否定原假设;而如果其值较大,那么应对H0提出怀疑。为此我们先考察R?的分布。??N(?,?2(X??,我们知道?
对于OLS的?X)?1)。而?)?R?
E(R??)?E[R(????)(????)?R?]?RVar??R???2R(X?
Var(R?X)?1R???N(R?,?2R(X?所以,R?X)?1R?)于是,在H0:R??r?0成立的条件下,??r?N(0,?2R(X?R?X)?1R?)那么,由有关的数理统计知识可知:??r)?[?2R(X???r)??2(q)
(R?X)?1R?]?1(R?此外,还可以证明残差平方和的分布为
e?e??2(n?k)
?2因此,由上述两式,得到在H0下的检验统计量:??r)?[R(X?X)?1R?]?1(R???r)(R?F??F(q,n?k)
e?en?k)?2) (注意:e?e(n?k)??于是,检验的程序是,如果算出的F值大于某个事先选定的临界值,则拒绝H0。具体描述如下:- 48 -西南财经大学2013级博士研究生高级计量经济学学习指南10、H0:?i?0?。R(X?X)?1R?为c。?为?此时R?即K阶对称方阵(X?X)?1主对角线上的第iiii个元素。因此: ?2?2??ii?F(1,n?k)
F?2???ciiVar?i??取平方根 t?i?t(n?k),这就是传统的关于回归参数显著性的t检验法。 ?sei20、H0:?i??i0????i0?t(n?k) 类似1,这里 t?ise?i030、H0:?2??3?1????,而此时R(X?X)?1R??c?2c?c?给出了两个估计系数的和是?R?(注:(X?。那么 X)?1?(cij),R=(0,1,1,?,0))[R(X?X)?1R?]?1??2Cov(??,??)?Var??]?1?[Var(?????)]?1?2(c22?2c23?c33)]?1?[Var??[?2233232??于是检验统计量为:t????t(n?k)40、H0:?3??4或?3??4?0类似30,可推得此时的检验统计量为??t??t(n?k)- 49 -西南财经大学2013级博士研究生高级计量经济学学习指南50、H0:?2??3???k?0此时R?(0Ik?1),r=0,q=k-1,那么F???x'x???1???e?en?k)?ESSk?1?F(k?1,n?k) RSSn?k??(??,?,??),x'x为X'X去掉了第一行第一列的矩阵。这就是我们熟悉其中??2k的关于回归方程显著性的F检验。60、H0:?II?0??I?这里对应于????。把X分块为X??XI??II?XII?,可以证明(过程略)此时
F??e1?e?e)k2(e1?F(k2,n?k)
e?e(n?k)?e1是Y对XI做线性回归的残差平方和。e?e是Y对所有X回归的RSS。 其中e1通过上述示例,我们看到一般线性框架下的假设检验,它涵盖了传统计量经济分析中的统计检验方法。有了它,我们可以方便地实现许多实证问题中线性意义下的统计检验。其重要性是显而易见的。F?(RSSR?RSSU)q?F(q,n?k) RSSU(n?k)3、三大检验统计量及其性质(1)、似然比检验(LR)如本节开头所述,在统计推断中,古典检验方法是建立在似然比的基础之上的。由此可见似然比检验的重要性(当然它的实用性也会在应用中显现出来)。一般而言,似然比被定义为原假设下似然函数的最大值与无约束条件下似然函数的最大值的比率。前面我们得到了线性回归模型参数的极大似然估计量??(X??X)?1X?Y ML- 50 -西南财经大学2013级博士研究生高级计量经济学学习指南?)?(Y?X??) ?2?(Y?X?ML?MLML1n它们在无约束条件下,使似然函数最大化。把它们代入似然函数可得无约束的最大似然值(推导过程略)-n2???L(?,?)?常数(?ee
(1)式中的常数与模型中的任何参数无关,e?e是残差平方和。如果我们检验假设Ho:R??r?0,则在约束条件R??r?0下使似然函数最?和??,??2表示所导致的估计值,那么L(??2)便是约束条件下的最大似大化。令?然值,有约束的最大值当然不会超过无约束的最大值,但如果约束条件“有效”,有约束的最大值应当“逼近”无约束的最大值,这正是似然比检验的基本思路。似然比定义为?,??2)L(? ??2?)L(?,?显然,0???1。如果原假设为真,我们会认为?的值接近1。或者说,如果?太小,我们则应该拒绝原假设。似然比检验的建立就是要使得当??k时,拒绝原假设。即P(0???kH0)??(?为显著性水平)。在某些情况下,拒绝域???k?可以转化为含有我们熟知的t统计量或F统计量的形式。不过,普遍适用的是大样本检验。可以证明,对大样本来说,统计量?,??,??2)?lnL(??2)???2(q)
(2) LR??2ln??2?lnL(???具体地,如果LR很大,则应拒绝原假设,或者说似然比检验的拒绝域为 ?LR??21??(q)?,其中?12??(q)为卡方分布的1??下侧分位数。?,??2),为了保证LR的计算,我们还需前面已得到无约束的最大似然值L(??,??2)。为此,最大化 要得出约束条件下的最大似然值L(?- 51 -西南财经大学2013级博士研究生高级计量经济学学习指南lnL???(R??r)(式中的?是q?1的拉格朗日乘数向量,lnL就是无约束的?。由于参数的极大似然估计量与最小二乘对数似然函数),可得约束条件下的???Y?X???e,而?2的带约束的估计量实际上是相同的,此时的残差为Y?X?**??2?e*e*极大似然估计为?,因此(过程略)??,??2)?常数(L(??e?*e*)
(3)式中常数与(1)式相同。将(1)式和(3)式代入(2)式,就得到了似然比检验统计量的另一种形式,'LR?n(lne*e*?lne?e)
(4)由此可见,计算LR统计需要拟合无约束模型和有约束模型。而事实上,前面讲的各种检验(t检验,F检验)都可以根据似然比原理推导出来。这就再次说明似然比检验是统计检验的理论基础。[例1]:某动态消费模型,检验?0 = ?1 = 0。非约束模型(U):LnCt= 0.3181 + 0.8756 LnIt + 0.6466 LnCt-1 - 0.6078 LnIt-1 + 0.0218 LnPt-1.
(2.09)R 2 = 0.9989, RSS = 0.0015, DW = 1.95, LnL = 105.87,n= 30用LR统计量检验是否可以对上式施加约束LnIt和LnIt-1的系数?0 = ??1 = 0。给出受约束模型(R)估计结果如下,LnCt= 0.1932 + 0.9600 LnCt-1 - 0.0168 LnPt-1.
(-0.78)R 2 = 0.9935, RSS = 0.0088, DW = 2.27, LnL = 79.47,n= 30于是 ~2) - log L(??,??2) ]= -2 (79.47-105.87) = 52.8
LR = -2 [ log L(?,??~- 52 -西南财经大学2013级博士研究生高级计量经济学学习指南因为LR = 52.8 ? ? ??2) = 5.99,所以,约束条件?0 = ?1 = 0被拒绝。LnIt和LnIt-1是重要的解释变量,不应从模型中删除。Eviews软件的操作步骤是:在非约束模型(U)的输出结果窗口中点击View,选Coefficient Tests, Redundant Variables-Likelihood Ratio;输入可能遗漏的变量LnI, LnI(-1);点击确定即可得以下结果(2)、沃尔德检验(Wald)?服从正态分布推在前面一般线性框架的假设检验的讨论中,由OLS估计量??的渐近正态性,也能得到在出了(2.15)式。这里如果我们考虑MLE?Ho:R??r?0下??r)???2R(X?X)?1R???1(R???r)???2(q)
(R????2?e?代替式中的?2,这里q是R中约束条件个数,用?2的一致估计量?渐近分布成立,或者说大样本情形的沃尔德统计量为??r)??R(X?X)?1R???1(R???r)(R????2?aW???2(q)?e??e?e)类似于前面,上式的分子也可写为(e?,于是Wald检验的统计量具有另一种形式,'n(e*e*?e?e)W???2(q)
e?e- 53 -西南财经大学2013级博士研究生高级计量经济学学习指南与LR检验的情况一样,W呈大样本卡方分布。如果W的值大于卡方分布的2,则拒绝原假设。 ?上侧分位数??而Wald检验的一般公式可表述为,对于原假设H0:c(?)?0
(?是未知参数)?)'[Varc(??)]?1c(??)??2(q) W?c(?Wald检验的Eviews操作步骤很简单。在模型估计的输出结果窗口中点击View/Coefficient Tests/Wald-Coefficient Tests;弹出下述对话框在对话框中输入约束条件(比如c(2)+c(3)=1),点击OK即可得到检验结果。[例2]:某生产函数模型Lnty= -8.4 + 0.67 Lnxt2 + 1.18 Lnxt3 ?
(3.9)R2 = 0.89, F = 48.45, DW=1.3检验?2/?3 = 0.5是否成立。在模型估计的输出结果窗口中点击View,选Coefficient Tests, Wald-Coefficient Tests;在约束对话框输入c(2)/c(3)=0.5,即得如下结果- 54 -西南财经大学2013级博士研究生高级计量经济学学习指南(3)、拉格朗日乘数检验(LM)?上述的LR检验,Wald检验都涉及到了对数似然函数lnL。Wald检验是由?渐近服从均值为?,方差协方差阵为I?1(?)的正态分布,而导出在Ho:R??r?0??r?N(0,RI?1(?)R?)。其中I?1(?)??2(X?下,R?X)?1。从而得出Wald统计量的分布。一般地,如果??是?的极大似然估计量,由其大样本性或渐近性知,??N(?,I?1(,其中I(?)称为信息矩阵,它的定义如下: ??))??2lnL???lnL?lnL??I(?)?E?()()???E?? ???????????????2(X?X)?1?在线性模型的极大似然估计中,易知 I?1(2)????0??即上述Wald检验的I?1(?)??2(X?X)?1。 拉格朗日乘数检验同样依赖于对数似然函数及信息矩阵。记S(?)??lnL,??02?4n?? ????)?0,称为lnL在?处的得分。无约束估计量??的得分S(?而受约束的估计量??的?)在约束条件有效的情况下,应接近于0。可以证明,得分向量S(?)的得分S(?均值为零,方差-协方差矩阵为信息矩阵I(?),于是S?(?)I?1(?)S(?)服从分布- 55 -西南财经大学2013级博士研究生高级计量经济学学习指南?2,所以大样本时,在H0:???0下,有?)I?1(??)S(??)??2(q)
LM?S?(?a此时,我们只需计算受约束的估计量??的得分(注意:Wald计算的是无约束??lnL??1??Xu??????2????的估计量)即由 S(?)??? ???lnL???n?uu???2?22?4?????2???'?和???r,可得?2?e*用e*?Y?X?e*n代替上式的u和?2,以及R??1??Xe*??)??? S(??2???0???再通过适当的运算和变换可得(过程略) 'ne*X(X'X)?1X'e*
'e*e*?,从而得到
具体的LM检验可分两步完成。第一步,计算受约束的估计量?残差向量e*,第二步,让e*对所有的变量X回归,这个回归的可决系数是R2,恩格尔(Engle 1982)证明了对于大样本来说,LM?nR2??2(q)2当nR2???(卡方分布的?上侧分位数)时,则拒绝原假设。 LM检验方法实际上是从一个较简单的模型开始,检验是否可以增加新变量,第一步就是对简单模型(变量较少)回归,得到残差e*。如果“真实”模型变量很多,则这些变量加入模型应对e*有影响。所以第二步e*对所有变量回归而得到的R2的大小就将直接决定是否应该增加新变量,即约束R??r是否成立。如2果R2很大(nR2???),则说明新增变量对e*有显著影响,即真实模型应含较多- 56 -西南财经大学2013级博士研究生高级计量经济学学习指南2变量,或者说对参数的约束(比如某些?i为0)不成立。如果R2较小(nR2???),则说明新增变量对e*没有显著影响,真实模型就应是变量较少的简单模型,即约束条件成立。这也是通常所说的“从简单到一般”的模型设定方法。[例3]:生产函数模型Lnty= -8.4 + 0.67 Lnxt2 + 1.18 Lnxt3(4.4) (3.9)
?R2 = 0.89, F = 48.45, DW=1.3,n=15用LM统计量检验Lnxt3的系数,?3 = 0是否成立。(1) 用OLS法估计受约束模型,得到残差序列et,Lnyt = 2.16 + 1.24 Lnxt2 + et(4.9)
R2 = 0.96, F = 312(2)把et作为LM辅助回归式的因变量。建立LM辅助回归式如下et= ?? + ?1 Ln xt2 + ?2 Ln xt3 + vt ,(3) 用OLS法估计上式并计算可决系数R 2。et= -10.67 - 0.67 Lnxt1 + 1.18 Lnxt2
(3.9)R2 = 0.89, F = 48.45, DW=1.3(4)计算LM统计量的值。LM = nR 2 = 0.89?15 = 13.35 & ?2(1) = 3.8因此,原假设?3 = 0不成立。4、 三大检验的关系(1)LR,Wald,LM的简单比较三种检验方法都由极大似然估计而来。都用到了对数似然函数,LR检验常用于线性约束的检验;Wald检验和LM检验既适用于线性约束也适用于非线性约束的检验。LR检验需要计算带约束和无约束的对数似然函数值 ;Wald检验 - 57 -西南财经大学2013级博士研究生高级计量经济学学习指南只需要估计无约束的模型;而LM检验只需要估计约束模型(所以当施加约束条件后模型形式变得简单时LM检验更方便适用)。下面简要推导一下这三个检验统计量之间的著名不等式,即W?LR?LM'e*e*?e'e)
首先,LR可写为 LR?nln(1?'ee1将其按级数ln(1?z)?z?z2??展开,便可得到LR?W。 2其次证明LM可写为'n(e*e*?e'e)
(*) LM?'e*e*??e的残差可表为
事实上,对于回归模型Y?X???Y?X(X?e?Y?X?X)?1X?Y?[I?X(X?X)?1X?]Y?MY其中M?I?X(X?X)?1X?是一对称等幂矩阵,它具有性质MX?0,Me?e。而?,从而?同样有e?Y?X?对于满足约束条件R?*?r的受约束估计量?***Me*?MY?e(因为MX?0),于是有''e?e?e*M?Me*?e*Me*(M??M,M2?M)'?e*[I?X(X?X)?1X?]e*''?e*e*?e*X(X?X)?1X?e*''即e*X(X?X)?1X?e*?e*e*?e?e,这就得到了LM的另一种表达式,即(*)式。'e*e*?e'e
再次,LR还可写为LR??nln(1?) 'e*e*1同样按级数ln(1?z)??z?z2??展开,便可得到LR?LM,即最终,我们有:2W?LR?LM由此不等式可知,当LM检验拒绝原假设时,其他检验也一样。当Wald检验没有拒绝原假设时,其他检验也不会拒绝原假设。尽管在小样本时三个值可能 - 58 -西南财经大学2013级博士研究生高级计量经济学学习指南有所不同,但在大样本情形,这三个检验近似相等。就计算而言,LR检验最麻烦,其他两种还算简单。(2)、LR、Wald、LM检验的基本思想、对三个检验的理解以及在实际应用中需要注意的问题。如上图所示,Wald检验是在约束条件c(?)?0的条件下,考察无约束的参数?)?0的约束条件,实际上也就是考察c(??)与0的距离。这里估计量??是否满足c(??)??Var(c(??))?c(??)。如果满足约束条的距离是一个马氏距离的概念,构造为:c(????1件,该构造的马氏距离与0的距离在统计上就会很接近,此时就可以认为约束条件是满足的。LM检验与Wald检验思路相反,主要考察约束条件下求得的有约dlnL(?)?0。如束的参数估计值??,是否满足无约束条件下的最优化一阶条件d?果约束条件是成立的,那么无约束估计量??与约束估计量??之间的差别就会很dlnL(?)?0。LR检小,约束估计量??也就会近似的满足无约束的一阶优化条件d?- 59 -西南财经大学2013级博士研究生高级计量经济学学习指南验的思想是考察无约束条件下最优化和约束条件下最优化求得的值函数的大小。无约束条件下的最优化值函数总是大于或等于约束条件下的值函数。如果二者的差别很小,就可以认为约束条件是成立的。这就是上图所要表达的意思。?)可以采用White的稳健估计,在实际的应用中,Wald检验中??的方差Var(?因此在异方差的情况下,Wald统计量仍然是有效的。但是在约束条件是非线性的情况,不同的约束条件表达式得到的Wald统计量是不同的,这就影响了非线性约束下Wald统计量的有限样本性质。LM统计量的缺陷在于计算量大,表达式比较复杂。但是在同方差假定下,其计算表达式可以大大简化。进一步的,即使在异方差条件下,也可以通过回归的方法来避免复杂的计算,同样能够得到LM统计量。LR统计量的思想比较直观,但是必须在同方差假定下,构造出的LR统计量才是有效的;另一方面,由于LR统计量的构造要求同时计算无约束和有约束的参数估计式,在实际应用中就增加了计算量,使得其应用受到一定的制约。四、思考题1、阐述三个检验提出的背景(包括经济理论背景和计量经济学背景)2、简要阐述三个检验的基本思路3、简要阐述三个检验之间的关系4、已知y对一个常数、x1和x2的回归结果如下:?y?4?0.4x1?0.9x2, e'e?520,n?29?2900???其中
X'X?05010 ????01080??模型满足古典的假设条件,根}

我要回帖

更多关于 计量经济学回归结果怎么写 的文章

更多推荐

版权声明:文章内容来源于网络,版权归原作者所有,如有侵权请点击这里与我们联系,我们将及时删除。

点击添加站长微信