DOC《第一章 一般多元线性回归模型》

第一章 一般多元线性回归模型 金融理论从资本资产定价模型(CAPM)发展到套利定价理论(APT),在数理统计方面就是从应用一元线性回归发展到应用多元线性回归.

本章先介绍推导套利定价理论,以实例说明套利过程,引入多元线性回归模型,随之介绍一般多元线性回归模型的参数估计、假设检验等基本原理.然后本章深入讨论多元线性回归模型一些特别情况及解决办法,如自变量选择准则与逐步回归,自变量变换与多项式回归等.本章的凸集间交互投影的迭代算法求线性模型的最小二乘通解,在数学上有一定特色.本书软件与各节算例配套,键入资料即可自动完成回归,使用者不看各节的数学推导也没有关系.资料变换回归特意设了差分变换,软件还能自动显示多元线性回归二维拟合效果图及多元多项式回归的三维立体直观图,给实际工作尽量带来方便.

第一节 多因素定价模型(MPM)与套利定价理论(APT) 在引言里我们介绍了资本资产定价模型CAPM,从统计学角度它是属于一元线性回归.它的基本方程有两个.回归方程 (0.1.22) 假定证券i的收益率ri与市场组合收益率rM之间存在线性关系,据此可以测定系数βi.资本市场线方程(参看图0.1.2.3): (0.1.20) 告诉我们合理的证券投资组合应选在该线上,使得风险相同的情况下能获得较高的收益. CAPM有两个局限性,一是经济假设条件较多,二是它只考虑了一个自变量.Ross (1976)发展了CAPM,考虑证券i的收益率与几个因素之间的线性关系,建立了多因素定价模型MPM(Multifactor Pricing Model),形成了套利定价理论APT(Arbitrage Pricing Theory).从统计学角度看,也就是从应用一元线性回归发展到应用多元线性回归. APT假定证券i的收益率ri与k个因素Fj, j=1,…,k存在线性关系 (1.1.1) 这里因素Fj, j=1,…,k的均值为0,共同作用于各个证券,εi是均值为0的白噪声随机扰动项.显见上式是(0.1.20)的推广.APT的经济假定要求存在公平竞争且无摩擦的资本市场;

个人投资倾向的共同偏好在(1.1.1)前提下与CAPM相同:相同风险时偏好收益大的,收益大时偏好风险小的;

证券个数n(i=1,…,n)比因素个数k要大得多;

非系统风险项εi与其它因素及误差都是独立的;

在给定时刻被考虑的资产总和是不变的(有人赚,有人赔,赚赔相等);

如果有价证券的风险为0,则其收益为0. 套利定价理论APT将教给我们如何在上述假定条件下获得超额收益.假定在i=1,…,n个证券间进行买进卖出.某投资者拥有的第i个证券的价值数量(单位元)改变量为ωi(ωi=0表示不进不出,ωi>

0表示买进证券i,ωim.于是回归关系可写为 (1.2.4) 其中ε1,ε2,…,εn独立同分布,都满足(1.2.2). 我们要采用矩阵形式来表示(1.2.4).令 则多元线性回归模型为 (1.2.5) 其中n*(m+1)矩阵X称为回归设计矩阵,一般情况下我们假定X列满秩,即rk (X)=m+1.关于误差的假定与(1.2.2)对应为 (1.2.6) 其中In为单位阵.与(1.2.3)对应为 ε~N(0,σ2In)1.2.7) (1.2.5)与(1.2.6)(或与(1.2.7)合在一起称为多元线性模型. 下面求模型参数的最小二乘估计(Least Square Estimate,LSE).残差平方和S(β)为(1.2.8) 最小二乘法则即要求使 (1.2.9) 或记为 (1.2.10) 因为S(β)是β的二次可微函数,极值点处的各偏导数为0.采用矩阵微商记法 (1.2.11) 即 (1.2.12) 它称为正规方程.若X列满秩,则为非奇异阵,其逆矩阵存在,左乘(1.2.12)两边得β的最小二乘解 (1.2.13) 可以验证(1.2.13)确能使S(β)达最小值.分解S(β)得: 1.2.14) 这是因为中间两个交叉项为0: (1.2.15) 观察(1.2.14)第二项为非负定二次型,当且仅当时它取得最小值0,即S(β)当且仅当对取得最小值. 下面研究的基本统计性质,我们以定理形式叙述并证明. 定理1.2.1 (Gauss Markov)线性回归模型 (1.2.16) 中回归系数β的最小二乘解 (1.2.17) 是β的唯一最小方差线性无偏估计. 证明 从的表达式知是子样Y的线性函数.又(1.2.18) 故是β的无偏估计. 的协方差阵是 (1.2.19) 若T=C′Y是β的另一线性无偏估计,由无偏性要求,应有 E(T)=E(C′Y)=C′E(Y)=C′Xβ=β 对一切β成立,即有 C′X=Im+1 而T的协方差阵为 ΣT=Cov(T,T)=C′Cov (Y,Y)C=σ2(C′C) (1.2.20) 因为 (1.2.21) 这里矩阵≥0表示非负定矩阵.于是 C′C≥(X′X)-1 (1.2.22) 即有 (1.2.23) 由于T是任选的一个线性无偏估计,所以最小二乘估计是β的最小方差线性无偏估计. 下证唯一性.设T = C′Y是β的某一个最小方差线性无偏估计,则必有即,由(1.1.21)知,C′=(X′X)-1X′,即T=C′Y=(X′X)-1X′Y=. 证毕 需要指出的是,β的LSE的最小方差性是局限在线性无偏估计类中的,如果考虑β的一切无偏估计类,LSE就不一定是方差最小者.进一步,如果在β的有偏估计中考虑,LSE就更不见得是方差最小了. 下面我们考虑σ2的估计.与一元情况类似,我们应该用残差平方和去构造它.记(1.2.24) 称为剩余向量,或残差向量.记(1.2.25) 则=PXY.PX称为投影阵.容易验证投影阵有如下简单性质: (1.2.26) (1.2.27) 残差向量与LSE是互不相关的,因为 (1.2.28) 残差的均值向量与协方差阵分别是 (1.2.29) (1.2.30) 记残差平方和 (1.2.31) 则σ2的无偏估计为 (1.2.32) 这是因为 1.2.33) 下面给出最小二乘估计的几何解释 .设矩阵X的列向量Xj=(x1j, x2j,…,xnj)′,j=0,1,…,m,其中X0=(1,1,…,1).L (X)表示由向量Xj, j=0,1,…,m的全部线性组合所构成的一个线性空间,则(1.1.14)表示要在L(X)中寻找一个向量,使得Xβ与Y之间的距离达到最小.从图上可见,只有当是Y在L(X)中的投影时,(1.1.14)才能得到满足. 从图上还可见与垂直,即(1.2.28)表示的与互不相关. 图1.2.1.1 需要指出的是,本段引入的回归模型含有常数项β0(见(1.2.1),(1.2.4)),于是设计矩阵X有m+1列,投影阵的秩为(1.2.27),σ2的无偏估计为(1.2.32).如果回归模型不含常数项,或者就将X1理解为常数项而不单设常数项,也是可以的.如果X有p列,则投影阵秩为n-p,.下一段我们统一采用这个记法.希望读者理解m+1与p的含意.