简单线性EV回归模型中最小二乘估计量的Berry-Esseen估计

Size: px

Start display at page:

Download "简单线性EV回归模型中最小二乘估计量的Berry-Esseen估计"

炖彤谢
5 years ago
Views:

1 Advaces Appled Mathematcs 应用数学进展, 05, 4, 9-36 Publshed Ole February 05 Has A Note o L Berry-Essee Estmator mple Lear EV Regresso Model Jao Meg, Mgmg Yu Najg Uversty of Aeroautcs ad Astroautcs, Najg Jagsu Emal: zbmegjao@sacom, megylameg@63com Receved: Ja 6 th, 05; accepted: Feb th, 05; publshed: Feb 7 th, 05 Copyrght 05 by authors ad Has Publshers Ic Ths work s lcesed uder the Creatve Commos Attrbuto Iteratoal Lcese (CC BY) Abstract I ths paper, we study the covergece rate of the cetral lmt theorems for L estmator smple lear errors--varables (EV) regresso model Further, ts applcato has bee troduced detaledly by Mao, Yag ad he [] Keywords Cetral Lmt Theorem, Covergece Rate, EV Regresso Model, L Estmator 简单线性 EV 回归模型中最小二乘估计量的 Berry-Essee 估计孟娇, 于明明南京航空航天大学, 江苏南京 Emal: zbmegjao@sacom, megylameg@63com 收稿日期 :05 年月 6 日 ; 录用日期 :05 年月日 ; 发布日期 :05 年月 7 日摘要本论文的目的是研究简单线性存在误差项 (EV) 退化模型的最小二乘估计量中心极限定理的收敛速度进 9

2 一步,Mao,Yag 和 he 在 [] 中对其实际应用做了详细的介绍关键词中心极限定理, 收敛速度,EV 退化模型, 最小二乘法估计量介绍本文我们讨论下面 EV 模型 []: 并且满足下列假设 : () θ, β, x, x, 是未知常数 ; η = θ + βx + ε, ξ = x + δ, () () ( ε, δ ),( ε, δ ), 是独立同分布 ( ) (3) ξ, η, =,, 是可观测值根据 (), 我们可得出 d 随机变量, ε, ε, 是 d, δ, δ, 是 d, 且 Eδ = Eε = 0, 0 < Var δ = σ, Var ε = σ < ; η = θ + βξ + ν, ν = ε βδ, () () 是关于 η 的常见的退化模型, 我们得到 θ 和 β 的最小二乘法估计量 ( ξ ) ξ η η ( ξ ξ) ˆ = β =, ˆ θ = η ˆ βξ, ξ = ξ, 我们可用相同的方法去定义 η, δ = = 很多学者讨论了估计量的渐近性质和应用 Mao 和 Lu 在 [3] 中给出了它的中偏差原理,Mao,Yag 和 he 在 [] 中得到心极限定理, 有如下结论 : 定理 A: 令 = x x = 并且存在一个常数 > 0, 假设, 使得 E ε 则得到 ˆ β β 的渐进性质, 即 N ( 0,) 是标准正态分布 Var lm = 0 (4) + +, E δ x x < < 且 lm max = 0, ( β ) β N ( ε βδ ) ˆ 0,, 定理 B: 当满足定理 A 的所有假设且满足条件 : lm x ˆ θ θ N 0, Var ε βδ =, 则 ˆ θ 的渐进性质为 : 上述结论我们可以参见 [4]-[6], 本文我们讨论定理 A 和定理 B 中的收敛速度, 也就是中心极限定理的收敛速度本文中 C 表示一个正常数 (3) 30

3 我们有如下重要的结论 : 定理 : 满足定理 A 的所有假设, 当充分大时 ˆ 4 β β Cmax L,,, Var ( ε βδ) (5) Φ ( x) + + 是标准正态分布的分布函数且 L = x x, = 定理 : 满足定理 B 的所有假设, 当充分大时 ˆ θ θ CN, Var ( ε βδ) (6) 4 + x + x 4 N = max, log, L,, 注 () 满足定理 A 的所有假设, 我们得到且 L + ( ( ) ) x max x x x x x = x x =, + + x x x x = = 4 0, = = max 0, ( ( ) ) 因此, 根据定理有 + x () 满足定理 B 的所有假设, 我们知道所以有因此 lm ˆ β β x=φ( x) Var ( ε βδ) + x 0, log 4 x + x + 0, log 0 4 x + x + log 0,, lm ˆ θ θ x=φ( x) Var ( ε βδ) 随即可以得到为了证明定理内容, 我们给出以下引理 () 的证明方法比较简单,() 的证明可以参见 [7] 引理 : 令,, 的 ε > 0, 有 XYZ 是定义在概率空间 ( Ω, FP, ) 上的三个随机变量, 并且 P Z > 0 > 0 则对于任意 3

4 () sup P X + Y x Φ x sup P X x Φ x + P Y > ε + ε; X sup Φ sup Φ + > + ε Z () P x ( x) P( X x) ( x) P( Z ε) 定理的证明下面为了计算方便, 我们令 ( ξ ξ) ( ( x x ) = = = ) β β ξ ξ ε β δ β δ δ ˆ = = (7) 和 x ˆ θ θ = ˆ β β + ˆ β β δ βδ + ε (8) 为了证明定理内容, 我们引入下面引理引理 : 对于任意的 ε > 0, 我们得到 = ( ) δ δ ε σσ ε 证明 : 对于所有的, 根据 Holder 不等式即可得到所以有根据马尔可夫不等式可得 ( ) = ( ) ( ) ε, E δ δ ε E δ δ Eε ( ) ( ) E δ δ ε E δ δ Eε ε E ( δ δ) ε ( E( δ δ) ) ( Eε ) ε ε ε δ δ ε = σσ = 引理 : 对于任意的 ε > 0, 我们得到证明 : 根据简单的计算, 我们得到 ( ) ( + ) ξ ξ = ε σ ε ε ( ξ ) ξ = x x + x x δ δ + ( δ δ), = = = = 因此有 ε + ε ε ( ξ ξ) + ( δ δ) = = 最后, 根据马尔可夫不等式得到 3

5 因为 ξ ξ ( ) = ε + ε σ ε P ( δ δ) = ( + ε ) ε ε, δ, ε, δ, 是 d, 根据 [8] 中第五章定理 6, 我们可以得到引理 3: 假设存在一个常数 0 <, 使得 E ε + ( x x)( ε βδ) Var ( ε βδ ) < 和 E δ + <, 则有 = CL, 引理 4: 当引理 3 的条件满足时, 我们得到 ˆ β β CM, Var ( ε βδ) 证明 : 对于任意的 ε > 0, 根据 (7) 和引理 () 3 max 4 4 M = L,,,, ˆ β β xφ ( x) = I+ I + ε, Var ( ε βδ) ( ξ ) ξ I = = ε, ( ξ ξ) ε β ( x x) δ β ( δ δ) = = = I = Var ( ε βδ) 根据引理即可得到 I ( + ε) σ 现在我们只需去估计 I 的值因为 ξ = x + δ, 所以 ξ = x + δ ( ξ ) ξ ε β x x δ β ( δ δ) = = = x Var ( ε βδ) (0) ε ( x ) + δ x + δ ε β x x δ β ( δ δ = = = ) = x Var ( ε βδ) ( x ) x ε + δ δ ε β x x δ β ( δ δ = = = = ) = x Var ( ε βδ) = = = = x Var ( ε βδ) ( x x)( ε βδ) + ( δ δ) ε β ( δ δ) (9) 33

6 所以根据引理 (), 有 ( ξ ξ) ε β ( x x) δ β ( δ δ) = = = xφ x Var ( ε βδ) = = = = xφ x Var ( ε βδ) ( x x)( ε βδ) + ( δ δ) ε β ( δ δ) ( δ δ) ε β ( δ δ) ( x ) x ε βδ = = = xφ ( x) + Var ( ε βδ) Var ( ε βδ) ( x x )( ) ( ) ( ) Φ + ε βδ δ δ ε = ε = x ( x) ( ) Var ε βδ Var ε βδ β δ δ = ε + ( ) Var ε βδ > ε 所以 I I + I + I3 + ε, () ( ) ( ) δ δ ε = ε β δ δ = ε = = I P, I P, ( ) ( ) Var ε βδ Var ε βδ ( x x)( ε βδ) Var ( ε βδ ) I3 = P x Φ x sup = 根据引理和引理, 我们可以得到 σσ βσ I I I CL ε Var ε βδ ε Var ε βδ,, 3, ( ) ( ) () 令 ε = 4, 结合 (9),(0),(),(), 我们可以得到引理 4 的证明引理 5: 当引理 3 的条件成立时, 我们得到 ˆ θ θ CW, Var ( ε βδ) + x 4 max + x + x + x W =, log,,,, M ( + x ) 证明 : 通过 (8) 和引理 (), 对于任意的 ε > 0, 34

7 ˆ θ θ J+ J + ε, Var ( ε βδ) (3) J = ε βδ xφ x, Var ε βδ ( ) J ˆ = β β x + δ ε Var ε βδ 对于 J, 根据 [8] 中第五章的定理 4, 我们可以得到下面我们只需去估计 J 的值首先我们知道 J C (4) J J + J, (5) 根据不等式 J ˆ = log, P β β Var ( ε βδ) + x ε J = x + δ log + x Φ logt CT, C > 0 是一个常数因此根据定理 + x J Φ log CM + C + CM + x 进一步通过 Chebyshev 不等式, 我们有 J σ 8x + ε + x log (6) 4 + x + x 令 ε = log, 结合 (3),(4),(5),(6) 和 J 的估计, 我们可以证明引理 5 定理和定理的证明 : 因为 lm = 0, 因此根据引理 4, 当充分大时, max 4 M = L,,, (7) 因此我们可以证明定理对于定理, 当充分大时, 35

8 4 + x + x + x + x, log ( + x ) 结合引理 5 和 (7), 我们可以得到定理基金项目本论文是在我的老师和同学于明明的协助下完成的, 感谢南京航空航天大学数学系的各位老师给予我的指导和帮助, 感谢各位文献作者的成果给予我们的借鉴参考文献 (Refereces) [] Mao, Y, Yag, GY ad he, LM (007) The cetral lmt theorem for L estmator smple lear EV regresso models Commucatos tatstcs-theory ad Methods, 36, 63-7 [] Lu, JX ad Che, XR (005) Cosstecy of L estmator smple lear EV regresso model Acta Mathematca ceta, 5B, [3] Mao,Y ad Lu, WA (009) Moderate devatos for L estmator smple lear EV regresso model Joural of tatstcal Plag ad Iferece, 39, 3-33 [4] Cu, HJ (997) Asymptotc ormalty of M-estmator the EV model Joural of ystem cece ad Mathematcs, 0, 5-36 [5] Deato, A (985) Pael data from a tme seres of cross-sectos Joural of Ecoometrcs, 30, 09-6 [6] Gleser, LJ (98) Estmato a multvarate error varables regresso model: Large sample results Aals of tatstcs, 9, 4-44 [7] Mchel, R ad Pfazagl, J (97) The accuracy of ormal approxmato for mmum cotrast estmates Zetschrft fur Wahrschelchketstheore ud Verwadte Gebete, 8, [8] Petrov, VV (975) ums of depedet radom varables prger, Berl 36

! Ν! Ν Ν & ] # Α. 7 Α ) Σ ),, Σ 87 ) Ψ ) +Ε 1)Ε Τ 7 4, <) < Ε : ), > 8 7

! Ν! Ν Ν & ] # Α. 7 Α ) Σ ),, Σ 87 ) Ψ ) +Ε 1)Ε Τ 7 4, <) < Ε : ), > 8 7 !! # & ( ) +,. )/ 0 1, 2 ) 3, 4 5. 6 7 87 + 5 1!! # : ;< = > < < ;?? Α Β Χ Β ;< Α? 6 Δ : Ε6 Χ < Χ Α < Α Α Χ? Φ > Α ;Γ ;Η Α ;?? Φ Ι 6 Ε Β ΕΒ Γ Γ > < ϑ ( = : ;Α < : Χ Κ Χ Γ? Ε Ι Χ Α Ε? Α Χ Α ; Γ ;