経験過程

経験過程(けいけんかてい、: empirical process)は、経験測度の中心極限定理の一般化のひとつである。経験過程の理論は、ノンパラメトリック統計学などに応用される。

定義

ある一定の条件のもとで、経験測度Pnが、確率測度へ収束するという結果はよく知られている(Glivenko-Cantelliの定理)。経験過程の理論によって、この収束の速さを説明することができる。 中心化・基準化された経験測度は、

G n ( A ) = n ( P n ( A ) P ( A ) ) {\displaystyle G_{n}(A)={\sqrt {n}}(P_{n}(A)-P(A))}

となる。これによる、適当な可測関数fの像は、

f G n f = n ( P n P ) f = n ( 1 n i = 1 n f ( X i ) E f ) {\displaystyle f\mapsto G_{n}f={\sqrt {n}}(P_{n}-P)f={\sqrt {n}}\left({\frac {1}{n}}\sum _{i=1}^{n}f(X_{i})-\mathbb {E} f\right)}

と書くことができる。中心極限定理により、適当な可測集合Aに対して、 G n ( A ) {\displaystyle G_{n}(A)} は、正規確率変数N(0, P(A)(1 − P(A)))へ分布収束する。同様に、適当な関数fに対して、 G n f {\displaystyle G_{n}f} は、正規確率変数 N ( 0 , E ( f E f ) 2 ) {\displaystyle N(0,\mathbb {E} (f-\mathbb {E} f)^{2})} へ分布収束する。

定義
( G n ( c ) ) c C {\displaystyle {\bigl (}G_{n}(c){\bigr )}_{c\in {\mathcal {C}}}} Sの可測な部分集合の族 C {\displaystyle {\mathcal {C}}} における経験過程という。
( G n f ) f F {\displaystyle {\bigl (}G_{n}f{\bigr )}_{f\in {\mathcal {F}}}} Sから R {\displaystyle \mathbb {R} } への可測関数の族 F {\displaystyle {\mathcal {F}}} における経験過程という。

経験過程に関する有名な結果のひとつに、Donskerの定理がある。この定理は、ある一定のガウス過程へ弱収束する経験過程のクラス(Donskerクラス)についての研究につながった。DonskerクラスはGlivenko-Cantelliクラスになるが、その逆は一般的に正しくない。

例として、経験分布関数を考える。i.i.d.確率変数 X 1 , X n , {\displaystyle X_{1},X_{n},\dots } において、これは、

F n ( x ) = P n ( ( , x ] ) = P n I ( , x ] . {\displaystyle F_{n}(x)=P_{n}((-\infty ,x])=P_{n}I_{(-\infty ,x]}.}

と与えられる。この例では、経験過程は C = { ( , x ] : x R } {\displaystyle {\mathcal {C}}=\{(-\infty ,x]:x\in \mathbb {R} \}} のクラスによって特徴づけられる。この C {\displaystyle {\mathcal {C}}} はDonskerクラスであることを示すことができ、特に、: n ( F n ( x ) F ( x ) ) {\displaystyle {\sqrt {n}}(F_{n}(x)-F(x))} はブラウン橋 B(F(x))に弱収束する。

参考文献

  • P. Billingsley, Probability and Measure, John Wiley and Sons, New York, third edition, 1995.
  • M.D. Donsker, Justification and extension of Doob's heuristic approach to the Kolmogorov–Smirnov theorems, Annals of Mathematical Statistics, 23:277–281, 1952.
  • R.M. Dudley, Central limit theorems for empirical measures, Annals of Probability, 6(6): 899–929, 1978.
  • R.M. Dudley, Uniform Central Limit Theorems, Cambridge Studies in Advanced Mathematics, 63, Cambridge University Press, Cambridge, UK, 1999.
  • M.R. Kosorok, Introduction to Empirical Processes and Semiparametric Inference, Springer, New York, 2008.
  • Galen R. Shorack and Jon A. Wellner, Empirical Processes with Applications to Statistics, Wiley, New York, 1986. SIAM Classics edition (2009), Society for Industrial and Applied Mathematics. ISBN 978-0-898716-84-9
  • Aad W. van der Vaart and Jon A. Wellner,Weak Convergence and Empirical Processes: With Applications to Statistics, 2nd ed., Springer, 2000. ISBN 978-0-387-94640-5
  • J. Wolfowitz, Generalization of the theorem of Glivenko–Cantelli. Annals of Mathematical Statistics, 25, 131–138, 1954.

外部リンク

  • Empirical Processes: Theory and Applications, by David Pollard.
  • Introduction to Empirical Processes and Semiparametric Inference, by Michael Kosorok.
確率の歴史
確率の定義
客観確率
  • 統計的確率
  • 古典的確率
  • 公理的確率
主観確率
確率の拡張
基礎概念
モデル
確率変数
確率分布
関数
用語
確率の解釈
問題
法則・定理
測度論
確率微分方程式
確率過程
情報量
応用
数理ファイナンス
系統学
カテゴリ カテゴリ