PR

正規分布の再生性とその詳しい証明

2021.07.05
確率論
大学教養
記事内に広告が含まれています。

X_1\sim N(\mu_1, \sigma_1^2), \, X_2\sim N(\mu_2, \sigma_2^2) とするとき， a_1X_1+a_2X_2\sim N(a_1\mu_1+a_2\mu_2, a_1^2\sigma_1^2+a_2^2\sigma_2^2) となることが知られています。これを，正規分布の再生性といいます。これについて「和の再生性」と「定数倍の再生性」に分けて証明しましょう。

正規分布の再生性

定理（正規分布の再生性）

\mu_1, \mu_2 \in \mathbb{R},\; \sigma_1,\sigma_2>0 とする。 X_1 \sim N(\mu_1, \sigma_1^2),\; X_2\sim N(\mu_2, \sigma_2^2) を独立とすると， a_1, a_2\in \mathbb{R} に対し，

\small\color{red} a_1X_1+a_2X_2\sim N(a_1\mu_1+a_2\mu_2, a_1^2\sigma_1^2+a_2^2\sigma_2^2)


である。特に，正規分布の和や定数倍は，また正規分布になる。

同じ分布族の独立な確率変数を２つ足すと，また同じ分布族に属するとき，これを分布の再生性 (reproductive property) といいます。正規分布やポアソン分布は，再生性をもつ分布として有名です。

証明に入る前に，まずは，正規分布の定義を軽くおさらいしておきましょう。

正規分布の定義

X を確率変数， \mu\in \mathbb{R},\; \sigma > 0 とする。 X の確率密度関数が

\color{red} p(x) = \frac{1}{\sqrt{2\pi\sigma^2}}e^{-\frac{(x-\mu)^2}{2\sigma^2}}


となるとき， X は平均 \mu ，分散 \sigma^2 の正規分布 (normal distribution) に従うといい， \color{red} X\sim N(\mu, \sigma^2) とかく。

正規分布のさまざまなまとめについては，以下の記事を参照してください。

正規分布の定義と性質まとめ
正規分布 (normal distribution)，またはガウス分布 (Gaussian distribution) は，確率論や統計学において，最も基本的な連続型の分布だといえます。この分布について，定義と性質を分かりやすくまとめることにしましょう。
mathlandscape.com

これをもとに，再生性の証明をしていきます。

正規分布の再生性の証明

再生性の証明は，

\begin{gathered} X_1+X_2 \sim N(\mu_1+\mu_2, \sigma_1^2+\sigma_2^2), \\ aX \sim N(a\mu, a^2\sigma^2) \end{gathered}


すなわち，「和の再生性」と「定数倍の再生性」に分けて考えることができます。この2つが証明できれば，「定数倍の再生性」を用いてから，「和の再生性」を用いることで，

a_1X_1+a_2X_2\sim N(a_1\mu_1+a_2\mu_2, a_1^2\sigma_1^2+a_2^2\sigma_2^2)


が証明できますね。では，やっていきましょう。

正規分布の和の再生性の証明

さて，まずは和の再生性 X_1+X_2 \sim N(\mu_1+\mu_2, \sigma_1^2+\sigma_2^2) の証明をしましょう。

  • 特性関数を用いた証明
  • 確率密度関数を用いた証明

の両方を考えましょう。

【和の再生性】特性関数を用いた証明

特性関数を用いて証明する前に，正規分布の特性関数について述べておきます。

正規分布の特性関数
\color{red} E[e^{itX}]= \exp \left( i\mu t - \frac{\sigma^2}{2}t^2 \right)

これの証明については，以下を参照してください。

正規分布の積率母関数(モーメント母関数)・特性関数とその導出証明
正規分布の積率母関数(モーメント母関数)・特性関数について，その導出の証明を行いましょう。
mathlandscape.com

上と，確率変数 X_1, X_2 が独立のとき， E[e^{it(X_1+X_2)}]=E[e^{itX_1}]E[e^{itX_2}] となることを用いて進めましょう。

証明

X_1 \sim N(\mu_1, \sigma_1^2),\; X_2\sim N(\mu_2, \sigma_2^2) を独立とすると，

\begin{aligned} &E[e^{it(X_1+X_2)}]\\ &= E[e^{itX_1}]E[e^{itX_2}] \\ &= {E[e^{itX_1}]} {E[e^{itX_2}]}\\ &={\left\{\exp \left( i\mu_1 t - \frac{\sigma_1^2 }{2}t^2 \right)\right\}} \\ &\quad\times {\left\{ \exp \left( i\mu_2 t - \frac{\sigma_2^2 }{2}t^2 \right) \right\}} \\ &= \exp\left( i(\mu_1+\mu_2)t + \frac{\sigma_1^2+\sigma_2^2}{2}t^2\right) \end{aligned}


である。これは，正規分布 N(\mu_1+\mu_2,\sigma_1^2+\sigma_2^2) の特性関数に一致しており，特性関数と分布は一対一に対応しているから，

X_1+X_2\sim N(\mu_1+\mu_2,\sigma_1^2+\sigma_2^2)


である。

証明終

【和の再生性】確率密度関数を用いた証明

一般に，独立な2つの確率変数 X_1,X_2 の確率密度関数を p_1(x), p_2(x) とすると，その和 X_1+X_2 の確率密度関数 p(x) は，その畳み込み (convolution) p_1*p_2 (x)，すなわち，

\begin{aligned} p(x) &= p_1*p_2(x)\\ &= \int_{-\infty}^\infty p_1(x-y)p_2(y)\, dy \end{aligned}


となることを用います。

証明

X_1 \sim N(\mu_1, \sigma_1^2),\; X_2\sim N(\mu_2, \sigma_2^2) を独立とし，それぞれの確率密度関数を p_1(x), p_2(x) とする。このとき，和 X_1+X_2 の確率密度関数 p(x) は，両者の畳み込み

\begin{aligned} p(x) &= p_1*p_2(x)\\ &= \int_{-\infty}^\infty p_1(x-y)p_2(y)\, dy \end{aligned}


でかけることを用いる。

\begin{aligned} & \int_{-\infty}^\infty p_1(x-y)p_2(y)\, dy \\ &= \frac{1}{2\pi \sigma_1\sigma_2}\int_{-\infty}^\infty e^{-\frac{((x-y)-\mu_1)^2}{\sigma_1^2}- \frac{(y-\mu_2)^2}{\sigma_2^2}}dy\end{aligned}


であり，最終項の指数部分について，

\begin{aligned}&-\frac{((x-y)-\mu_1)^2}{\sigma_1^2}- \frac{(y-\mu_2)^2}{\sigma_2^2}\\ &= -\frac{\sigma_1^2+\sigma_2^2}{2\sigma_1^2\sigma_2^2}(y-C)^2 - \frac{(x-(\mu_1+\mu_2))^2}{2(\sigma_1^2+\sigma_2^2)} \end{aligned}


ただし， C = \dfrac{x\sigma_2^2+\mu_1\sigma_2^2-\mu_2\sigma_1^2}{\sigma_1^2+\sigma_2^2}である。ここで，ガウス積分により，

\begin{aligned} &\int_{-\infty}^\infty e^{-\frac{\sigma_1^2+\sigma_2^2}{2\sigma_1^2\sigma_2^2}(y-C)^2}\, dy \\ &= \sqrt{\frac{2\pi\sigma_1^2\sigma_2^2}{\sigma_1^2+\sigma_2^2}} \end{aligned}


であるから，和の確率密度関数について，

\begin{aligned} p(x) &= \frac{1}{2\pi \sigma_1\sigma_2}\int_{-\infty}^\infty e^{-\frac{((x-y)-\mu_1)^2}{\sigma_1^2}- \frac{(y-\mu_2)^2}{\sigma_2^2}}dy \\ &= \frac{1}{2\pi \sigma_1\sigma_2}e^{- \frac{(x-(\mu_1+\mu_2))^2}{2(\sigma_1^2+\sigma_2^2)} }\sqrt{\frac{2\pi\sigma_1^2\sigma_2^2}{\sigma_1^2+\sigma_2^2}} \\ &= \frac{1}{\sqrt{2\pi(\sigma_1^2+\sigma_2^2)}} e^{- \frac{(x-(\mu_1+\mu_2))^2}{2(\sigma_1^2+\sigma_2^2)} } \end{aligned}


となる。これは， N(\mu_1+\mu_2, \sigma_1^2+\sigma_2^2) の確率密度関数である。よって，

X_1+X_2\sim N(\mu_1+\mu_2,\sigma_1^2+\sigma_2^2).

証明終

正規分布の定数倍の再生性の証明

続いて，定数倍の再生性 aX \sim N(a\mu, a^2\sigma^2) を証明しましょう。証明は，再び2通りで行いましょう。

【定数倍の再生性】特性関数を用いた証明

証明

\begin{aligned} E[e^{it(aX)}] &= E[e^{i(at)X}] \\ &=\exp \left( i\mu at - \frac{\sigma^2}{2}(at)^2 \right) \\ &= \exp \left( i a\mu t - \frac{a^2\sigma^2}{2}t^2 \right) \end{aligned}


であり，これは N(a\mu, a^2\sigma^2 ) の特性関数に一致しており，分布と特性関数は一対一に対応しているから，

aX \sim N(a\mu, a^2\sigma^2).

証明終

【定数倍の再生性】確率密度関数を用いた証明

証明

s<t, \; a\in \mathbb{R}\setminus\{0\} とする。

\begin{aligned} P(aX \in [s,t]) &= P(X \in [s/a, t/a]) \\ &=\int_{s/a}^{t/a} p(x)\, dx \\ &= \frac{1}{\sqrt{2\pi\sigma^2}}\int_{s/a}^{t/a} e^{-\frac{(x-\mu)^2}{2\sigma^2}}\, dx \end{aligned}


ここで， y=ax で置換積分すると，

\begin{aligned}&\frac{1}{\sqrt{2\pi\sigma^2}}\int_{s/a}^{t/a} e^{-\frac{(x-\mu)^2}{2\sigma^2}}\, dx \\&= \frac{1}{\sqrt{2\pi\sigma^2}}\int_{s}^{t} e^{-\frac{(y/a-\mu)^2}{2\sigma^2}}\, \frac{dy}{a} \\ &= \frac{1}{\sqrt{2\pi a^2\sigma^2}}\int_s^t e^{-\frac{(y-a\mu)^2}{2 a^2\sigma^2}}\, dy \end{aligned}


であるから， aX の確率密度関数は \frac{1}{\sqrt{2\pi a^2\sigma^2}} e^{-\frac{(y-a\mu)^2}{2 a^2\sigma^2}} となる。これは， N(a\mu, a^2\sigma^2) の確率密度関数と一致しているので，

aX\sim N(a\mu, a^2\sigma^2)


である。

証明終

正規分布に関する記事

正規分布の定義と性質まとめ
正規分布 (normal distribution)，またはガウス分布 (Gaussian distribution) は，確率論や統計学において，最も基本的な連続型の分布だといえます。この分布について，定義と性質を分かりやすくまとめることにしましょう。
mathlandscape.com