Step 3: 数理統計学の基礎
確率空間、確率測度、確率変数の厳密な定義、積率母関数を理解します
📚 このステップで学ぶこと
このステップでは、2級で直感的に学んだ確率論を、数学的に厳密な形で学び直します。確率空間、確率測度、確率変数などの基礎概念を正確に理解することで、準1級の理論的な問題に対応できる力を養います。
🎯 なぜこれらを学ぶのか？
- 確率空間：確率論を厳密に定義するための枠組み。「どんな事象に確率を割り当てられるか」を明確にする
- 確率変数：「試行の結果を数値に変換する関数」として厳密に定義することで、様々な分布を統一的に扱える
- 積率母関数：分布を特徴づける強力なツール。期待値・分散の計算、分布の同定に使える
- 期待値・分散：推定・検定の理論を理解するための基礎
1. 確率空間の定義
1.1 標本空間Ω
確率を考える前に、まず「何が起こり得るか」を明確にする必要があります。
📖 標本空間（Sample Space）
試行によって起こり得るすべての結果（標本点）の集合を $\Omega$（オメガ）で表す。
例：
・コイン1枚を投げる：$\Omega = \{\text{表}, \text{裏}\}$
・サイコロ1個を投げる：$\Omega = \{1, 2, 3, 4, 5, 6\}$
・待ち時間を測る：$\Omega = [0, \infty)$（連続値）
標本空間は「起こり得るすべての可能性」を網羅した集合です。
試行によって起こり得るすべての結果（標本点）の集合を $\Omega$（オメガ）で表す。
例：
・コイン1枚を投げる：$\Omega = \{\text{表}, \text{裏}\}$
・サイコロ1個を投げる：$\Omega = \{1, 2, 3, 4, 5, 6\}$
・待ち時間を測る：$\Omega = [0, \infty)$（連続値）
標本空間は「起こり得るすべての可能性」を網羅した集合です。
1.2 事象とσ-加法族
次に、「どんな事象に確率を割り当てられるか」を定義します。
📖 事象（Event）
標本空間 $\Omega$ の部分集合 $A$ を事象という。
例（サイコロ）：
・$A = \{2, 4, 6\}$：「偶数が出る」という事象
・$B = \{1, 2, 3\}$：「3以下が出る」という事象
標本空間 $\Omega$ の部分集合 $A$ を事象という。
例（サイコロ）：
・$A = \{2, 4, 6\}$：「偶数が出る」という事象
・$B = \{1, 2, 3\}$：「3以下が出る」という事象
📐 σ-加法族（σ-algebra）$\mathcal{F}$
「確率を測ることができる事象の集まり」を数学的に定義したもの。
$\mathcal{F}$ は以下の3つの性質を満たす：
① 全体が含まれる
$\Omega \in \mathcal{F}$
② 補集合で閉じている
$A \in \mathcal{F}$ ならば $A^c \in \mathcal{F}$
③ 可算和で閉じている
$A_1, A_2, \ldots \in \mathcal{F}$ ならば $\bigcup_{i=1}^{\infty} A_i \in \mathcal{F}$
直感的には：「Aの確率が測れるなら、Aでない確率も測れる」「複数の事象の和の確率も測れる」
「確率を測ることができる事象の集まり」を数学的に定義したもの。
$\mathcal{F}$ は以下の3つの性質を満たす：
① 全体が含まれる
$\Omega \in \mathcal{F}$
② 補集合で閉じている
$A \in \mathcal{F}$ ならば $A^c \in \mathcal{F}$
③ 可算和で閉じている
$A_1, A_2, \ldots \in \mathcal{F}$ ならば $\bigcup_{i=1}^{\infty} A_i \in \mathcal{F}$
直感的には：「Aの確率が測れるなら、Aでない確率も測れる」「複数の事象の和の確率も測れる」
例題1：σ-加法族の理解
問題：$\Omega = \{1, 2, 3\}$ のとき、最も単純なσ-加法族と最も詳細なσ-加法族を答えよ。
解答：
【最も単純なσ-加法族】
$$\mathcal{F} = \{\emptyset, \Omega\}$$ これは「何も起こらない」か「何か起こる」かだけを区別できる。
個々の数字を区別することはできない。
【最も詳細なσ-加法族（べき集合）】
$$\mathcal{F} = \{\emptyset, \{1\}, \{2\}, \{3\}, \{1,2\}, \{1,3\}, \{2,3\}, \Omega\}$$ すべての部分集合が含まれており、どの事象の確率も測れる。
要素数は $2^3 = 8$ 個。
【最も単純なσ-加法族】
$$\mathcal{F} = \{\emptyset, \Omega\}$$ これは「何も起こらない」か「何か起こる」かだけを区別できる。
個々の数字を区別することはできない。
【最も詳細なσ-加法族（べき集合）】
$$\mathcal{F} = \{\emptyset, \{1\}, \{2\}, \{3\}, \{1,2\}, \{1,3\}, \{2,3\}, \Omega\}$$ すべての部分集合が含まれており、どの事象の確率も測れる。
要素数は $2^3 = 8$ 個。
1.3 確率測度P
最後に、各事象に「確率」という数値を割り当てるルールを定義します。
⭐ 確率測度（Probability Measure）
σ-加法族 $\mathcal{F}$ の各事象 $A$ に対して、確率 $P(A)$ を割り当てる関数。
コルモゴロフの公理（確率の3つの公理）：
① 非負性
任意の $A \in \mathcal{F}$ に対して、$P(A) ≧ 0$
② 全確率
$P(\Omega) = 1$
③ 可算加法性
互いに排反な事象 $A_1, A_2, \ldots$ に対して
$$P\left(\bigcup_{i=1}^{\infty} A_i\right) = \sum_{i=1}^{\infty} P(A_i)$$
σ-加法族 $\mathcal{F}$ の各事象 $A$ に対して、確率 $P(A)$ を割り当てる関数。
コルモゴロフの公理（確率の3つの公理）：
① 非負性
任意の $A \in \mathcal{F}$ に対して、$P(A) ≧ 0$
② 全確率
$P(\Omega) = 1$
③ 可算加法性
互いに排反な事象 $A_1, A_2, \ldots$ に対して
$$P\left(\bigcup_{i=1}^{\infty} A_i\right) = \sum_{i=1}^{\infty} P(A_i)$$
例題2：確率測度の性質
問題：確率の公理から、$P(A^c) = 1 – P(A)$ を導け。
解答：
【Step 1】$A$ と $A^c$ の関係を確認
$A$ と $A^c$ は排反（共通部分がない）で、$A \cup A^c = \Omega$
【Step 2】可算加法性を適用
$A$ と $A^c$ は排反なので、
$$P(A \cup A^c) = P(A) + P(A^c)$$
【Step 3】全確率の公理を使う
$A \cup A^c = \Omega$ なので、
$$P(\Omega) = P(A) + P(A^c)$$ $$1 = P(A) + P(A^c)$$
【Step 4】移項して整理
$$P(A^c) = 1 – P(A)$$
補集合の確率の公式は、公理から導出できます。
【Step 1】$A$ と $A^c$ の関係を確認
$A$ と $A^c$ は排反（共通部分がない）で、$A \cup A^c = \Omega$
【Step 2】可算加法性を適用
$A$ と $A^c$ は排反なので、
$$P(A \cup A^c) = P(A) + P(A^c)$$
【Step 3】全確率の公理を使う
$A \cup A^c = \Omega$ なので、
$$P(\Omega) = P(A) + P(A^c)$$ $$1 = P(A) + P(A^c)$$
【Step 4】移項して整理
$$P(A^c) = 1 – P(A)$$
補集合の確率の公式は、公理から導出できます。
1.4 確率空間の定義
⭐ 確率空間（Probability Space）
3つの組 $(\Omega, \mathcal{F}, P)$ を確率空間という。
・$\Omega$：標本空間（起こり得る結果の集合）
・$\mathcal{F}$：σ-加法族（確率を測れる事象の集まり）
・$P$：確率測度（事象に確率を割り当てる関数）
この3つ組が揃って初めて、確率論が厳密に定義できます。
3つの組 $(\Omega, \mathcal{F}, P)$ を確率空間という。
・$\Omega$：標本空間（起こり得る結果の集合）
・$\mathcal{F}$：σ-加法族（確率を測れる事象の集まり）
・$P$：確率測度（事象に確率を割り当てる関数）
この3つ組が揃って初めて、確率論が厳密に定義できます。
2. 確率変数の厳密な定義
2.1 確率変数とは
確率変数は「試行の結果を数値に変換する関数」です。
📖 確率変数（Random Variable）
確率変数 $X$ とは、標本空間 $\Omega$ から実数 $\mathbb{R}$ への可測関数である。
$$X: \Omega \to \mathbb{R}$$
可測性の条件：
任意の実数 $a$ に対して、$\{\omega \in \Omega \mid X(\omega) ≦ a\} \in \mathcal{F}$
（「$X ≦ a$」という事象の確率が測れる）
直感的には：試行の結果 $\omega$ を数値 $X(\omega)$ に対応させる関数
確率変数 $X$ とは、標本空間 $\Omega$ から実数 $\mathbb{R}$ への可測関数である。
$$X: \Omega \to \mathbb{R}$$
可測性の条件：
任意の実数 $a$ に対して、$\{\omega \in \Omega \mid X(\omega) ≦ a\} \in \mathcal{F}$
（「$X ≦ a$」という事象の確率が測れる）
直感的には：試行の結果 $\omega$ を数値 $X(\omega)$ に対応させる関数
例題3：確率変数の理解
問題：サイコロを1回投げる試行で、「出た目をそのまま数値とする」確率変数 $X$ を定義せよ。
解答：
【Step 1】標本空間を確認
$\Omega = \{1, 2, 3, 4, 5, 6\}$
【Step 2】確率変数を定義
$X(\omega) = \omega$ （$\omega \in \Omega$）
【Step 3】具体的に書くと
$X(1) = 1$、$X(2) = 2$、$X(3) = 3$
$X(4) = 4$、$X(5) = 5$、$X(6) = 6$
各標本点（出た目）を、そのまま数値に対応させています。
【Step 1】標本空間を確認
$\Omega = \{1, 2, 3, 4, 5, 6\}$
【Step 2】確率変数を定義
$X(\omega) = \omega$ （$\omega \in \Omega$）
【Step 3】具体的に書くと
$X(1) = 1$、$X(2) = 2$、$X(3) = 3$
$X(4) = 4$、$X(5) = 5$、$X(6) = 6$
各標本点（出た目）を、そのまま数値に対応させています。
2.2 分布関数
確率変数の振る舞いを特徴づける最も基本的な関数です。
📐 累積分布関数（CDF: Cumulative Distribution Function）
確率変数 $X$ の分布関数 $F(x)$ は：
$$F(x) = P(X ≦ x)$$
分布関数の4つの性質：
① $0 ≦ F(x) ≦ 1$
② 単調非減少：$x_1 < x_2$ ならば $F(x_1) ≦ F(x_2)$
③ 右連続：$\displaystyle\lim_{h \to 0+} F(x+h) = F(x)$
④ $\displaystyle\lim_{x \to -\infty} F(x) = 0$、$\displaystyle\lim_{x \to \infty} F(x) = 1$
確率変数 $X$ の分布関数 $F(x)$ は：
$$F(x) = P(X ≦ x)$$
分布関数の4つの性質：
① $0 ≦ F(x) ≦ 1$
② 単調非減少：$x_1 < x_2$ ならば $F(x_1) ≦ F(x_2)$
③ 右連続：$\displaystyle\lim_{h \to 0+} F(x+h) = F(x)$
④ $\displaystyle\lim_{x \to -\infty} F(x) = 0$、$\displaystyle\lim_{x \to \infty} F(x) = 1$
2.3 確率密度関数
連続型確率変数の場合、分布関数を微分したものが確率密度関数です。
📖 確率密度関数（PDF: Probability Density Function）
連続型確率変数 $X$ に対して、分布関数 $F(x)$ が微分可能なとき：
$$f(x) = F'(x) = \frac{dF(x)}{dx}$$
逆に、密度関数から分布関数を求めるには：
$$F(x) = \int_{-\infty}^{x} f(t)\,dt$$
確率密度関数の性質：
① $f(x) ≧ 0$ （すべての $x$ で）
② $\displaystyle\int_{-\infty}^{\infty} f(x)\,dx = 1$
③ $P(a ≦ X ≦ b) = \displaystyle\int_{a}^{b} f(x)\,dx$
連続型確率変数 $X$ に対して、分布関数 $F(x)$ が微分可能なとき：
$$f(x) = F'(x) = \frac{dF(x)}{dx}$$
逆に、密度関数から分布関数を求めるには：
$$F(x) = \int_{-\infty}^{x} f(t)\,dt$$
確率密度関数の性質：
① $f(x) ≧ 0$ （すべての $x$ で）
② $\displaystyle\int_{-\infty}^{\infty} f(x)\,dx = 1$
③ $P(a ≦ X ≦ b) = \displaystyle\int_{a}^{b} f(x)\,dx$
例題4：確率密度関数から分布関数へ
問題：$f(x) = 2x$ （$0 ≦ x ≦ 1$）のとき、分布関数 $F(x)$ を求めよ。
解答：
【Step 1】$x < 0$ のとき
この区間では $f(x) = 0$ なので、
$$F(x) = 0$$
【Step 2】$0 ≦ x ≦ 1$ のとき
$$F(x) = \int_{0}^{x} 2t\,dt = \left[t^2\right]_0^x = x^2$$
【Step 3】$x > 1$ のとき
この区間では全確率がすでに含まれているので、
$$F(x) = 1$$
【まとめ】
$$F(x) = \begin{cases} 0 & (x < 0) \\ x^2 & (0 ≦ x ≦ 1) \\ 1 & (x > 1) \end{cases}$$
【Step 1】$x < 0$ のとき
この区間では $f(x) = 0$ なので、
$$F(x) = 0$$
【Step 2】$0 ≦ x ≦ 1$ のとき
$$F(x) = \int_{0}^{x} 2t\,dt = \left[t^2\right]_0^x = x^2$$
【Step 3】$x > 1$ のとき
この区間では全確率がすでに含まれているので、
$$F(x) = 1$$
【まとめ】
$$F(x) = \begin{cases} 0 & (x < 0) \\ x^2 & (0 ≦ x ≦ 1) \\ 1 & (x > 1) \end{cases}$$
3. 期待値と分散の厳密な定義
3.1 期待値（平均）
期待値は確率変数の「中心的な位置」を表す量です。
⭐ 期待値の定義
離散型：
$$E(X) = \sum_i x_i \cdot P(X = x_i)$$
連続型：
$$E(X) = \int_{-\infty}^{\infty} x \cdot f(x)\,dx$$
「各値 × その値をとる確率」の総和（連続の場合は積分）
離散型：
$$E(X) = \sum_i x_i \cdot P(X = x_i)$$
連続型：
$$E(X) = \int_{-\infty}^{\infty} x \cdot f(x)\,dx$$
「各値 × その値をとる確率」の総和（連続の場合は積分）
3.2 期待値の性質
📐 期待値の線形性（非常に重要！）
① 定数倍と定数加算
$$E(aX + b) = aE(X) + b$$
② 和の期待値（常に成立）
$$E(X + Y) = E(X) + E(Y)$$ 独立でなくても成り立つ！
③ 積の期待値（独立な場合のみ）
$X$ と $Y$ が独立なら、$E(XY) = E(X)E(Y)$
注意：一般に $E(X^2) \neq \{E(X)\}^2$
① 定数倍と定数加算
$$E(aX + b) = aE(X) + b$$
② 和の期待値（常に成立）
$$E(X + Y) = E(X) + E(Y)$$ 独立でなくても成り立つ！
③ 積の期待値（独立な場合のみ）
$X$ と $Y$ が独立なら、$E(XY) = E(X)E(Y)$
注意：一般に $E(X^2) \neq \{E(X)\}^2$
例題5：期待値の計算（連続型）
問題：$f(x) = 3x^2$ （$0 ≦ x ≦ 1$）のとき、$E(X)$ を求めよ。
解答：
【Step 1】まず、確率密度関数であることを確認
$$\int_{0}^{1} 3x^2\,dx = \left[x^3\right]_0^1 = 1 \quad \checkmark$$
【Step 2】期待値の公式を適用
$$E(X) = \int_{0}^{1} x \cdot 3x^2\,dx$$
【Step 3】計算
$$= \int_{0}^{1} 3x^3\,dx = \left[\frac{3x^4}{4}\right]_0^1 = \frac{3}{4}$$
【Step 1】まず、確率密度関数であることを確認
$$\int_{0}^{1} 3x^2\,dx = \left[x^3\right]_0^1 = 1 \quad \checkmark$$
【Step 2】期待値の公式を適用
$$E(X) = \int_{0}^{1} x \cdot 3x^2\,dx$$
【Step 3】計算
$$= \int_{0}^{1} 3x^3\,dx = \left[\frac{3x^4}{4}\right]_0^1 = \frac{3}{4}$$
3.3 分散
分散は確率変数の「散らばり具合」を表す量です。
⭐ 分散の定義
定義式：
$$V(X) = E\{(X – E(X))^2\}$$
計算に便利な公式：
$$V(X) = E(X^2) – \{E(X)\}^2$$
標準偏差：
$$\sigma = \sqrt{V(X)}$$
定義式：
$$V(X) = E\{(X – E(X))^2\}$$
計算に便利な公式：
$$V(X) = E(X^2) – \{E(X)\}^2$$
標準偏差：
$$\sigma = \sqrt{V(X)}$$
📐 分散の性質
① 定数加算では変わらない
$$V(X + b) = V(X)$$
② 定数倍は2乗される
$$V(aX) = a^2V(X)$$
③ まとめると
$$V(aX + b) = a^2V(X)$$
④ 独立な和の分散
$X$ と $Y$ が独立なら、$V(X + Y) = V(X) + V(Y)$
① 定数加算では変わらない
$$V(X + b) = V(X)$$
② 定数倍は2乗される
$$V(aX) = a^2V(X)$$
③ まとめると
$$V(aX + b) = a^2V(X)$$
④ 独立な和の分散
$X$ と $Y$ が独立なら、$V(X + Y) = V(X) + V(Y)$
例題6：分散の計算
問題：前問の $f(x) = 3x^2$ （$0 ≦ x ≦ 1$）について、$V(X)$ を求めよ。
解答：
【Step 1】$E(X^2)$ を求める
$$E(X^2) = \int_{0}^{1} x^2 \cdot 3x^2\,dx = \int_{0}^{1} 3x^4\,dx$$ $$= \left[\frac{3x^5}{5}\right]_0^1 = \frac{3}{5}$$
【Step 2】前問より $E(X) = \dfrac{3}{4}$
【Step 3】分散の公式を適用
$$V(X) = E(X^2) – \{E(X)\}^2$$ $$= \frac{3}{5} – \left(\frac{3}{4}\right)^2$$ $$= \frac{3}{5} – \frac{9}{16}$$
【Step 4】通分して計算
$$= \frac{48}{80} – \frac{45}{80} = \frac{3}{80}$$
【Step 1】$E(X^2)$ を求める
$$E(X^2) = \int_{0}^{1} x^2 \cdot 3x^2\,dx = \int_{0}^{1} 3x^4\,dx$$ $$= \left[\frac{3x^5}{5}\right]_0^1 = \frac{3}{5}$$
【Step 2】前問より $E(X) = \dfrac{3}{4}$
【Step 3】分散の公式を適用
$$V(X) = E(X^2) – \{E(X)\}^2$$ $$= \frac{3}{5} – \left(\frac{3}{4}\right)^2$$ $$= \frac{3}{5} – \frac{9}{16}$$
【Step 4】通分して計算
$$= \frac{48}{80} – \frac{45}{80} = \frac{3}{80}$$
4. 積率母関数
4.1 積率母関数の定義
積率母関数は、確率分布を特徴づける強力なツールです。
⭐ 積率母関数（MGF: Moment Generating Function）
確率変数 $X$ の積率母関数 $M(t)$ は：
$$M(t) = E(e^{tX})$$
離散型：
$$M(t) = \sum_i e^{tx_i} \cdot P(X = x_i)$$
連続型：
$$M(t) = \int_{-\infty}^{\infty} e^{tx} \cdot f(x)\,dx$$
名前の由来：
「積率（モーメント）を生成する関数」
$E(X^k)$ を $k$ 次積率という。
確率変数 $X$ の積率母関数 $M(t)$ は：
$$M(t) = E(e^{tX})$$
離散型：
$$M(t) = \sum_i e^{tx_i} \cdot P(X = x_i)$$
連続型：
$$M(t) = \int_{-\infty}^{\infty} e^{tx} \cdot f(x)\,dx$$
名前の由来：
「積率（モーメント）を生成する関数」
$E(X^k)$ を $k$ 次積率という。
4.2 積率母関数から期待値・分散を求める
💡 積率の求め方
積率母関数を $k$ 回微分して $t = 0$ を代入すると、$k$ 次積率が得られる：
$$E(X^k) = M^{(k)}(0) = \left.\frac{d^k M(t)}{dt^k}\right|_{t=0}$$
具体的には：
・$E(X) = M'(0)$（1階微分して $t=0$）
・$E(X^2) = M”(0)$（2階微分して $t=0$）
・$V(X) = M”(0) – \{M'(0)\}^2$
積率母関数を $k$ 回微分して $t = 0$ を代入すると、$k$ 次積率が得られる：
$$E(X^k) = M^{(k)}(0) = \left.\frac{d^k M(t)}{dt^k}\right|_{t=0}$$
具体的には：
・$E(X) = M'(0)$（1階微分して $t=0$）
・$E(X^2) = M”(0)$（2階微分して $t=0$）
・$V(X) = M”(0) – \{M'(0)\}^2$
例題7：積率母関数から期待値と分散を求める
問題：$M(t) = e^{\lambda(e^t – 1)}$ のとき、$E(X)$ と $V(X)$ を求めよ。
解答：
【Step 1】1階微分して $E(X)$ を求める
$$M'(t) = \lambda e^t \cdot e^{\lambda(e^t – 1)}$$ $$E(X) = M'(0) = \lambda \cdot e^0 \cdot e^{\lambda(1 – 1)} = \lambda \cdot 1 \cdot 1 = \lambda$$
【Step 2】2階微分して $E(X^2)$ を求める
積の微分より、
$$M”(t) = \lambda e^t \cdot e^{\lambda(e^t – 1)} + \lambda^2 e^{2t} \cdot e^{\lambda(e^t – 1)}$$ $$E(X^2) = M”(0) = \lambda + \lambda^2$$
【Step 3】分散を計算
$$V(X) = E(X^2) – \{E(X)\}^2 = (\lambda + \lambda^2) – \lambda^2 = \lambda$$
これはポアソン分布 $\text{Po}(\lambda)$ の積率母関数です！
ポアソン分布では、期待値 $=$ 分散 $= \lambda$ という特徴があります。
【Step 1】1階微分して $E(X)$ を求める
$$M'(t) = \lambda e^t \cdot e^{\lambda(e^t – 1)}$$ $$E(X) = M'(0) = \lambda \cdot e^0 \cdot e^{\lambda(1 – 1)} = \lambda \cdot 1 \cdot 1 = \lambda$$
【Step 2】2階微分して $E(X^2)$ を求める
積の微分より、
$$M”(t) = \lambda e^t \cdot e^{\lambda(e^t – 1)} + \lambda^2 e^{2t} \cdot e^{\lambda(e^t – 1)}$$ $$E(X^2) = M”(0) = \lambda + \lambda^2$$
【Step 3】分散を計算
$$V(X) = E(X^2) – \{E(X)\}^2 = (\lambda + \lambda^2) – \lambda^2 = \lambda$$
これはポアソン分布 $\text{Po}(\lambda)$ の積率母関数です！
ポアソン分布では、期待値 $=$ 分散 $= \lambda$ という特徴があります。
4.3 積率母関数の重要な性質
📐 積率母関数の4つの重要な性質
① 線形変換
$Y = aX + b$ のとき、
$$M_Y(t) = e^{bt} M_X(at)$$
② 独立な和
$X$ と $Y$ が独立なら、
$$M_{X+Y}(t) = M_X(t) \cdot M_Y(t)$$
③ 一意性
積率母関数が一致すれば、分布も一致する
（分布を同定するのに使える！）
④ k次積率
$E(X^k) = M^{(k)}(0)$
① 線形変換
$Y = aX + b$ のとき、
$$M_Y(t) = e^{bt} M_X(at)$$
② 独立な和
$X$ と $Y$ が独立なら、
$$M_{X+Y}(t) = M_X(t) \cdot M_Y(t)$$
③ 一意性
積率母関数が一致すれば、分布も一致する
（分布を同定するのに使える！）
④ k次積率
$E(X^k) = M^{(k)}(0)$
4.4 主要な分布の積率母関数
📋 よく使う積率母関数一覧
| 分布 | 積率母関数 $M(t)$ |
| ベルヌーイ $\text{Be}(p)$ | $1 – p + pe^t$ |
| 二項 $B(n, p)$ | $(1 – p + pe^t)^n$ |
| ポアソン $\text{Po}(\lambda)$ | $e^{\lambda(e^t – 1)}$ |
| 正規 $N(\mu, \sigma^2)$ | $\exp\left(\mu t + \dfrac{\sigma^2 t^2}{2}\right)$ |
| 指数 $\text{Exp}(\lambda)$ | $\dfrac{\lambda}{\lambda – t}$ （$t < \lambda$） |
例題8：二項分布の積率母関数から期待値を導く
問題：$X \sim B(n, p)$ の積率母関数から、$E(X) = np$ を導け。
解答：
【Step 1】二項分布の積率母関数
$$M(t) = (1 – p + pe^t)^n$$
【Step 2】微分する
$$M'(t) = n(1 – p + pe^t)^{n-1} \cdot pe^t$$
【Step 3】$t = 0$ を代入
$$E(X) = M'(0) = n(1 – p + p)^{n-1} \cdot p \cdot 1$$ $$= n \cdot 1^{n-1} \cdot p = np$$
【Step 1】二項分布の積率母関数
$$M(t) = (1 – p + pe^t)^n$$
【Step 2】微分する
$$M'(t) = n(1 – p + pe^t)^{n-1} \cdot pe^t$$
【Step 3】$t = 0$ を代入
$$E(X) = M'(0) = n(1 – p + p)^{n-1} \cdot p \cdot 1$$ $$= n \cdot 1^{n-1} \cdot p = np$$
4.5 積率母関数による分布の同定
⭐ 分布の同定
積率母関数が既知の分布のものと一致すれば、その分布だと同定できる。
例：
ある統計量 $T$ の積率母関数が $M(t) = e^{\lambda(e^t – 1)}$ と求まった
→ これは $\text{Po}(\lambda)$ の積率母関数
→ よって、$T \sim \text{Po}(\lambda)$
これは、統計量の分布を導出する強力な方法です！
積率母関数が既知の分布のものと一致すれば、その分布だと同定できる。
例：
ある統計量 $T$ の積率母関数が $M(t) = e^{\lambda(e^t – 1)}$ と求まった
→ これは $\text{Po}(\lambda)$ の積率母関数
→ よって、$T \sim \text{Po}(\lambda)$
これは、統計量の分布を導出する強力な方法です！
例題9：独立な確率変数の和の分布
問題：$X \sim \text{Po}(\lambda_1)$、$Y \sim \text{Po}(\lambda_2)$ が独立のとき、$X + Y$ の分布を積率母関数を使って求めよ。
解答：
【Step 1】各積率母関数を書く
$$M_X(t) = e^{\lambda_1(e^t – 1)}$$ $$M_Y(t) = e^{\lambda_2(e^t – 1)}$$
【Step 2】独立なので、積率母関数の積をとる
$$M_{X+Y}(t) = M_X(t) \cdot M_Y(t)$$ $$= e^{\lambda_1(e^t – 1)} \cdot e^{\lambda_2(e^t – 1)}$$ $$= e^{(\lambda_1 + \lambda_2)(e^t – 1)}$$
【Step 3】分布を同定
これは $\text{Po}(\lambda_1 + \lambda_2)$ の積率母関数なので、
$$X + Y \sim \text{Po}(\lambda_1 + \lambda_2)$$
ポアソン分布の再生性：独立なポアソン変数の和もポアソン分布に従う
【Step 1】各積率母関数を書く
$$M_X(t) = e^{\lambda_1(e^t – 1)}$$ $$M_Y(t) = e^{\lambda_2(e^t – 1)}$$
【Step 2】独立なので、積率母関数の積をとる
$$M_{X+Y}(t) = M_X(t) \cdot M_Y(t)$$ $$= e^{\lambda_1(e^t – 1)} \cdot e^{\lambda_2(e^t – 1)}$$ $$= e^{(\lambda_1 + \lambda_2)(e^t – 1)}$$
【Step 3】分布を同定
これは $\text{Po}(\lambda_1 + \lambda_2)$ の積率母関数なので、
$$X + Y \sim \text{Po}(\lambda_1 + \lambda_2)$$
ポアソン分布の再生性：独立なポアソン変数の和もポアソン分布に従う
📝 練習問題
問題 1
確率測度の性質
$P(A \cup B) = P(A) + P(B) – P(A \cap B)$ を確率の公理から導け。
解答：
【Step 1】$A \cup B$ を排反な部分に分解
$A \cup B = A \cup (B \setminus A)$（$A$ と $B$ から $A$ を除いた部分の和）
これらは排反なので、
$$P(A \cup B) = P(A) + P(B \setminus A)$$
【Step 2】$P(B \setminus A)$ を変形
$B = (A \cap B) \cup (B \setminus A)$ で排反なので、
$$P(B) = P(A \cap B) + P(B \setminus A)$$ $$P(B \setminus A) = P(B) – P(A \cap B)$$
【Step 3】代入
$$P(A \cup B) = P(A) + P(B) – P(A \cap B)$$
【Step 1】$A \cup B$ を排反な部分に分解
$A \cup B = A \cup (B \setminus A)$（$A$ と $B$ から $A$ を除いた部分の和）
これらは排反なので、
$$P(A \cup B) = P(A) + P(B \setminus A)$$
【Step 2】$P(B \setminus A)$ を変形
$B = (A \cap B) \cup (B \setminus A)$ で排反なので、
$$P(B) = P(A \cap B) + P(B \setminus A)$$ $$P(B \setminus A) = P(B) – P(A \cap B)$$
【Step 3】代入
$$P(A \cup B) = P(A) + P(B) – P(A \cap B)$$
問題 2
分布関数の性質
$P(a < X ≦ b)$ を分布関数 $F(x)$ で表せ。
解答：
$$P(a < X ≦ b) = P(X ≦ b) - P(X ≦ a) = F(b) - F(a)$$
$$P(a < X ≦ b) = P(X ≦ b) - P(X ≦ a) = F(b) - F(a)$$
問題 3
確率密度関数の確認
$f(x) = cx^2$ （$0 ≦ x ≦ 2$）が確率密度関数となるような $c$ の値を求めよ。
解答：
【Step 1】全体で積分して1になる条件
$$\int_{0}^{2} cx^2\,dx = 1$$
【Step 2】積分を計算
$$c\left[\frac{x^3}{3}\right]_0^2 = 1$$ $$c \cdot \frac{8}{3} = 1$$
【Step 3】$c$ を求める
$$c = \frac{3}{8}$$
【Step 1】全体で積分して1になる条件
$$\int_{0}^{2} cx^2\,dx = 1$$
【Step 2】積分を計算
$$c\left[\frac{x^3}{3}\right]_0^2 = 1$$ $$c \cdot \frac{8}{3} = 1$$
【Step 3】$c$ を求める
$$c = \frac{3}{8}$$
問題 4
期待値の計算（離散型）
$X \sim \text{Be}(p)$（ベルヌーイ分布）のとき、$E(X)$ を求めよ。
解答：
【Step 1】確率分布を確認
$P(X = 0) = 1 – p$
$P(X = 1) = p$
【Step 2】期待値を計算
$$E(X) = 0 \cdot (1-p) + 1 \cdot p = p$$
【Step 1】確率分布を確認
$P(X = 0) = 1 – p$
$P(X = 1) = p$
【Step 2】期待値を計算
$$E(X) = 0 \cdot (1-p) + 1 \cdot p = p$$
問題 5
期待値の計算（連続型）
$f(x) = 2(1-x)$ （$0 ≦ x ≦ 1$）のとき、$E(X)$ を求めよ。
解答：
【Step 1】期待値の公式を適用
$$E(X) = \int_{0}^{1} x \cdot 2(1-x)\,dx$$
【Step 2】展開して積分
$$= \int_{0}^{1} 2(x – x^2)\,dx$$ $$= 2\left[\frac{x^2}{2} – \frac{x^3}{3}\right]_0^1$$
【Step 3】計算
$$= 2\left(\frac{1}{2} – \frac{1}{3}\right) = 2 \cdot \frac{1}{6} = \frac{1}{3}$$
【Step 1】期待値の公式を適用
$$E(X) = \int_{0}^{1} x \cdot 2(1-x)\,dx$$
【Step 2】展開して積分
$$= \int_{0}^{1} 2(x – x^2)\,dx$$ $$= 2\left[\frac{x^2}{2} – \frac{x^3}{3}\right]_0^1$$
【Step 3】計算
$$= 2\left(\frac{1}{2} – \frac{1}{3}\right) = 2 \cdot \frac{1}{6} = \frac{1}{3}$$
問題 6
分散の公式の証明
$V(X) = E(X^2) – \{E(X)\}^2$ を証明せよ。
解答：
【Step 1】分散の定義から始める
$$V(X) = E\{(X – E(X))^2\}$$
【Step 2】展開
$$= E\{X^2 – 2X \cdot E(X) + \{E(X)\}^2\}$$
【Step 3】期待値の線形性を使う
$$= E(X^2) – 2E(X) \cdot E(X) + \{E(X)\}^2$$
【Step 4】整理
$$= E(X^2) – 2\{E(X)\}^2 + \{E(X)\}^2 = E(X^2) – \{E(X)\}^2$$
【Step 1】分散の定義から始める
$$V(X) = E\{(X – E(X))^2\}$$
【Step 2】展開
$$= E\{X^2 – 2X \cdot E(X) + \{E(X)\}^2\}$$
【Step 3】期待値の線形性を使う
$$= E(X^2) – 2E(X) \cdot E(X) + \{E(X)\}^2$$
【Step 4】整理
$$= E(X^2) – 2\{E(X)\}^2 + \{E(X)\}^2 = E(X^2) – \{E(X)\}^2$$
問題 7
分散の性質の証明
$V(aX + b) = a^2V(X)$ を証明せよ。
解答：
【Step 1】$E(aX + b)$ を求める
$E(aX + b) = aE(X) + b$
【Step 2】分散の定義を適用
$$V(aX + b) = E\{(aX + b – E(aX + b))^2\}$$ $$= E\{(aX + b – aE(X) – b)^2\}$$ $$= E\{a^2(X – E(X))^2\}$$
【Step 3】定数を外に出す
$$= a^2 E\{(X – E(X))^2\} = a^2 V(X)$$
【Step 1】$E(aX + b)$ を求める
$E(aX + b) = aE(X) + b$
【Step 2】分散の定義を適用
$$V(aX + b) = E\{(aX + b – E(aX + b))^2\}$$ $$= E\{(aX + b – aE(X) – b)^2\}$$ $$= E\{a^2(X – E(X))^2\}$$
【Step 3】定数を外に出す
$$= a^2 E\{(X – E(X))^2\} = a^2 V(X)$$
問題 8
ベルヌーイ分布の分散
$X \sim \text{Be}(p)$ のとき、$V(X)$ を求めよ。
解答：
【Step 1】$E(X)$ を確認
$E(X) = p$（問題4より）
【Step 2】$E(X^2)$ を求める
$$E(X^2) = 0^2 \cdot (1-p) + 1^2 \cdot p = p$$
【Step 3】分散を計算
$$V(X) = E(X^2) – \{E(X)\}^2 = p – p^2 = p(1 – p)$$
【Step 1】$E(X)$ を確認
$E(X) = p$（問題4より）
【Step 2】$E(X^2)$ を求める
$$E(X^2) = 0^2 \cdot (1-p) + 1^2 \cdot p = p$$
【Step 3】分散を計算
$$V(X) = E(X^2) – \{E(X)\}^2 = p – p^2 = p(1 – p)$$
問題 9
指数分布の期待値
$f(x) = \lambda e^{-\lambda x}$ （$x ≧ 0$）のとき、$E(X)$ を求めよ。
解答：
【Step 1】期待値の公式を適用
$$E(X) = \int_{0}^{\infty} x \cdot \lambda e^{-\lambda x}\,dx$$
【Step 2】部分積分（$u = x$、$dv = \lambda e^{-\lambda x}dx$）
$$= \left[-x e^{-\lambda x}\right]_0^{\infty} + \int_{0}^{\infty} e^{-\lambda x}\,dx$$
【Step 3】計算
第1項は $0$（ロピタルの定理より）
$$= 0 + \left[-\frac{e^{-\lambda x}}{\lambda}\right]_0^{\infty} = \frac{1}{\lambda}$$
【Step 1】期待値の公式を適用
$$E(X) = \int_{0}^{\infty} x \cdot \lambda e^{-\lambda x}\,dx$$
【Step 2】部分積分（$u = x$、$dv = \lambda e^{-\lambda x}dx$）
$$= \left[-x e^{-\lambda x}\right]_0^{\infty} + \int_{0}^{\infty} e^{-\lambda x}\,dx$$
【Step 3】計算
第1項は $0$（ロピタルの定理より）
$$= 0 + \left[-\frac{e^{-\lambda x}}{\lambda}\right]_0^{\infty} = \frac{1}{\lambda}$$
問題 10
積率母関数の定義
$X \sim \text{Be}(p)$ の積率母関数 $M(t)$ を求めよ。
解答：
【Step 1】定義を適用
$$M(t) = E(e^{tX})$$
【Step 2】計算
$$= e^{t \cdot 0} \cdot (1-p) + e^{t \cdot 1} \cdot p$$ $$= 1 – p + pe^t$$
【Step 1】定義を適用
$$M(t) = E(e^{tX})$$
【Step 2】計算
$$= e^{t \cdot 0} \cdot (1-p) + e^{t \cdot 1} \cdot p$$ $$= 1 – p + pe^t$$
問題 11
積率母関数から期待値
$M(t) = \dfrac{1}{1-t}$ （$t < 1$）のとき、$E(X)$ を求めよ。
解答：
【Step 1】微分する
$$M'(t) = \frac{1}{(1-t)^2}$$
【Step 2】$t = 0$ を代入
$$E(X) = M'(0) = \frac{1}{(1-0)^2} = 1$$
【Step 1】微分する
$$M'(t) = \frac{1}{(1-t)^2}$$
【Step 2】$t = 0$ を代入
$$E(X) = M'(0) = \frac{1}{(1-0)^2} = 1$$
問題 12
正規分布の積率母関数から期待値
$M(t) = \exp\left(\mu t + \dfrac{\sigma^2 t^2}{2}\right)$ のとき、$E(X)$ を求めよ。
解答：
【Step 1】微分する
$$M'(t) = (\mu + \sigma^2 t) \cdot \exp\left(\mu t + \frac{\sigma^2 t^2}{2}\right)$$
【Step 2】$t = 0$ を代入
$$E(X) = M'(0) = \mu \cdot \exp(0) = \mu$$
【Step 1】微分する
$$M'(t) = (\mu + \sigma^2 t) \cdot \exp\left(\mu t + \frac{\sigma^2 t^2}{2}\right)$$
【Step 2】$t = 0$ を代入
$$E(X) = M'(0) = \mu \cdot \exp(0) = \mu$$
問題 13
二項分布の分散（積率母関数から）
$M(t) = (1 – p + pe^t)^n$ のとき、$V(X)$ を求めよ。
解答：
【Step 1】$E(X) = M'(0) = np$（例題8より）
【Step 2】2階微分
$$M”(t) = n(n-1)(1 – p + pe^t)^{n-2} \cdot (pe^t)^2 + n(1 – p + pe^t)^{n-1} \cdot pe^t$$
【Step 3】$t = 0$ を代入
$$E(X^2) = M”(0) = n(n-1)p^2 + np$$
【Step 4】分散を計算
$$V(X) = E(X^2) – \{E(X)\}^2$$ $$= n(n-1)p^2 + np – n^2p^2$$ $$= n^2p^2 – np^2 + np – n^2p^2$$ $$= np – np^2 = np(1 – p)$$
【Step 1】$E(X) = M'(0) = np$（例題8より）
【Step 2】2階微分
$$M”(t) = n(n-1)(1 – p + pe^t)^{n-2} \cdot (pe^t)^2 + n(1 – p + pe^t)^{n-1} \cdot pe^t$$
【Step 3】$t = 0$ を代入
$$E(X^2) = M”(0) = n(n-1)p^2 + np$$
【Step 4】分散を計算
$$V(X) = E(X^2) – \{E(X)\}^2$$ $$= n(n-1)p^2 + np – n^2p^2$$ $$= n^2p^2 – np^2 + np – n^2p^2$$ $$= np – np^2 = np(1 – p)$$
問題 14
線形変換
$Y = 2X + 3$ のとき、$E(Y)$ と $V(Y)$ を $E(X)$、$V(X)$ で表せ。
解答：
【期待値】
$$E(Y) = E(2X + 3) = 2E(X) + 3$$
【分散】
$$V(Y) = V(2X + 3) = 2^2 V(X) = 4V(X)$$
【期待値】
$$E(Y) = E(2X + 3) = 2E(X) + 3$$
【分散】
$$V(Y) = V(2X + 3) = 2^2 V(X) = 4V(X)$$
問題 15
分布関数から確率
$F(x) = 1 – e^{-x}$ （$x ≧ 0$）のとき、$P(1 ≦ X ≦ 2)$ を求めよ。
解答：
$$P(1 ≦ X ≦ 2) = F(2) – F(1)$$ $$= (1 – e^{-2}) – (1 – e^{-1})$$ $$= e^{-1} – e^{-2}$$ $$\approx 0.368 – 0.135 = 0.233$$
$$P(1 ≦ X ≦ 2) = F(2) – F(1)$$ $$= (1 – e^{-2}) – (1 – e^{-1})$$ $$= e^{-1} – e^{-2}$$ $$\approx 0.368 – 0.135 = 0.233$$
問題 16
密度関数から分布関数
$f(x) = 1$ （$0 ≦ x ≦ 1$）のとき、$F(x)$ を求めよ。
解答：
【$x < 0$ のとき】$F(x) = 0$
【$0 ≦ x ≦ 1$ のとき】
$$F(x) = \int_{0}^{x} 1\,dt = x$$
【$x > 1$ のとき】$F(x) = 1$
これは一様分布 $U(0, 1)$ です。
【$x < 0$ のとき】$F(x) = 0$
【$0 ≦ x ≦ 1$ のとき】
$$F(x) = \int_{0}^{x} 1\,dt = x$$
【$x > 1$ のとき】$F(x) = 1$
これは一様分布 $U(0, 1)$ です。
問題 17
k次積率
$X \sim U(0, 1)$ のとき、$E(X^k)$ を求めよ。
解答：
$$E(X^k) = \int_{0}^{1} x^k \cdot 1\,dx = \left[\frac{x^{k+1}}{k+1}\right]_0^1 = \frac{1}{k+1}$$
$$E(X^k) = \int_{0}^{1} x^k \cdot 1\,dx = \left[\frac{x^{k+1}}{k+1}\right]_0^1 = \frac{1}{k+1}$$
問題 18
確率変数の変換
$X \sim U(0, 1)$ のとき、$Y = -\ln X$ の確率密度関数 $f_Y(y)$ を求めよ。
解答：
【Step 1】変換を確認
$Y = -\ln X$ $\Leftrightarrow$ $X = e^{-Y}$
$X$: $0 \to 1$ のとき、$Y$: $\infty \to 0$
【Step 2】変数変換の公式を使う
$$f_Y(y) = f_X(e^{-y}) \cdot \left|\frac{dx}{dy}\right|$$ $$= 1 \cdot |-e^{-y}| = e^{-y} \quad (y ≧ 0)$$
これは指数分布 $\text{Exp}(1)$ です！
【Step 1】変換を確認
$Y = -\ln X$ $\Leftrightarrow$ $X = e^{-Y}$
$X$: $0 \to 1$ のとき、$Y$: $\infty \to 0$
【Step 2】変数変換の公式を使う
$$f_Y(y) = f_X(e^{-y}) \cdot \left|\frac{dx}{dy}\right|$$ $$= 1 \cdot |-e^{-y}| = e^{-y} \quad (y ≧ 0)$$
これは指数分布 $\text{Exp}(1)$ です！
問題 19
正規分布の再生性
$X \sim N(\mu_1, \sigma_1^2)$、$Y \sim N(\mu_2, \sigma_2^2)$ が独立のとき、$X + Y$ の分布を積率母関数を使って求めよ。
解答：
【Step 1】各積率母関数
$$M_X(t) = \exp\left(\mu_1 t + \frac{\sigma_1^2 t^2}{2}\right)$$ $$M_Y(t) = \exp\left(\mu_2 t + \frac{\sigma_2^2 t^2}{2}\right)$$
【Step 2】独立なので積をとる
$$M_{X+Y}(t) = M_X(t) \cdot M_Y(t)$$ $$= \exp\left((\mu_1 + \mu_2)t + \frac{(\sigma_1^2 + \sigma_2^2)t^2}{2}\right)$$
【Step 3】分布を同定
これは $N(\mu_1 + \mu_2, \sigma_1^2 + \sigma_2^2)$ の積率母関数なので、
$$X + Y \sim N(\mu_1 + \mu_2, \sigma_1^2 + \sigma_2^2)$$
【Step 1】各積率母関数
$$M_X(t) = \exp\left(\mu_1 t + \frac{\sigma_1^2 t^2}{2}\right)$$ $$M_Y(t) = \exp\left(\mu_2 t + \frac{\sigma_2^2 t^2}{2}\right)$$
【Step 2】独立なので積をとる
$$M_{X+Y}(t) = M_X(t) \cdot M_Y(t)$$ $$= \exp\left((\mu_1 + \mu_2)t + \frac{(\sigma_1^2 + \sigma_2^2)t^2}{2}\right)$$
【Step 3】分布を同定
これは $N(\mu_1 + \mu_2, \sigma_1^2 + \sigma_2^2)$ の積率母関数なので、
$$X + Y \sim N(\mu_1 + \mu_2, \sigma_1^2 + \sigma_2^2)$$
問題 20
チェビシェフの不等式
任意の確率変数 $X$ と $k > 0$ に対して、$P(|X – E(X)| ≧ k) ≦ \dfrac{V(X)}{k^2}$ が成り立つことを示せ。
解答：
【Step 1】記号を置く
$\mu = E(X)$、$\sigma^2 = V(X)$ とおく。
【Step 2】分散の定義から
$$\sigma^2 = E\{(X – \mu)^2\} = \int_{-\infty}^{\infty} (x – \mu)^2 f(x)\,dx$$
【Step 3】積分範囲を制限
$$≧ \int_{|x-\mu| ≧ k} (x – \mu)^2 f(x)\,dx$$
【Step 4】$|x – \mu| ≧ k$ の範囲では $(x – \mu)^2 ≧ k^2$ なので
$$≧ k^2 \int_{|x-\mu| ≧ k} f(x)\,dx = k^2 P(|X – \mu| ≧ k)$$
【Step 5】整理
$$P(|X – \mu| ≧ k) ≦ \frac{\sigma^2}{k^2}$$
【Step 1】記号を置く
$\mu = E(X)$、$\sigma^2 = V(X)$ とおく。
【Step 2】分散の定義から
$$\sigma^2 = E\{(X – \mu)^2\} = \int_{-\infty}^{\infty} (x – \mu)^2 f(x)\,dx$$
【Step 3】積分範囲を制限
$$≧ \int_{|x-\mu| ≧ k} (x – \mu)^2 f(x)\,dx$$
【Step 4】$|x – \mu| ≧ k$ の範囲では $(x – \mu)^2 ≧ k^2$ なので
$$≧ k^2 \int_{|x-\mu| ≧ k} f(x)\,dx = k^2 P(|X – \mu| ≧ k)$$
【Step 5】整理
$$P(|X – \mu| ≧ k) ≦ \frac{\sigma^2}{k^2}$$
📌 Step 3のまとめ
- 確率空間 $(\Omega, \mathcal{F}, P)$ の厳密な定義を理解した
- 確率変数を可測関数として理解した
- 分布関数と確率密度関数の関係を理解した
- 期待値と分散を数学的に厳密に定義できるようになった
- 積率母関数の定義と性質を理解し、分布の同定に使えるようになった
- チェビシェフの不等式を証明できるようになった
学習メモ
統計検定準1級対策 - Step 3
📋 過去のメモ一覧
▼