読者です 読者をやめる 読者になる 読者になる

主に、強化学習

情報系の大学2年生が確率に関連したことを多めに書いてるブログ

確率論 - 復習

はじめに

我らがTKB大学のcoinsの授業で「確率論」というものがあり、私もそれを履修しているのですが、講義をしてくださってる某准教授のお話はどれもが秀逸で、情報特別演習でお世話になろうと思いました。あ…メールする必要あるんだった…(今思い出した)。 今回の内容は復習にしようかと思ってます。 ※ 本内容は、私の記憶と授業ノートからなるので勘違いがある可能性があるのでご注意ください。

期待値の線形性とJensen不等式

確率論の授業の内容の前に、以前のブログで期待値の線形性を知らなくて計算に時間がかかった問題があったので、それの証明をしたいと思います。

\( \forall X, c, Y=cX \in \mathbb{R} \) を確率変数とすると,

\( \begin{align} E[cX] &= \sum_{i=0}^{\infty} Y Pr[Y=cX] \\ &= c \sum \frac{Y}{c} Pr[\frac{Y}{c}] \\ &= c \sum X Pr[X] \\ &= c E[X] \end{align} \)

\( \forall X, Y=(X-E[X])^{2} \in \mathbb{R} \) を確率変数とすると,

\( \begin{align} 0 \leq E[Y] &= E[(X-E[X])^{2}] \\ &= E[X^{2} - 2X E[X] + E[X]^{2}] \\ &= E[X^{2}]- 2 E[X]^{2} + E[X]^{2} \\ &= E[X^{2}] - E[X]^{2} \end{align} \)

\( \therefore E[X]^{2} \leq E[X^{2}] \) となります。

\sigma-代数

授業の途中で位相の話がありました。と言いましても、あくまで確率の授業なので表層的な部分のみです。

集合 X の位相とは次の条件を満たす X の部分集合の族 O をいう.この族 O に属する部分集合を開集合という.

  1. X ∈ O ,空集合 ∈ O.
  2. 有限個の U1, ..., Un ∈ O について,U1∩・・・∩ Un ∈ O である.
  3. 族 Uλ ∈ O, (λ∈ Λ) について,∪λ∈ Λ Uλ ∈ O である.

位相については、ココのサイトを引用しました。

例として、以下の様なものがあります。

\( \begin{align} X &= \{a, b, c \} \\ \mathcal{o_1} &= \{ \phi, \{a, b \}, \{c \}, X \} \\ \end{align} \)

位相が \mathcal{o_1} です。 各々の元がすべてに関わるものは  \mathcal{o_2} = 2^{X} となります。
他の資料調べないとな…。

それは集合と空間についての説明にも使えます。
集合Xというものに構造(位相) \mathcal{o_1}が加わると空間 (X, \mathcal{o_1})になります。 集合と空間の違いがわかっていなかったのでなるほどなあってなりました。

まず、標本空間\Omega\sigma -代数が成す空間を可測空間 (\Omega, \sigma)と云います。 ん?標本空間って適当に取ったサンプルの集合じゃないのか?標本集合じゃないのか?ってなりまして、授業後に説明を聞きに行くと、私の言ってることは正しいっぽいんですが、次の授業で説明があるっぽいので有耶無耶になりました…。

この可測空間に確率が加わった空間を確率空間 \Omega, \sigma, Pr)と云うことになります。

さいごに

まだまだ理解が乏しい部分があるので、授業で貰ったテキストを読み返して復習したいと思います。