확률공간과 확률 변수

Probability Space and Random Variable

확률론의 기본이 되는 확률공간 (probability space)와 확률 변수 (random variable)의 정의를 살펴본다.

 

Outcome, Event, Experiment, Trial

Outcome은 가능한 사건이다.

Event는 일어난 사건이다.

Experiment or Trial은 outcome을 반복해서 뽑는 행위다.

Sample Space

$\Omega$는 Sample Space로 정의한다. 이는 가능한 모든 Outcome의 집합이다.

$\sigma-algebra$ $F$는 다음 세가지를 만족하는 a collection of sets in $\Omega$다.

1. If $S$ $\in$ $F$, then complement of $S$ also $\in$ $F$.
2. If $S_1$ and $S_2$ $\in$ $F$, then ($S_1$ $\cup$ $S_2$) also $\in$ $F$.
3. $\Omega$ $\in$ $F$.
   
   

Probability Measure

Probability Measure $P$는 다음의 공리를 만족해야 한다.
$P: F \rightarrow \mathbb{R}$이고 이때 $\mathbb{R}$은 실수 집합이다.

1. Non-negative. P($S$) $\geq$ 0 for any event $S \in F$.
2. $\sigma-additive$. If the sets $S_1, ...,... S_n, \in F$ are disjoint to each other, then $P(\cup S_i$)=$\Sigma P(S_i)$.
3. Normalization. P($\Omega$)=1.
   
   

Probability Space

Probability Space는 Sample Space $\Omega$, a set of events인 $\sigma-algebra$,

events에 확률을 부과하는 Proability Measure인 $P$로 이루어진 triple ($\Omega$, $\sigma-algebra$, $P$)다.

Random Variable

확률 변수 Random Variable은 Sample Space를 실수로 보내는 함수다.

$X: \Omega \rightarrow \mathbb{R}$.

같은 Sample Space에 대해서 여러가지 함수를 취할 수 있다.

동전을 던지는 경우 Sample Space는 {Head, Tail}이다.

1. X(Head) = 1, X(Tail) = 0 으로 정의할 수 있다.
2. X(Head) = -1, X(Tail) = 1 으로 정의할 수 있다.
   
   

 

References:

고려대학교 XAI502: Probability and Statistics