2025. 1. 7. 23:43ㆍ학부/인공지능확률론
- What is probability?
확률론: 무작위 현상을 분석하는 수학적 도구
무작위: 어떤 사건의 결과에 영향을 미치는 모든 요소를 알 수 없을때를 표현하는 것
확률: 어떤 사건이 일어날 가능성을 수량화 한 것
- Ex: Communication Systems
통신 시스템에서 잡음(noise)는 전송 과정에서 생기는 불확실성으로 무작위성을 지니고 있다.
따라서 현대 통신 시스템에서는 확률론이 널리 사용되고 있다.
- Set(집합)
확률은 집합에 대해 정의되고 계산됨.
set이란 특정 항목들(원소)의 모임 / 집합은 보통 대문자로 나타냄 / 원소들은 중괄호 {}로 나열. 예를 들어, 집합 A는 {♣, ♢}로 정의 / 원소가 집합에 속한다고 할 때는 ∈ 기호를 사용하며, ♢ ∈ A는 "♢는 A에 속한다"는 의미 / 원소가 집합에 속하지 않는다고 할 때는 ∉ 기호를 사용 / 원소들의 순서는 중요하지 않음.
- 결과 (Outcome): 무작위 실험의 결과.
- 표본공간 (Sample Space): 모든 가능한 결과들의 집합.
- 사건 (Event): 표본공간의 부분집합.
- 확률공리
- 조건부 확률
given 상황(어떠한 특정 상황이 주어졌을 때 즉, 표본공간이 특정상황으로 축소된 경우에서 사건 A가 일어날 확률)
흡사 확률의 성질과 동일하다.(조건부만 붙은 거 같음)
- 연쇄법칙(Chain rule)
- 독립
한 사건의 발생 여부가 다른 사건의 발생 가능성에 영향을 미치지 않는 경우.
수식으로 표현하자면,
- Law of Total Probability(전확률법칙)
어떤 사건을 구하기 위해 표본공간의 분할(겹치는게 없는 상태 즉, 교집합이 없는 상태)을 사용하는 방법
언제쓸까? 사건 A를 알고 싶은데 P(A)를 직접 구하는 방법을 모른다. 근데 사건 A가 일어났을 때 일어난 사건들의 확률인 조건부 확률을 알고 있고, 이 사건들은 표본공간들을 분할하고 있는 경우.
Q)I have three bags that each contain 100 marbles:
Bag 1 has 75 red and 25 blue marbles
Bag 2 has 60 red and 40 blue marbles
Bag 3 has 45 red and 55 blue marbles.
I choose one of the bags at random and then pick a marble from the chosen bag, also at random. What is the probability that the chosen marble is red?
A) red marbles를 뽑을 확률을 구하고 싶은데 해당확률은 위의 상황에서 바로 구하는 것이 불가능하다.
red marbles를 뽑을 확률을 P(A)라고 한다면, 가방1,2,3이 전체사건들을 분할하고 있기 때문에 가방1에서 red를 뽑을 확률+가방2에서 red를 뽑을 확률+가방3에서 red를 뽑을 확률을 계산해주면 구할 수 있다.
- Bayes' Rule(베이즈 법칙)
베이즈 정리는 이전의 경험과 현재의 증거를 토대로 어떤 사건의 확률을 추론하는 것.
P(A)를 구하는 것에 전확률 법칙이 이용되었다면, P(Si | A)를 구하는 것에 이용되는 것이 베이즈 법칙이다. 물론 이 베이즈 법칙에 전확률 법칙도 이용되었다.
- 조건부 독립
앞서 살펴본 바와 같이 확률로 정의된 거의 모든 개념은 조건부확률로 확장가능하다.