[TIL]확률분포2

• 가우시안 분포
  • N이 커질수록 가우시안 분포에 가까워진다.
  • x에 대한 함수적 종속성은 지수부에 등장하는 이차형식에 있다.
  • 이차형식에 나타나는 행렬은 오직 대칭부분만이 그 값에 기여한다.
• 가우시안 분포의 Normalization 증명
• (뮤와 시그마가 함수의 파라미터로 주어질때)
  • 가우시안 분포의 기댓값 : 파라미터 뮤가 확률분포의 기댓값이 된다.
  • 가우시안 분포의 공분산 : 파라미터 시그마가 확률분포의 공분산이 된다.
  • 확류변수 벡터 x가 가우시안 분포를 따를 때, 그 분포의 파라미터로 주어져있던 뮤가 바로 그 분포의 평균이 되고, 파라미터로 주어져있던 시그마가 그 분포의 공분산이 됨
• 조건부 가우시안 분포, 주변 가우시안 분포
  • D차원의 확률변수 벡터 x가 가우시안 분포를 따르고 x를 두 그룹의 확률변수들로 나누었을 때, 한 그룹이 주어졌을 때 나머지 그룹의 조건부 확률도 가우시안 분포를 따르고, 각 그룹의 주변확률 또한 가우시안 분포를 따른다.
• 가우시안 분포의 최대우도
  • 가우시안 분포에 의해 생성된 데이터 X가 주어졌을 때, 우도를 최대화하는 파라미터 값(평균, 공분산)을 찾는 것이 목표
    1. 로그우도 함수
    2. 우도를 최대화하는 평균벡터 $\mu_{ML}$구하기
    3. 우도를 최대화하는 공분산행렬 $\sum_{ML}$을 구하기
  • 람다_ML의 역행렬인 시그마_ML이 우리가 원래 최적화시키고자 하는 함수를 최적화시키는 시그마의 값이 됨을 알 수 있다.
• 가우시안 분포를 위한 베이지안 추론
  • 사전확률은 뮤가 우도함수와 동일하게 가우시안 분포를 따른다고 가정한다.
  • 사후확률도 가우시안 분포를 따른다는 것을 보일 수 있다.
  • 완전제곱식을 통해 식을 보일 수 있다.