Objective Function 이해하기 - 01. Probability와 Likelihood의 차이

 

'Probability(확률)'와 'Likelihood(가능도 또는 우도)'는 비슷한 개념처럼 보이지만 서로 다른 의미를 가짐.

Probability는 어떤 사건이 발생할 가능성의 정도로, 일반적으로 0과 1 사이의 값으로 표현됨.

• 확률이 0이면 사건이 전혀 발생하지 않을 것을, 확률이 1이면 사건이 반드시 발생할 것을 의미함.
• 확률은 특정 조건이나 주어진 정보에 기반하여 계산됨.

이에 비해, Likelihood는 주어진 데이터(또는 결과값)에 대한 특정 통계 모델, 또는 매개변수 집합의 적합성을 측정함.

• Likelihood는 주어진 데이터가 관찰되었을 때, 그 데이터가 어느 정도나 특정 모델 또는 매개변수 값으로부터 '가능한가'를 나타냄.
• Likelihood는 확률과 달리 확률 분포의 일부가 아니며, 그 자체로 확률을 나타내지 않음.

요약하면, Probability는 미래의 불확실한 사건이 발생할 가능성을 나타내고, Likelihood는 는 주어진 데이터가 특정 모델에 얼마나 잘 맞는지를 나타내는 척도. 확률은 사건에 초점을 맞추고, 가능도는 모델과 데이터의 적합성에 초점을 맞춤.

 

 

ML 모델의 objective function에 자주 등장하는 likelihood의 개념을 probability와 비교해 간단하게 정리해보았다.
하지만 이렇게 간단히 정리될 수 있는 개념은 아닌 것 같아..
추후 다른 포스트에서 더 자세히 분석해 봐야겠음.