P2-5.1 확률(probability)은 불확실성을 어떻게 숫자로 표현하는가¶

Section ID: P2-5.1 Version: v2026.09.08

확률(probability)은 어떤 사건이 일어날 가능성을 0과 1 사이의 수로 표현합니다. AI에서는 이메일이 스팸인지, 사진에 고양이가 있는지처럼 확신하기 어려운 판단에 확률을 사용합니다. 확률값과 그 값을 근거로 내리는 결정은 구분해야 합니다.

불확실성과 확률¶

정보 부족과 불확실성¶

불확실성(uncertainty)은 숫자 자체가 아닙니다. 불확실성은 우리가 아직 모르는 상태입니다.

예를 들어 다음 질문을 생각해 봅니다.

• 내일 비가 올까?
• 이 이메일은 스팸일까?
• 이 사진 속 물체는 고양이일까?
• 이 사용자는 다음 달에도 서비스를 사용할까?

이 질문들은 지금 당장 완전히 확정하기 어렵습니다. 정보가 부족하거나, 미래가 아직 오지 않았거나, 관측이 불완전하기 때문입니다.

확률은 이런 불확실한 상태를 숫자로 표현하는 방법입니다. 예를 들어 비가 올 가능성 70%, 스팸일 가능성 95%, 고양이일 가능성 82%, 이탈할 가능성 30%처럼 쓸 수 있습니다.

여기서 숫자는 “정답을 이미 안다”는 뜻이 아닙니다. 현재 가진 정보와 모델을 기준으로 어느 쪽이 더 그럴듯한지 표현하는 방식입니다.

아래 차트는 불확실한 상태를 0과 1 사이의 확률 숫자로 표현하는 감각을 보여 줍니다.

0과 1 사이의 확률값¶

확률값은 0 이상 1 이하입니다. 주사위처럼 가능한 결과가 유한한 모형에서 0은 불가능한 사건, 1은 확실한 사건을 나타냅니다. 어떤 사건의 확률이 0.5이면 그 사건이 일어날 확률과 일어나지 않을 확률이 같습니다.

퍼센트(percent)로 쓰면 다음과 같습니다.

1
2
3

0.7 = 70%
0.2 = 20%
1.0 = 100%

중요한 점은 확률이 “좋다/나쁘다”를 직접 말하는 숫자가 아니라는 것입니다. 확률은 어떤 사건(event)이 일어날 가능성을 나타냅니다. 예를 들어 비 올 확률 80%는 비가 오는 사건의 가능성이 크다는 뜻이고, 그것이 좋은 날씨인지 나쁜 날씨인지는 목적에 따라 달라집니다.

AI 서비스에서도 이 구분이 중요합니다. 어떤 모델이 “스팸일 확률 0.95”라고 출력했다면, 그것은 스팸이라는 사건에 대한 가능성 점수입니다. 그 결과를 차단할지, 사용자에게 경고할지, 사람이 검토하게 할지는 별도의 의사결정입니다.

결과·사건·표본공간¶

확률을 읽으려면 세 단어를 먼저 구분해야 합니다.

주사위 하나를 던지는 상황을 보겠습니다. 가능한 결과는 1, 2, 3, 4, 5, 6이고, 표본공간은 {1, 2, 3, 4, 5, 6}입니다. 이때 짝수가 나오는 사건은 {2, 4, 6}으로 표현할 수 있습니다.

이때 주사위가 공정하다고 가정하면, 짝수가 나올 확률은 다음처럼 계산할 수 있습니다.

이 계산은 “관심 있는 결과의 개수”를 “전체 가능한 결과의 개수”로 나눈 것입니다. 여기서는 관심 있는 결과가 2, 4, 6, 전체 결과가 1, 2, 3, 4, 5, 6이므로 확률은 3 / 6입니다.

아래 차트처럼 사건(event)은 표본공간(sample space) 안에서 관심 있는 결과(outcome)를 묶은 것입니다.

다만 이 방식은 모든 결과가 똑같이 일어날 가능성이 있다고 볼 수 있을 때에만 바로 적용됩니다. 실제 데이터에서는 모든 결과가 균등하게 일어나지 않는 경우가 많습니다.

균등한 결과와 데이터 기반 추정¶

확률을 처음 배울 때 동전과 주사위가 자주 등장하는 이유는 단순합니다. 가능한 결과를 나열하기 쉽고, 공정한 동전이나 주사위라면 각 결과가 비슷한 가능성을 가진다고 가정하기 쉽기 때문입니다.

동전은 앞면과 뒷면, 주사위는 1, 2, 3, 4, 5, 6처럼 가능한 결과를 단순하게 나열할 수 있습니다.

하지만 현실의 AI 문제는 이보다 복잡합니다. 예를 들어 고객이 이탈할지, 문장이 긍정 감정인지, 이미지에 보행자가 있는지, 대출 신청의 위험이 어느 정도인지 같은 문제를 생각할 수 있습니다.

이 문제들은 가능한 결과를 단순히 같은 비율로 나누기 어렵습니다. 그래서 데이터(data), 특징(feature), 모델(model)을 이용해 가능성을 추정합니다.

이때 확률은 “주사위처럼 세면 되는 문제”에서 “관측한 데이터로 가능성을 추정하는 문제”로 확장됩니다.

장기 빈도와 믿음의 정도¶

확률을 이해할 때 두 관점이 자주 등장합니다.

하나는 장기 빈도(long-run frequency)입니다. 같은 실험을 아주 많이 반복하고, 어떤 결과가 나타나는 비율을 본 뒤, 그 비율을 확률로 해석하는 관점입니다.

공정한 동전을 여러 번 던지면 앞면의 비율이 대체로 0.5에 가까워진다고 기대할 수 있습니다. 이 관점은 반복 가능한 실험을 설명할 때 직관적입니다.

다른 하나는 믿음의 정도(degree of belief)입니다. 현재 가진 정보를 바탕으로 어떤 일이 그럴듯하다고 보는 정도를 숫자로 표현하는 관점입니다.

예를 들어 의사가 증상과 검사 결과를 보고 어떤 질병의 가능성을 판단하거나, 모델이 이메일 내용을 보고 스팸 가능성을 계산하는 경우입니다. 같은 사람을 무한히 복제해 반복 실험할 수는 없지만, 현재 정보에 근거해 가능성을 표현할 수는 있습니다.

장기 빈도 관점은 반복 시행에서 나타나는 비율에, 믿음의 정도 관점은 주어진 정보에 따른 가능성 판단에 초점을 둡니다. 같은 문제도 관점에 따라 다르게 설명할 수 있습니다.

AI에서는 두 관점이 모두 등장합니다. 데이터에서 관측된 빈도를 사용하기도 하고, 모델의 현재 정보에 근거한 가능성 점수를 사용하기도 합니다.

새 증거와 확률 갱신¶

베이즈 규칙(Bayes' rule)은 새로 관측한 정보를 반영해 조건부확률을 계산하는 규칙입니다. 믿음의 정도 관점에서는 관측 전의 확률을 관측 후의 확률로 갱신하는 데 사용합니다.

영어 용어로는 다음처럼 자주 표현합니다.

예를 들어 어떤 이메일이 스팸일 가능성을 낮게 보고 있었다고 하겠습니다. 그런데 링크가 많고, 특정 문구가 반복되고, 발신자가 의심스럽다는 증거(evidence)가 추가되면 판단이 바뀔 수 있습니다.

아래 차트는 베이즈 규칙을 공식이 아니라 “새 증거로 믿음을 갱신하는 흐름”으로 보여 줍니다.

flowchart TD
  A["사전 믿음<br/>새 관측 전의 가능성 판단"]
  B["증거<br/>판단을 바꾸게 만드는 관측 정보"]
  C["사후 믿음<br/>증거를 본 뒤의 갱신된 판단"]

  A --> B --> C

여기서 중요한 단어는 증거(evidence)입니다. evidence는 단순히 “근거 자료”라는 뜻만이 아니라, 확률 판단을 바꾸는 관측 정보로도 쓰입니다. AI 문서에서 evidence라는 말이 나오면 “무엇이 판단을 바꾸게 했는가?”라고 물어보면 도움이 됩니다.

확률값의 신뢰도¶

확률을 “정답”으로 읽으면 오해가 생깁니다. 예를 들어 비 올 확률 70%는 반드시 비가 온다는 뜻이 아니고, 스팸 확률 95%는 절대적으로 스팸이라는 뜻이 아니며, 고양이 확률 82%도 모델이 고양이라는 단어를 이해했다는 뜻만은 아닙니다.

확률은 불확실성을 다루기 위한 표현입니다. 그 표현이 얼마나 믿을 만한지는 별도의 질문입니다. 데이터가 충분한지, 데이터가 치우쳐 있지 않은지, 모델이 어떤 기준으로 가능성을 계산했는지, 확률 점수가 실제 빈도와 잘 맞는지, 결정 기준은 무엇인지를 따로 물어야 합니다.

분류 모델의 후보별 확률¶

AI는 많은 경우 확실한 규칙만으로 동작하지 않습니다. 데이터에서 패턴을 찾고, 그 패턴을 바탕으로 새 입력에 대한 가능성을 계산합니다.

예를 들어 이미지 분류 모델은 고양이: 0.82, 강아지: 0.12, 토끼: 0.04, 기타: 0.02처럼 여러 후보에 점수를 줄 수 있습니다.

이 숫자는 모델이 각 후보를 어느 정도 가능하게 보는지 나타냅니다. 가장 큰 값을 고르면 “고양이”라는 예측이 됩니다. 하지만 모델 내부에서는 단순한 정답 하나보다, 후보들 사이의 가능성 분포가 더 중요한 경우가 많습니다.

확률·불확실성·확률적 과정¶

확률(probability), 불확실성(uncertainty), 확률적(stochastic)은 각각 숫자 표현, 정보 상태, 과정의 성질을 가리킵니다.

예를 들어 주사위 던지기는 확률적 과정(stochastic process)으로 볼 수 있습니다. 어떤 면이 나올지 사전에 확정해서 말하기 어렵고, 반복할 때 결과가 달라질 수 있기 때문입니다.

반면 “내가 고객의 마음을 충분히 관측하지 못해서 이탈 여부를 확신할 수 없다”는 상황은 불확실성(uncertainty)의 문제입니다. 이 불확실성을 모델이 0.3 같은 숫자로 표현하면 확률(probability)이 됩니다.

즉 불확실성은 모르는 상태이고, 확률은 그 모르는 상태를 숫자로 표현한 것이며, stochastic은 과정 자체에 확률적 변동이 포함된 성질입니다.

스팸 확률과 처리 기준¶

메일 분류 모델이 제목·본문·발신자 등의 특징을 사용해 스팸 확률 0.92를 출력했다고 가정합니다. 서비스의 처리 기준이 다음과 같다면 이 메일은 스팸함으로 이동합니다.

다른 서비스가 자동 차단 기준을 0.90으로 두었다면 같은 0.92가 차단으로 이어집니다. 모델의 판단이 같아도 처리 기준에 따라 행동은 달라집니다. 이 표의 기준은 설명을 위한 예시이며, 실제 기준은 정상 메일을 잘못 차단하는 비용과 스팸을 놓치는 비용 등을 고려해 정합니다.

확률값의 신뢰도도 별도로 확인해야 합니다. 예를 들어 0.9 안팎의 점수를 받은 메일 100개를 검토했는데 실제 스팸이 60개뿐이라면, 관측 비율은 60 / 100 = 0.6입니다. 이 표본에서는 모델이 스팸 가능성을 과도하게 높게 평가한 셈입니다. 점수대별로 더 많은 기록을 비교하면 확률 점수와 실제 비율이 얼마나 맞는지 확인할 수 있습니다.

체크리스트¶

• 불확실성(uncertainty)을 숫자 자체가 아니라 모르는 상태로 설명할 수 있다.
• 확률(probability)을 불확실성을 표현하는 0과 1 사이의 숫자 언어로 설명할 수 있다.
• 결과(outcome), 사건(event), 표본공간(sample space)을 구분할 수 있다.
• 공정한 주사위에서 짝수가 나올 확률을 \(3/6\)으로 계산할 수 있다.
• 확률이 항상 정답을 보장하는 숫자가 아니라 현재 정보와 모델의 표현이라는 점을 설명할 수 있다.
• 장기 빈도(long-run frequency)와 믿음의 정도(degree of belief)를 구분할 수 있다.
• 베이즈 규칙(Bayes' rule)을 계산하지 않더라도, 새 증거(evidence)로 믿음을 갱신하는 흐름으로 설명할 수 있다.
• 확률(probability), 불확실성(uncertainty), 확률적(stochastic)을 같은 말처럼 쓰지 않아야 함을 설명할 수 있다.
• AI 모델의 출력 확률과 실제 운영 결정은 구분해야 함을 설명할 수 있다.
• 확률을 동전과 주사위 계산에만 묶어 두지 않고 AI의 예측 점수와 연결해 읽을 수 있다.

출처와 참고 자료¶

• Barbara Illowsky, Susan Dean, Introductory Statistics, 3.1 Terminology, OpenStax, 확인 날짜: 2026-07-20. 확률, 결과(outcome), 표본공간(sample space), 사건(event), 0과 1 사이의 확률값, 장기 상대빈도, 조건부확률 용어 확인에 사용했다.
• Ian Goodfellow, Yoshua Bengio, Aaron Courville, Deep Learning, Chapter 3: Probability and Information Theory, MIT Press, 2016, 확인 날짜: 2026-07-20. 확률론을 AI와 머신러닝의 불확실성 표현 틀로 설명하는 근거로 사용했다.