콘텐츠로 이동

P1-6.2 확률(probability), 불확실성(uncertainty), 확률적 과정(stochastic process) 구분

Section ID: P1-6.2 Version: v2026.07.23

6.1에서는 어떤 문제가 명시적 규칙만으로 처리하기 어려운지 봤습니다. 정보가 부족하고, 관측이 흔들리고, 가능한 결과가 여러 개일 때 AI는 불확실성을 다뤄야 합니다.

이번 절에서는 자주 섞이는 세 표현을 구분합니다.

uncertainty = 불확실성, 무엇인지 확실히 모르는 상태 probability = 확률, 그 불확실성을 숫자로 표현하는 언어 stochastic = 확률적 과정 또는 확률적 성질, 과정이나 행동에 확률적 변동이 들어 있는 성질

이 셋은 서로 연결되지만 같은 말은 아닙니다.

Part 1에서 불확실성(uncertainty), 확률(probability), 확률적 과정(stochastic)의 기본 구분은 이 절에서 잡습니다. 6.1에서는 왜 이런 구분이 필요한 문제 조건을 먼저 잡았고, 여기서는 그 조건을 읽기 위한 용어 기준을 세웁니다. 탐색과 휴리스틱의 구조는 P1-7에서 다시 다루고, 확률 계산의 더 자세한 수식은 Part 2와 Part 4에서 회수합니다.

왜 이 구분이 필요한가

“AI가 확률적으로 답한다”는 말은 겉으로는 간단해 보이지만, 실제로는 여러 질문이 갈라집니다.

질문 연결되는 개념
정보가 더 있으면 판단이 달라질까? 불확실성(uncertainty), 근거(evidence)
모델이 낸 0.70이라는 숫자는 얼마나 믿을 수 있을까? 확률(probability), 보정(calibration)
같은 행동을 반복해도 왜 결과가 조금씩 달라질까? 확률적 과정(stochastic process)
데이터가 부족해서 모르는 것과, 세상 자체가 흔들리는 것은 같은가? 인식적 불확실성(epistemic uncertainty), 우연적 불확실성(aleatoric uncertainty)

Hüllermeier와 Waegeman은 머신러닝에서 불확실성(uncertainty)이 핵심 방법론 요소이며, 실무 적용과 안전 요구가 커지면서 우연적 불확실성(aleatoric uncertainty)과 인식적 불확실성(epistemic uncertainty)을 구분하는 일이 중요해졌다고 설명합니다. 여기서는 먼저 불확실성에도 종류가 있다는 감각만 남겨 둡니다. 확률을 읽는 기본 언어는 Part 2의 통계 기초에서, 모델 출력의 신뢰도와 평가 감각은 Part 4의 평가 장에서 다시 연결합니다.

여기서는 다음 세 질문이 기준선을 잡아 줍니다.

더 관측하면 줄어드는 모름인가? 반복해도 남는 변동인가? 모델의 숫자는 실제 빈도와 잘 맞는가?

6.2는 먼저 불확실성, 확률, 확률적 과정이 어떻게 다른가를 닫습니다. 조건부 확률, 베이즈 규칙, 확률 분포 계산은 Part 2의 통계 기초 장과 Part 4의 평가·예측 장에서, LLM의 샘플링과 다음 토큰 예측은 Part 6의 P6-5.1, P6-5.2에서 이어집니다. 여기서는 AI 문서를 읽기 위한 용어 기준만 세웁니다.

불확실성, 확률, stochastic을 나누는 기준

  • 불확실성(uncertainty)을 “모르는 상태”로 이해합니다.
  • 확률(probability)을 불확실성을 표현하고 갱신하는 숫자 언어로 이해합니다.
  • 확률적 과정 또는 확률적 성질(stochastic)을 과정이나 행동에 확률적 변동이 포함된 성질로 이해합니다.
  • 무작위(random), 비결정적(nondeterministic), 확률적(probabilistic)을 같은 말처럼 쓰지 않도록 주의합니다.
  • 불확실성(uncertainty), 확률(probability), 불확정성을 한국어에서 섞어 쓰지 않도록 기준을 잡습니다.

세 가지 기준

여기서는 수식을 먼저 계산하기보다, 비슷한 말을 분리해서 읽는 데 목적을 둡니다. 아래 세 가지를 먼저 가릅니다.

기준 왜 중요한가 이 절에서 이해할 수준
불확실성(uncertainty)은 아직 모르는 상태라는 점 확률과 같은 숫자 개념과 섞이지 않게 해 줍니다. 숫자가 붙기 전의 모름이라는 점을 이해합니다.
확률(probability)은 그 모름을 표현하는 숫자 언어라는 점 모델 점수와 확률 해석의 출발점이 됩니다. 더 그럴듯한 후보를 숫자로 비교하는 도구라는 점을 봅니다.
stochastic은 과정에 변동이 들어 있는 성질이라는 점 불확실성, 확률, 무작위를 같은 말처럼 쓰는 실수를 줄여 줍니다. 결과만이 아니라 과정 자체가 흔들릴 수 있다는 점을 잡습니다.

불확실성, 확률, 확률적 과정, 무작위, 비결정적은 이 절 전체를 끌고 가는 핵심 용어입니다. 지금 단계에서는 불확실성은 모름, 확률은 숫자, 확률적 과정은 흔들리는 과정, 무작위는 임의 선택, 비결정적은 결과 비고정이라는 큰 구분을 먼저 남깁니다. 각 용어는 아래 본문에서 한 번 더 묶어 정리합니다.

불확실성(uncertainty)은 모르는 상태다

불확실성(uncertainty)은 어떤 사실, 상태, 결과를 확실히 알 수 없는 상태를 말합니다.

예를 들어 다음 상황을 봅니다.

상황 무엇이 불확실한가
고객 문의 실제 의도가 배송인지 환불인지 확실하지 않음
센서 입력 측정값이 실제 거리와 같은지 확실하지 않음
질병 진단 증상만 보고 원인을 확정하기 어려움
배송 예측 내일 도착할지 지연될지 확실하지 않음

Poole과 Mackworth는 실제 세계의 에이전트가 모든 것을 아는 존재가 아니며, 관측한 정보에 따라 믿음을 갱신해야 한다고 설명합니다. SEP의 AI 항목도 단순한 논리 기반 접근만으로는 모든 명제의 참·거짓을 알 수 없으며, 무지, 물리 세계의 비결정성, 표현의 모호함 때문에 확률적 접근이 필요해질 수 있다고 설명합니다.

불확실성(uncertainty) = 아직 확정해서 말할 수 없는 상태

불확실성(uncertainty)은 숫자가 아닙니다. 숫자로 표현하기 전의 문제 상황입니다.

확률(probability)은 불확실성을 표현하는 숫자 언어다

확률(probability)은 불확실한 상태를 다루기 위해 사용하는 수학적 언어입니다. Poole과 Mackworth는 확률을 믿음의 계산법으로 설명하며, 새 정보가 들어오면 믿음을 갱신할 수 있다고 설명합니다.

예를 들어 고객 문의 분류 모델이 다음과 같은 점수를 냈다고 해 보겠습니다.

후보 점수
배송 0.70
환불 0.20
기타 0.10

이 숫자는 “배송이 절대적으로 참이다”라는 뜻이 아닙니다. 모델이나 시스템이 가진 정보 안에서 배송 쪽이 더 그럴듯하다는 표현에 가깝습니다.

Poole과 Mackworth는 확률을 0과 1 사이의 숫자로 다루며, 0은 거짓이라고 믿는 상태, 1은 참이라고 믿는 상태에 대응한다고 설명합니다. 중간 값은 사실이 어느 정도만 참이라는 뜻이 아니라, 에이전트가 참인지 거짓인지 확실히 모르는 상태를 나타냅니다.

불확실성: 배송인지 환불인지 확실하지 않다. 확률: 배송 0.70, 환불 0.20, 기타 0.10처럼 표현한다.

따라서 확률은 불확실성 그 자체가 아니라, 불확실성을 계산하고 비교하기 위한 표현 방식입니다.

같은 장면을 더 짧게 말하면 불확실성은 아직 답을 확정하지 못한 상태이고, 확률은 그 상태를 숫자로 적어 놓은 표현입니다. 즉 무엇이 맞는지 아직 모른다는 판단이 먼저 있고, 그다음에 배송 0.70, 환불 0.20처럼 숫자로 비교하는 단계가 옵니다.

0.70이라는 숫자는 얼마나 믿을 수 있을까

모델이 어떤 후보에 0.70을 붙였다고 해서, 그 숫자가 언제나 실제 세계의 70% 빈도와 잘 맞는다는 뜻은 아닙니다. scikit-learn 문서는 분류(classification)에서 클래스 라벨뿐 아니라 그 라벨의 확률을 얻고 싶을 때가 많지만, 어떤 모델은 클래스 확률을 잘못 추정할 수 있다고 설명합니다.

여기서 보정(calibration)이라는 질문이 생깁니다.

모델이 0.70이라고 말한 사례들을 모아 보면 실제로 약 70%가 맞는가?

잘 보정된 분류기(well-calibrated classifier)는 예측 확률을 신뢰 수준(confidence level)으로 읽을 수 있게 해 줍니다. 예를 들어 어떤 이진 분류기가 여러 샘플에 대해 0.80에 가까운 값을 냈다면, 그 샘플들 중 실제 양성 클래스가 대략 80%에 가까운지 확인할 수 있습니다. 이 생각은 뒤에서 분류 모델, confidence, calibration을 다룰 때 다시 필요해집니다.

따라서 이 절의 고객 문의 예시에서 배송 0.70은 다음처럼 조심해서 읽어야 합니다.

성급한 해석 더 안전한 해석
배송이 70% 참이다 현재 정보와 모델 기준에서 배송 후보가 0.70으로 평가되었다
모델이 70%라 했으니 믿어도 된다 그 모델의 확률 출력이 보정되어 있는지 따로 확인해야 한다
0.70은 절대적 신뢰도다 데이터, 모델, 평가 방식에 따라 의미가 달라질 수 있다

근거(evidence)는 믿음을 바꾸는 관측 정보다

Poole과 Mackworth는 에이전트가 관측한 정보를 근거(evidence)로 보고, 이 근거(evidence)를 바탕으로 사전 확률(prior probability)을 사후 확률(posterior probability)로 갱신하는 관점을 설명합니다.

고객 문의 예시로 바꾸면 다음과 같습니다.

단계 예시
사전 판단 “조회가 안 됩니다.”만 보면 배송 문의일 가능성이 높음
추가 근거(evidence) 결제 로그에 중복 결제가 있음
갱신된 판단 단순 배송 문의가 아니라 결제 문제도 함께 고려해야 함

여기서는 베이즈 규칙(Bayes' rule)을 계산하지 않습니다. 중요한 것은 새 관측이 들어오면 판단의 그럴듯함이 바뀔 수 있다는 점입니다.

관측이 바뀌면 가능한 결론의 그럴듯함도 바뀔 수 있다.

확률적 과정(stochastic)은 과정에 확률적 변동이 있는 성질이다

확률적 과정 또는 확률적 성질(stochastic)은 한국어로 보통 확률적이라고 번역됩니다. 하지만 확률(probability)과 같은 말은 아닙니다.

영어 표현 한국어 표현 중심 의미
probability 확률 불확실성을 나타내는 숫자나 분포
probabilistic 확률적 확률을 사용해 표현하거나 계산하는
stochastic 확률적 과정 또는 확률적 성질 과정, 행동, 결과에 확률적 변동이 포함된

Poole과 Mackworth는 어떤 행동이 확률적 과정(stochastic process)처럼 동작할 수 있다고 설명합니다. 예를 들어 로봇이 이동할 때 목표 지점을 약간 지나칠 수 있고, 학생에게 어떤 내용을 가르쳐도 학생이 반드시 그 내용을 배우는 것은 아닐 수 있습니다.

이 예시는 확률적 과정(stochastic)을 이해하는 데 좋습니다.

같은 행동을 해도 항상 같은 결과가 보장되지 않는 과정

예를 들어 다음과 같습니다.

상황 확률적 과정(stochastic)으로 볼 수 있는 이유
로봇 이동 같은 명령을 내려도 마찰, 센서, 바닥 상태 때문에 위치가 조금 달라질 수 있음
사용자 반응 같은 추천을 보여 줘도 사용자가 클릭할지 확실하지 않음
LLM 응답 생성 생성 설정과 샘플링 방식에 따라 같은 프롬프트에서도 다른 표현이 나올 수 있음

단, 확률적 과정(stochastic)이라고 해서 “아무렇게나 한다”는 뜻은 아닙니다. 확률적 규칙이나 분포를 따르는 변동이 있다는 뜻에 가깝습니다.

무작위(random), 확률적 과정(stochastic), 비결정적(nondeterministic)은 조심해서 쓴다

한국어에서는 무작위, 확률적, 비결정적을 섞어 쓰기 쉽습니다. 하지만 AI 문서에서는 구분하는 편이 안전합니다.

영어 표현 한국어 표현 이 책에서의 우선 의미 주의점
random 무작위 무작위 또는 임의 선택 분포나 규칙이 없는 혼란이라는 뜻으로 쓰지 않음
stochastic 확률적 과정 또는 확률적 성질 확률적 변동을 포함한 과정 같은 입력에도 결과가 달라질 수 있지만 구조가 없다는 뜻은 아님
nondeterministic 비결정적 같은 상태와 입력에서 하나의 결과로 고정되지 않음 확률 분포가 명시되지 않을 수도 있음
probabilistic 확률적 확률로 표현하거나 계산함 확률적 과정(stochastic process)의 모델링 방식일 수 있음

예를 들어 LLM이 같은 프롬프트에 대해 다른 답을 낼 수 있다고 해서, 그것을 곧바로 “아무렇게나 답한다”고 표현하면 부정확합니다. 더 안전한 표현은 다음입니다.

생성 설정과 샘플링 방식에 따라 출력이 달라질 수 있다.

한국어 표현: 불확실성과 불확정성

한국어 자료나 대화에서는 때때로 불확정성이라는 표현이 함께 등장합니다. 이 책에서는 AI 일반 설명에서 우선 불확실성(uncertainty)을 사용하겠습니다.

불확실성은 정보가 부족하거나 관측이 불완전해서 확실히 알 수 없는 상태를 설명하기 좋습니다. 반면 불확정성은 한국어에서 물리학의 불확정성 원리 같은 표현과 연결되어 읽힐 수 있습니다.

따라서 이 책의 기본 원칙은 다음과 같습니다.

한국어 표현 영어 병기 사용 기준
불확실성 uncertainty AI 일반 문맥에서 모르는 상태, 부분 관측, 잡음, 예측 불확실성을 설명
확률 probability 불확실성을 0과 1 사이의 숫자나 분포로 표현
확률적 probabilistic, stochastic 확률을 사용하거나, 과정에 확률적 변동이 있음을 설명
불확정성 별도 확인 필요 특정 학문 분야의 용어가 아니라면 일반 AI 설명에서는 피함

이 기준의 목적은 한국어를 억지로 통제하려는 것이 아니라, 초심자가 용어를 보고 서로 다른 층위를 섞어 읽지 않게 하는 데 있습니다. 여기서는 지금 이 문장이 모르는 상태를 말하는가, 숫자 표현을 말하는가, 과정의 변동을 말하는가를 한 번 더 확인하는 습관이 중요합니다.

같은 예시로 다시 보기

고객 문의를 다시 보겠습니다.

“어제 주문했는데 아직 조회가 안 됩니다.”

관점 설명
불확실성(uncertainty) 실제 원인이 배송 지연인지, 시스템 반영 지연인지, 결제 문제인지 모름
확률(probability) 현재 정보로는 배송 0.70, 결제 0.20, 기타 0.10처럼 표현할 수 있음
근거(evidence) 주문 시간, 결제 로그, 택배사 연동 상태 같은 추가 관측
확률적 과정(stochastic) 배송 시간이나 사용자 응답처럼 결과가 확률적으로 달라질 수 있는 과정

이 구분을 유지하면 “AI가 확률적으로 동작한다”는 말을 더 정확히 읽을 수 있습니다. 어떤 부분은 정보가 부족해서 불확실성(uncertainty)을 갖고, 어떤 부분은 확률(probability)로 표현되며, 어떤 과정은 확률적 과정(stochastic process)처럼 설계되거나 관측될 수 있습니다.

체크리스트

  • 불확실성(uncertainty)을 숫자가 아니라 모르는 상태로 설명할 수 있다.
  • 확률(probability)을 불확실성을 표현하고 갱신하는 숫자 언어로 설명할 수 있다.
  • 근거(evidence)가 판단을 갱신하는 관측 정보라는 점을 설명할 수 있다.
  • 확률적 과정(stochastic)을 과정이나 행동에 확률적 변동이 포함된 성질로 설명할 수 있다.
  • 무작위(random), 확률적 과정(stochastic), 비결정적(nondeterministic), 확률적(probabilistic)을 같은 말처럼 쓰지 않아야 함을 설명할 수 있다.
  • AI 일반 문맥에서는 불확정성보다 불확실성(uncertainty)을 우선 사용해야 함을 설명할 수 있다.
  • 현재 문장이 상태를 말하는지, 숫자 표현을 말하는지, 과정의 성질을 말하는지 구분할 수 있다.
  • 더 관측하면 줄어드는 모름과 과정 자체에 남는 변동성을 구분할 수 있다.

출처와 참고 자료