콘텐츠로 이동

P2-2.4 로그(log)와 지수(exp)는 왜 반복해서 등장하는가

Section ID: P2-2.4 Version: v2026.07.20

극한(limit)까지 다시 읽고 나면, 뒤의 머신러닝과 딥러닝 설명에서 또 자주 막히는 표기가 남습니다. log, exp, e^x 같은 표현입니다. 이 표기들은 별도의 고급 수학 장식이 아니라, 값이 얼마나 빠르게 커지거나 줄어드는가, 곱셈 관계를 어떻게 더하기 관계로 바꿔 읽는가, 확률처럼 읽히는 점수를 어떻게 다루는가를 설명할 때 반복해서 등장합니다.

여기서는 로그(logarithm)와 지수(exponential)를 로지스틱 회귀(logistic regression), 로그 손실(log loss), 소프트맥스(softmax)를 읽기 위한 최소 계산 언어로 다시 붙잡습니다. 용어를 다시 빠르게 확인할 때는 개념사전도 함께 봅니다.

핵심 기준: 로그(log)와 지수(exp)는 왜 반복해서 등장하는가

  • exp(x)를 e의 거듭제곱으로 읽을 수 있습니다.
  • log(x)를 지수의 반대 방향으로 읽는 함수라고 설명할 수 있습니다.
  • 지수는 반복 비율 변화, 로그는 그 비율을 다시 읽는 도구라는 감각을 잡을 수 있습니다.
  • 곱셈 관계를 로그 공간에서 더하기 관계로 읽는 이유를 말할 수 있습니다.
  • 로그와 지수가 로지스틱 회귀(logistic regression), 활성화 함수(activation function), 소프트맥스(softmax) 설명에서 왜 반복해서 등장하는지 설명할 수 있습니다.

먼저 붙잡을 한 장면

이 절에서 가장 먼저 붙잡아야 할 장면은 아래 네 줄입니다.

표현 지금 먼저 읽는 방식 뒤에서 다시 만날 자리
exp(2) \approx 7.39 점수 2를 더 큰 비중으로 벌리는 계산 sigmoid, softmax
log(exp(2)) = 2 지수 공간으로 보낸 값을 다시 원래 축으로 읽기 logit, log-odds
0.9 x 0.8 x 0.7 = 0.504 확률을 직접 곱하면 값이 빨리 작아짐 likelihood, joint probability
log(0.9) + log(0.8) + log(0.7) 곱셈을 더하기로 바꿔 읽기 log loss, log-likelihood

즉 로그와 지수는 별도 수학 장식이 아니라, 점수 -> 비율 -> 확률 같은 값 -> 손실로 넘어갈 때 계산을 읽기 좋게 바꾸는 언어입니다.

세 가지 기준

기준 왜 중요한가 이 절에서 필요한 이해 수준
지수는 같은 비율의 반복을 적는 언어다 선형 증가와 비율 증가를 섞지 않게 해 주기 때문입니다. e^x가 커짐의 속도를 표현한다고 이해합니다.
로그는 지수의 반대 방향으로 읽는다 log를 새 기호로 외우지 않고 거꾸로 읽는 함수로 볼 수 있기 때문입니다. exp와 log가 서로 반대 역할이라고 이해합니다.
로그와 지수는 뒤 Part의 점수 해석 언어다 손실, 확률, softmax가 갑자기 낯선 기호로 보이지 않게 해 주기 때문입니다. 뒤에서 왜 반복해서 나오는지 연결만 잡으면 충분합니다.

지수는 같은 비율의 반복 변화다

덧셈이 같은 양을 반복해서 더하는가를 보기 좋게 만든다면, 지수는 같은 비율로 반복해서 커지거나 줄어드는가를 보기 좋게 만든다고 볼 수 있습니다.

\[ e^x \]

이 표기는 e를 밑(base)으로 하는 지수 함수입니다. 여기서 중요한 것은 x가 조금만 커져도 값의 증가 방식이 선형(linear)과는 다르게 빨라진다는 점입니다.

예를 들어 x가 1, 2, 3으로 늘 때:

  • x는 1씩 선형적으로 늘어납니다.
  • e^x는 같은 1 증가라도 더 큰 비율로 커집니다.

그래서 지수는 작은 차이가 뒤로 갈수록 더 큰 차이로 벌어지는 구조를 읽을 때 자주 등장합니다.

같은 양을 더하는 변화와 같은 비율로 커지는 변화를 나란히 놓아 보면 차이가 더 분명합니다.

단계 선형 증가 예: 매번 +10 비율 증가 예: 매번 x1.1
시작 100 100
1단계 뒤 110 110
2단계 뒤 120 121
3단계 뒤 130 133.1

처음에는 두 변화가 비슷해 보여도, 단계가 늘수록 비율 증가는 점점 더 빨라집니다. 지수 함수는 바로 이런 비율 변화의 언어입니다.

로그는 지수를 거꾸로 읽는다

로그(log)는 이 값이 나오려면 지수 쪽에서 얼마를 넣었어야 하는가를 거꾸로 묻는 함수입니다.

\[ \log(x) \]

를 보면, 어떤 지수값을 넣었더니 x가 되었는가를 다시 읽는다고 생각하면 됩니다.

예를 들어:

  • exp(2)는 e^2입니다.
  • log(e^2)는 다시 2로 돌아옵니다.

즉 로그와 지수는 서로 반대 방향의 함수입니다.

앞에서 읽는 방식 뒤에서 거꾸로 읽는 방식
exp(x) log(x)
얼마나 비율적으로 커지는가 그 값을 만들려면 지수 쪽에서 얼마였는가

이 감각을 가장 짧게 확인하는 값은 다음 세 가지입니다.

식 읽는 방법
exp(0) = 1 지수 쪽 입력이 0이면 기준 크기 1로 돌아갑니다.
log(1) = 0 1은 지수 변화가 아직 적용되지 않은 기준점으로 읽을 수 있습니다.
log(exp(x)) = x 지수로 보낸 값을 로그가 다시 원래 축으로 돌려놓습니다.

왜 곱셈이 로그를 만나면 더하기처럼 보이는가

로그가 자주 쓰이는 이유는 계산 구조를 더 읽기 쉬운 형태로 바꾸기 때문입니다.

  • 곱셈은 로그 공간에서 더하기처럼 읽힙니다.
  • 나눗셈은 로그 공간에서 빼기처럼 읽힙니다.

초심자에게 중요한 것은 공식을 외우는 것이 아니라, 매우 작거나 매우 큰 수의 곱을 다룰 때 로그가 계산을 덜 불안정하게 만들고 비교를 더 쉽게 만든다는 감각입니다.

예를 들어 확률 세 개를 곱한다고 해 봅시다.

\[ 0.9 \times 0.8 \times 0.7 = 0.504 \]

값이 더 많아지면 이런 곱은 빠르게 작아집니다. 그런데 로그를 취하면 곱을 합으로 읽게 됩니다.

\[ \log(0.9 \times 0.8 \times 0.7) = \log(0.9) + \log(0.8) + \log(0.7) \]

이렇게 바꾸면 여러 항의 기여를 더 분해해서 볼 수 있습니다. 그래서 확률을 직접 곱하는 장면보다, 로그를 취해 손실이나 점수로 읽는 장면이 머신러닝에서 더 자주 나타납니다.

여기서 독자가 바로 붙잡아야 할 질문은 하나입니다.

지금 보는 장면 먼저 던질 질문
값이 단계마다 x1.1, x1.2처럼 커진다 같은 양 증가인가, 같은 비율 증가인가
작은 확률 여러 개를 계속 곱한다 너무 작은 값이 되어 읽기 어려워지지 않는가
점수를 확률처럼 바꾸려 한다 지수로 상대적 비중을 먼저 키우는가
틀린 확률 예측을 강하게 벌주려 한다 로그로 확률 차이를 더 민감하게 읽는가

이 관점은 뒤의 모델 설명에서 특히 중요합니다.

  • Part 4에서는 로그 손실(log loss)이 확률 예측을 왜 그렇게 벌주는지 읽을 때 필요합니다.
  • Part 6에서는 softmax가 여러 점수를 왜 확률처럼 읽히는 값으로 바꾸는지 따라갈 때 필요합니다.

이 계산이 다시 보이는 장면

로그와 지수는 지금 이 절에서 모두 끝나지 않습니다. 다만 아래 장면에서 갑자기 낯설어지지 않게 최소 준비를 해 둡니다.

뒤에서 다시 만나는 장면 여기서 먼저 남겨 둘 감각
로지스틱 회귀의 sigmoid 점수를 0과 1 사이 값으로 바꾸는 데 지수 함수가 쓰일 수 있습니다.
로그 손실(log loss) 확률을 틀리게 자신한 경우를 더 크게 벌주는 언어가 로그입니다.
softmax 여러 점수를 비교 가능한 확률처럼 다시 읽는 과정에 지수와 로그 감각이 들어갑니다.

따라서 이 절의 핵심은 로그와 지수는 수학 시험용 주제가 아니라 점수 해석 언어라는 점입니다.

아주 짧은 계산 예시

같은 선형 점수라도 바로 확률처럼 읽을 수는 없습니다. 그래서 뒤에서는 이런 식의 전환이 등장합니다.

  1. 먼저 점수(score)를 계산합니다.
  2. 그 점수를 지수 함수로 바꾸거나 로그 손실로 읽습니다.
  3. 그 결과를 확률처럼 비교하거나 손실로 묶습니다.

예를 들어 두 후보의 점수가 2와 1이라면, 점수 차이는 1이지만 그 자체로는 확률이 아닙니다. 여기서 지수를 취하면:

\[ e^2 \approx 7.39,\quad e^1 \approx 2.72 \]

가 되어 더 큰 점수 쪽에 훨씬 큰 비중이 실립니다. 이 값을 다시 합으로 나누면 softmax처럼 비교 가능한 비율로 읽을 준비가 됩니다.

이 장면을 표로 더 짧게 다시 쓰면 다음과 같습니다.

단계 계산 무엇을 읽는가
원래 점수 2, 1 아직 확률이 아니라 단순 점수
지수 적용 exp(2) \approx 7.39, exp(1) \approx 2.72 큰 점수에 더 큰 비중 부여
합으로 정규화 7.39 / (7.39 + 2.72) 비교 가능한 비율로 바뀔 준비

반대로 정답 확률을 0.9로 잘 맞힌 경우와 0.1로 크게 틀린 경우를 로그로 읽으면, 틀린 쪽이 훨씬 큰 불이익을 받습니다. 이것이 로그 손실(log loss)이 틀리게 자신한 예측을 더 강하게 벌주는 이유입니다.

같은 기준으로 -log(p)를 보면:

정답 확률 p -log(p)의 느낌
0.9 손실이 작다
0.5 손실이 더 커진다
0.1 손실이 매우 커진다

즉 로그 손실은 틀린데도 자신감이 큰 예측을 더 강하게 벌주는 방향으로 작동합니다.

로그와 지수는 점수, 확률, 손실 사이를 오갈 때 계산을 읽기 좋게 바꾸는 언어입니다.

체크리스트

  • exp(x)를 e의 거듭제곱으로 읽을 수 있는가?
  • log(x)가 왜 지수를 거꾸로 읽는 함수인지 설명할 수 있는가?
  • 같은 양 증가와 같은 비율 증가의 차이를 말할 수 있는가?
  • 작은 확률 여러 개를 곱할 때 왜 로그를 취하면 읽기 쉬워지는지 설명할 수 있는가?
  • softmax와 log loss에서 로그와 지수가 왜 다시 등장하는지 말할 수 있는가?
  • 지수와 로그를 같은 비율 증가, 곱셈을 더하기로 바꾸는 읽기, 점수를 확률과 손실로 바꾸는 계산으로 연결해 설명할 수 있는가?

출처와 참고 자료

  • Python Software Foundation, math — Mathematical functions, Python 3 documentation. math.exp, math.log의 기본 뜻을 직접 확인할 수 있으므로, 지수와 로그를 계산 언어로 다시 읽는 이 절의 최소 기준을 뒷받침합니다. https://docs.python.org/3/library/math.html / 확인일: 2026-07-19
  • Google for Developers, Machine Learning Glossary. log loss, softmax, sigmoid 같은 뒤 Part 핵심 용어를 함께 확인할 수 있으므로, 로그와 지수가 왜 머신러닝 점수 해석 언어로 반복 등장하는지 이어 보는 참고점이 됩니다. https://developers.google.com/machine-learning/glossary / 확인일: 2026-07-19
  • OpenStax, Calculus Volume 1, 6.8 Exponential Growth and Decay, Rice University, 확인 날짜: 2026-07-19. 지수를 같은 비율의 변화로 읽는 설명을 보강하는 참고 자료입니다.
  • OpenStax, Calculus Volume 1, 1.5 Exponential and Logarithmic Functions, Rice University, 확인 날짜: 2026-07-19. 로그와 지수의 역함수 관계, 로그의 곱셈-덧셈 성질을 확인하는 참고 자료입니다.