P2-2.4 로그(log)와 지수(exp)는 왜 반복해서 등장하는가¶

Section ID: P2-2.4 Version: v2026.09.08

머신러닝과 딥러닝 수식에는 log, exp, e^x 같은 표현이 자주 나옵니다. 이 표기들은 별도의 고급 수학 장식이 아니라, 값이 얼마나 빠르게 커지거나 줄어드는가, 곱셈 관계를 어떻게 더하기 관계로 바꿔 읽는가, 확률처럼 읽히는 점수를 어떻게 다루는가를 설명할 때 반복해서 등장합니다.

로그와 지수는 로지스틱 회귀(logistic regression), 로그 손실(log loss), 소프트맥스(softmax) 계산에 쓰입니다.

지수와 로그의 계산¶

표현	계산의 의미	사용 예
`exp(2) \approx 7.39`	점수 2를 더 큰 비중으로 벌리는 계산	`sigmoid`, `softmax`
`log(exp(2)) = 2`	지수 공간으로 보낸 값을 다시 원래 축으로 읽기	logit, log-odds
`0.9 x 0.8 x 0.7 = 0.504`	확률을 직접 곱하면 값이 빨리 작아짐	likelihood, joint probability
`log(0.9) + log(0.8) + log(0.7)`	곱셈을 더하기로 바꿔 읽기	log loss, log-likelihood

즉 로그와 지수는 별도 수학 장식이 아니라, 점수 -> 비율 -> 확률 같은 값 -> 손실로 넘어갈 때 계산을 읽기 좋게 바꾸는 언어입니다.

같은 양과 같은 비율¶

덧셈이 같은 양을 반복해서 더하는가를 보기 좋게 만든다면, 지수는 같은 비율로 반복해서 커지거나 줄어드는가를 보기 좋게 만든다고 볼 수 있습니다.

\[ e^x \]

이 표기는 e를 밑(base)으로 하는 지수 함수입니다. 여기서 중요한 것은 x가 조금만 커져도 값의 증가 방식이 선형(linear)과는 다르게 빨라진다는 점입니다.

예를 들어 x가 1, 2, 3으로 늘 때:

x는 1씩 선형적으로 늘어납니다.
e^x는 매번 같은 비율인 e배로 커지므로, 늘어나는 양은 점점 커집니다.

그래서 지수는 작은 차이가 뒤로 갈수록 더 큰 차이로 벌어지는 구조를 읽을 때 자주 등장합니다.

같은 양을 더하는 변화와 같은 비율로 커지는 변화를 나란히 놓아 보면 차이가 더 분명합니다.

단계	선형 증가 예: 매번 `+10`	비율 증가 예: 매번 `x1.1`
시작	100	100
1단계 뒤	110	110
2단계 뒤	120	121
3단계 뒤	130	133.1

처음에는 두 변화가 비슷해 보여도, 단계가 늘수록 비율 증가는 점점 더 빨라집니다. 지수 함수는 바로 이런 비율 변화의 언어입니다.

지수와 로그의 역관계¶

여기서 log는 밑이 e인 자연로그입니다. 로그(log)는 이 값이 나오려면 지수 쪽에서 얼마를 넣었어야 하는가를 거꾸로 묻는 함수입니다.

\[ \log(x) \]

를 보면, 어떤 지수값을 넣었더니 x가 되었는가를 다시 읽는다고 생각하면 됩니다.

예를 들어:

exp(2)는 e^2입니다.
log(e^2)는 다시 2로 돌아옵니다.

즉 로그와 지수는 서로 반대 방향의 함수입니다.

앞에서 읽는 방식	뒤에서 거꾸로 읽는 방식
`exp(x)`	`log(x)`
`얼마나 비율적으로 커지는가`	`그 값을 만들려면 지수 쪽에서 얼마였는가`

지수와 로그에 0과 1을 넣으면 다음 관계를 확인할 수 있습니다.

식	읽는 방법
`exp(0) = 1`	지수 쪽 입력이 0이면 기준 크기 1로 돌아갑니다.
`log(1) = 0`	1은 지수 변화가 아직 적용되지 않은 기준점으로 읽을 수 있습니다.
`log(exp(x)) = x`	지수로 보낸 값을 로그가 다시 원래 축으로 돌려놓습니다.

곱의 로그와 로그의 합¶

로그가 자주 쓰이는 이유는 계산 구조를 더 읽기 쉬운 형태로 바꾸기 때문입니다.

곱셈은 로그 공간에서 더하기처럼 읽힙니다.
나눗셈은 로그 공간에서 빼기처럼 읽힙니다.

작은 확률들을 직접 곱하는 대신 로그값을 더하면, 곱한 결과가 컴퓨터에서 표현하기 어려울 만큼 작아지는 문제를 줄일 수 있습니다.

예를 들어 확률 세 개를 곱한다고 해 봅시다.

\[ 0.9 \times 0.8 \times 0.7 = 0.504 \]

값이 더 많아지면 이런 곱은 빠르게 작아집니다. 그런데 로그를 취하면 곱을 합으로 읽게 됩니다.

\[ \log(0.9 \times 0.8 \times 0.7) = \log(0.9) + \log(0.8) + \log(0.7) \]

이렇게 바꾸면 여러 항의 기여를 더 분해해서 볼 수 있습니다. 그래서 확률을 직접 곱하는 장면보다, 로그를 취해 손실이나 점수로 읽는 장면이 머신러닝에서 더 자주 나타납니다.

지금 보는 장면	먼저 던질 질문
값이 단계마다 `x1.1`, `x1.2`처럼 커진다	같은 양 증가인가, 같은 비율 증가인가
작은 확률 여러 개를 계속 곱한다	너무 작은 값이 되어 읽기 어려워지지 않는가
점수를 확률처럼 바꾸려 한다	지수로 상대적 비중을 먼저 키우는가
틀린 확률 예측을 강하게 벌주려 한다	로그로 확률 차이를 더 민감하게 읽는가

점수의 정규화와 로그 손실¶

점수를 확률처럼 비교하려면 값의 범위와 합을 조정해야 합니다.

먼저 점수(score)를 계산합니다.
그 점수를 지수 함수로 바꾸거나 로그 손실로 읽습니다.
그 결과를 확률처럼 비교하거나 손실로 묶습니다.

예를 들어 두 후보의 점수가 2와 1이라면, 점수 차이는 1이지만 그 자체로는 확률이 아닙니다. 여기서 지수를 취하면:

\[ e^2 \approx 7.39,\quad e^1 \approx 2.72 \]

가 됩니다. 각 값을 두 값의 합으로 나누면 약 0.731과 0.269가 되어 합이 1인 비율을 얻습니다. 이것이 두 점수에 softmax를 적용한 결과입니다.

이 장면을 표로 더 짧게 다시 쓰면 다음과 같습니다.

단계	계산	무엇을 읽는가
원래 점수	`2`, `1`	아직 확률이 아니라 단순 점수
지수 적용	`exp(2) \approx 7.39`, `exp(1) \approx 2.72`	큰 점수에 더 큰 비중 부여
합으로 정규화	`7.39 / (7.39 + 2.72)`	약 `0.731`의 비율

반대로 정답 확률을 0.9로 잘 맞힌 경우와 0.1로 크게 틀린 경우를 로그로 읽으면, 틀린 쪽이 훨씬 큰 불이익을 받습니다. 이것이 로그 손실(log loss)이 틀리게 자신한 예측을 더 강하게 벌주는 이유입니다.

같은 기준으로 -log(p)를 보면:

정답 확률 `p`	`-log(p)`의 값
`0.9`	약 `0.105`
`0.5`	약 `0.693`
`0.1`	약 `2.303`

즉 로그 손실은 틀린데도 자신감이 큰 예측을 더 강하게 벌주는 방향으로 작동합니다.

로그와 지수는 점수, 확률, 손실 사이를 오갈 때 계산을 읽기 좋게 바꾸는 언어입니다.

체크리스트¶

exp(x)를 e의 거듭제곱으로 읽을 수 있는가?
log(x)가 왜 지수를 거꾸로 읽는 함수인지 설명할 수 있는가?
같은 양 증가와 같은 비율 증가의 차이를 말할 수 있는가?
작은 확률 여러 개를 곱할 때 왜 로그를 취하면 읽기 쉬워지는지 설명할 수 있는가?
softmax와 log loss에서 로그와 지수가 왜 다시 등장하는지 말할 수 있는가?
지수와 로그를 같은 비율 증가, 곱셈을 더하기로 바꾸는 읽기, 점수를 확률과 손실로 바꾸는 계산으로 연결해 설명할 수 있는가?

출처와 참고 자료¶

Python Software Foundation, math — Mathematical functions, Python 3 documentation. math.exp, math.log의 기본 뜻을 직접 확인할 수 있으므로, 지수와 로그를 계산 언어로 다시 읽는 이 절의 최소 기준을 뒷받침합니다. https://docs.python.org/3/library/math.html / 확인일: 2026-09-08
Google for Developers, Machine Learning Glossary. log loss, softmax, sigmoid 같은 뒤 Part 핵심 용어를 함께 확인할 수 있으므로, 로그와 지수가 왜 머신러닝 점수 해석 언어로 반복 등장하는지 이어 보는 참고점이 됩니다. https://developers.google.com/machine-learning/glossary / 확인일: 2026-09-08
OpenStax, Calculus Volume 1, 6.8 Exponential Growth and Decay, Rice University, 확인 날짜: 2026-07-19. 지수를 같은 비율의 변화로 읽는 설명을 보강하는 참고 자료입니다.
OpenStax, Calculus Volume 1, 1.5 Exponential and Logarithmic Functions, Rice University, 확인 날짜: 2026-07-19. 로그와 지수의 역함수 관계, 로그의 곱셈-덧셈 성질을 확인하는 참고 자료입니다.