P2-2.3 극한(limit)과 변화의 직관¶

Section ID: P2-2.3 Version: v2026.09.08

극한(limit)은 입력이 어떤 값에 가까워질 때 함수값이 어디로 가까워지는지를 나타냅니다.

극한(limit)은 “값을 정확히 대입한다”는 감각과 조금 다릅니다. 어떤 값에 가까워질 때 함수(function)의 결과가 어디로 가까워지는지 보는 표기입니다. AI 문서에서는 극한 자체보다, 극한이 이어 주는 변화율(rate of change), 미분(derivative), 그래디언트(gradient), 최적화(optimization)의 직관이 더 자주 필요합니다.

입력과 함수값의 변화¶

다음 함수에서 입력을 2에 가까운 값으로 바꿔 봅니다.

x = 2 근처에서 값을 조금씩 움직여 봅니다.

x가 2에 가까워질수록 f(x)는 4에 가까워지고, f(2)와의 차이는 작아집니다.

대입과 주변 값¶

극한 표기의 구성¶

극한 표기에는 가까워지는 입력, 관찰하는 함수, 함수값이 가까워지는 값이 들어 있습니다.

이 한 줄에는 네 가지 정보가 들어 있습니다.

• \(\lim\): 가까워지는 경향을 보겠다는 표시입니다.
• \(x \to a\): 입력 \(x\)가 \(a\)로 가까워진다는 뜻입니다.
• \(f(x)\): 그때 관찰할 함수값(function value)입니다.
• \(L\): 함수값이 가까워지는 목표값입니다.

이렇게 나누어 보면 극한은 “어려운 계산 기호”라기보다, 가까워지는 상황을 관찰하는 문장처럼 읽을 수 있습니다.

1. x가 a에 가까워집니다.
2. 그때 f(x)를 봅니다.
3. f(x)가 L에 가까워지는지 확인합니다.

이 관점에서 중요한 것은 “가까워진다”와 “같다”를 구분하는 것입니다. 극한은 주변에서 보이는 경향을 읽는 표기입니다. 특정 지점에서 실제로 정의되는지, 그 값을 직접 넣을 수 있는지는 별도로 확인해야 합니다.

수렴은 가까워지는 현상이다¶

한국어 수학 표현에서 자주 만나는 말로 수렴(convergence)이 있습니다. 수렴은 값들이 어떤 하나의 값에 점점 가까워지는 현상을 말합니다.

값들이 하나의 값에 가까워지면, 그 값으로 수렴한다고 말할 수 있습니다.

극한(limit)은 이런 수렴이 일어나는지, 일어난다면 어떤 값으로 가까워지는지를 표현하고 확인하는 데 쓰입니다. 그래서 다음 문장은 자연스럽습니다.

즉 x가 a에 가까워질 때 f(x)는 L로 수렴한다고 읽습니다.

다만 극한과 수렴을 완전히 같은 말로 쓰면 안 됩니다. 수렴은 가까워지는 현상이고, 극한은 그 가까워지는 값을 표현하거나 확인하는 개념과 표기입니다. 값들이 하나의 값으로 가까워지지 않으면 수렴하지 않는다고 말하고, 그 경우에는 해당 방식의 극한값을 말하기 어렵습니다.

간단한 극한 풀이¶

극한은 짧은 식을 직접 풀어 보며 감각을 만듭니다. 가장 쉬운 경우는 직접 대입해도 문제가 없는 함수입니다.

이 식은 \(x\)가 2에 가까워질 때 \(x+1\)이 어디로 가까워지는지 묻습니다. 이 경우에는 \(x=2\)를 직접 넣어도 문제가 없습니다.

따라서 다음처럼 쓸 수 있습니다.

이 경우에는 \(x\)가 2에 가까워질 때 \(x+1\)이 3으로 수렴한다고 말할 수 있습니다.

하지만 모든 극한이 이렇게 끝나지는 않습니다. 다음 식은 \(x=1\)을 바로 넣으면 분모가 0이 됩니다.

이때는 먼저 식을 정리해 봅니다.

\(x\)가 정확히 1이 아닌 주변 값에서는 \(x-1\)을 약분해 다음처럼 볼 수 있습니다.

그러면 \(x\)가 1에 가까워질 때 \(x+1\)은 2에 가까워집니다.

이 경우에도 \(x\)가 정확히 1일 때의 대입값을 말하는 것이 아니라, \(x\)가 1에 가까워질 때 식의 값이 2로 수렴한다는 점을 보는 것입니다.

여기서 핵심은 “분모가 0이면 무조건 계산 불가”라고 멈추지 않는 것입니다. 직접 대입이 안 되면, 주변에서 같은 형태로 볼 수 있는지 정리하고 가까워지는 값을 확인합니다.

입력 변화와 변화율¶

AI 학습에서 중요한 것은 함수값이 어떻게 변하는지입니다. 입력이 조금 바뀌면 출력이 얼마나 바뀌는지, 파라미터(parameter)가 조금 바뀌면 손실(loss)이 얼마나 바뀌는지가 중요해집니다.

아주 단순한 함수가 있다고 해 봅니다.

\(x\)가 2일 때 함수값은 다음과 같습니다.

이제 \(x\)를 조금 늘려 봅니다.

입력은 \(0.1\)만큼 변했고, 함수값은 \(0.41\)만큼 변했습니다.

1. 입력은 2에서 2.1로 변합니다.
2. 출력은 4에서 4.41로 변합니다.

이런 관찰은 변화율(rate of change)의 출발점입니다.

이 식은 “입력이 변한 양에 비해 함수값이 얼마나 변했는가”를 봅니다.

입력 변화량을 줄여 가며 변화율을 계산하면 다음과 같습니다.

구간을 점점 줄일수록 변화율이 4에 가까워집니다. 입력 변화량이 0.1일 때는 4.1, 0.01일 때는 4.01, 0.001일 때는 4.001입니다.

변화율의 극한¶

미분(derivative)은 아주 작은 변화에서의 변화율을 보려는 개념입니다. 평균적인 변화율을 더 작은 구간으로 좁혀 가면, 한 지점 근처에서 함수가 어느 방향으로 얼마나 변하는지 볼 수 있습니다.

앞의 f(x) = x^2 예시에서는 x = 2 근처 구간을 점점 줄였을 때 변화율이 4에 가까워졌습니다. 이 장면 하나가 극한과 미분의 연결을 가장 짧게 보여 줍니다.

1. 먼저 입력이 어떤 값에 가까워집니다.
2. 그때 함수값이 어디로 가까워지는지 봅니다.
3. 다음에는 변화 비율이 어디로 가까워지는지도 봅니다.
4. 이 질문이 순간 변화율과 미분으로 이어집니다.

이 식은 \(x\)에서 \(h\)만큼 움직였을 때 함수값이 얼마나 바뀌는지 봅니다. 여기서 \(h\)를 0에 가깝게 보내면 한 지점 근처의 변화율을 생각할 수 있습니다.

이 극한값이 존재하면 해당 지점에서의 순간 변화율, 즉 미분값이 됩니다.

파라미터 변화와 손실¶

머신러닝과 딥러닝에서 학습(learning)은 보통 손실(loss)을 줄이는 방향으로 파라미터(parameter)를 조정하는 과정으로 설명됩니다. 이때 중요한 질문은 다음과 같습니다.

• 파라미터를 조금 바꾸면 손실은 어떻게 변하는가?
• 손실이 줄어드는 방향은 어디인가?
• 너무 크게 바꾸면 어떤 문제가 생기는가?

이 질문들은 변화율과 그래디언트(gradient)로 이어집니다. 극한은 이 변화율을 더 정밀하게 생각하기 위한 표기입니다.

간단히 말하면 함수값이 변하면 변화량을 비교하고, 변화율을 보며, 아주 작은 변화의 경향을 읽고, 그 흐름이 미분과 그래디언트로 이어져 결국 손실을 줄이는 방향을 찾게 됩니다.

체크리스트¶

• 극한(limit)을 가까워지는 과정을 보는 표기로 설명할 수 있다.
• \(x \to a\), \(h \to 0\), \(f(x) \to L\)의 의미를 구분할 수 있다.
• 극한과 단순 대입(substitution)이 항상 같은 뜻은 아님을 설명할 수 있다.
• 수렴(convergence)을 값들이 하나의 값에 가까워지는 현상으로 설명하고, 극한(limit)과 같은 말로 단정하지 않을 수 있다.
• 작은 변화량(change)과 변화율(rate of change)의 관계를 설명할 수 있다.
• 극한이 미분(derivative), 그래디언트(gradient), 최적화(optimization)를 읽는 준비가 되는 이유를 말할 수 있다.
• 간단한 극한 식을 직접 대입하거나 식을 정리해 가까워지는 값을 계산할 수 있다.
• 극한을 단순 대입과 구분하고, 작은 변화의 경향을 읽는 언어로 설명할 수 있다.

출처와 참고 자료¶

• Marc Peter Deisenroth, A. Aldo Faisal, Cheng Soon Ong, Mathematics for Machine Learning, Cambridge University Press, 2020, 확인 날짜: 2026-07-19.
• Ian Goodfellow, Yoshua Bengio, Aaron Courville, Deep Learning, MIT Press, 2016, 확인 날짜: 2026-07-19.
• Catherine F. Higham, Desmond J. Higham, Deep Learning: An Introduction for Applied Mathematicians, arXiv, 2018, 확인 날짜: 2026-07-19.
• OpenStax, Calculus Volume 1, 2.2 The Limit of a Function, Rice University, 확인 날짜: 2026-07-19. 표와 주변 값으로 극한을 추정하는 설명을 확인하는 참고 자료입니다.
• OpenStax, Calculus Volume 1, 3.1 Defining the Derivative, Rice University, 확인 날짜: 2026-07-19. 변화율과 차분몫의 극한을 미분 직관으로 연결하는 부분의 참고 자료입니다.