P2-1.1 AI 계산에서 수학이 하는 일¶

Section ID: P2-1.1 Version: v2026.07.20

Part 1에서는 AI를 규칙, 모델, 학습, 생성, 서비스 구조의 큰 지도 위에서 봤습니다. Part 2부터는 그 지도를 읽기 위한 기초를 복구합니다. 첫 질문은 AI를 다시 공부하려면 수학을 얼마나 알아야 하는가입니다.

이 절의 답은 단순하지 않습니다. 수학을 모두 증명할 필요는 없습니다. 하지만 수학 표기가 무엇을 표현하려는지 전혀 모르면, 모델(model), 데이터(data), 손실(loss), 확률(probability), 최적화(optimization), 임베딩(embedding)을 읽을 때 매번 막힙니다.

따라서 여기서 수학은 정답을 맞히기 위한 시험 과목이 아닙니다. AI 계산을 읽기 위한 언어(language), 구조(structure), 압축 표기(notation)로 다룹니다.

여기서 수학을 다시 보는 이유는 문제를 풀기 위한 시험 준비보다 Part 3과 Part 4에서 X, y, loss, metric 같은 표현을 읽기 위한 문해력 복구에 가깝습니다. 이 기준이 잡히면 뒤에서 벡터, 미분, 확률, 최적화가 왜 한 파트에 묶이는지도 함께 읽힙니다.

여기서는 수학의 역할, 계산 언어, 압축 표기(notation), 손실(loss), 최적화(optimization)를 다시 정리합니다. 뒤 절과 뒤 Chapter에서 개별 기호와 수학 주제가 본격적으로 나뉘기 전에, 왜 수학을 AI 계산 문해력의 일부로 다시 읽어야 하는가를 먼저 정리합니다.

먼저 붙잡을 공통 장면¶

Chapter 1에서는 작은 데이터 장면 하나를 계속 재사용합니다. 네 학생의 공부 시간과 퀴즈 점수가 다음과 같다고 해 봅시다.

학생	공부 시간 `x`	퀴즈 점수 `y`
A	1시간	55점
B	2시간	65점
C	3시간	80점
D	4시간	90점

이 장면은 뒤에서 여러 질문으로 다시 나타납니다.

평균을 구하면 점수의 중심이 어디쯤인지 볼 수 있습니다.
x와 y를 함께 보면 입력(input)과 출력(output)의 관계를 읽을 수 있습니다.
모델(model)을 붙이면 공부 시간이 늘수록 점수가 어떻게 달라질까를 예측(prediction) 문제로 바꿀 수 있습니다.
손실(loss)을 붙이면 예측이 실제 점수와 얼마나 다른가를 숫자로 계산할 수 있습니다.

즉 여기서 수학은 어려운 상징을 배우기 위한 별도 과목이 아니라, 이런 작은 표를 평균, 함수, 오차, 최적화의 언어로 다시 읽게 만드는 도구입니다. 독자가 뒤 Chapter에서 시그마, 벡터, 미분을 만나도 길을 잃지 않으려면, 먼저 수학은 결국 이런 데이터를 읽고 비교하고 조정하기 위한 언어라는 기준이 필요합니다.

핵심 기준: AI 계산에서 수학이 하는 일¶

AI에서 수학이 필요한 이유를 증명보다 표현과 계산의 관점에서 설명할 수 있습니다.
수식(formula)을 외워야 할 대상이 아니라 코드와 데이터로 다시 확인할 대상으로 볼 수 있습니다.
Part 2에서 다룰 수학 주제가 각각 어떤 목적을 갖는지 설명할 수 있습니다.
수학을 모른다는 부담을 줄이되, 수학 표기를 완전히 건너뛰면 생기는 한계를 이해할 수 있습니다.

세 가지 기준¶

여기서 먼저 필요한 것은 증명이 아니라 역할 구분입니다.

기준	왜 중요한가	이 절에서 필요한 이해 수준
수학은 `정답 시험`이 아니라 `계산 언어`라는 점	그래야 수식을 모두 풀지 못해도 문서를 읽는 출발점을 잡을 수 있습니다.	수식이 계산 구조를 줄여 적는 도구라는 점을 이해합니다.
수학은 `데이터의 모양`과 `학습의 방향`을 설명한다는 점	벡터, 행렬, 손실, 그래디언트가 왜 같은 파트에 나오는지 연결됩니다.	무엇을 표현하고 무엇을 줄이거나 바꾸는지 확인한다고 이해합니다.
수식은 결국 `코드와 결과`로 다시 확인해야 한다는 점	AI 학습에서는 수식만 읽고 끝나지 않기 때문입니다.	작은 코드가 어떤 계산을 확인하는지 읽는다고 이해합니다.

수학은 계산을 압축해서 보여 준다¶

AI 문서에서 수학은 긴 계산 절차를 짧게 압축합니다. 예를 들어 데이터가 여러 개 있을 때 평균을 구한다는 말은 일상어로도 설명할 수 있습니다. 평균을 구하는 절차를 문장으로 풀면 모든 값을 더하고, 그 합을 값의 개수로 나누는 순서입니다.

수식은 이 절차를 더 짧게 씁니다.

\[ \mathrm{mean} = \frac{x_1 + x_2 + \cdots + x_n}{n} \]

시그마(sigma)를 쓰면 더 압축됩니다.

\[ \mathrm{mean} = \frac{1}{n}\sum_{i=1}^{n}x_i \]

이 압축 표기는 낯설게 느껴질 수 있습니다. 그러나 AI와 머신러닝 문서에서 수식은 대부분 이런 역할을 합니다. 긴 반복 계산, 많은 데이터, 여러 파라미터(parameter), 손실의 합, 확률의 곱을 사람이 읽을 수 있는 짧은 형태로 적는 것입니다.

수식은 다음 질문으로 풀어 읽으면 됩니다.

무엇을 입력으로 받는가?
무엇을 더하거나 비교하는가?
무엇을 줄이거나 키우려 하는가?
결과가 코드에서는 어떤 변수로 나타나는가?

앞의 공부 시간-퀴즈 점수 표로 돌아가면, 평균 점수는 55, 65, 80, 90을 모두 더해 학생 수로 나누는 계산입니다. 수식은 그 반복을 짧게 적고, 뒤 절의 코드는 그 반복을 실제 실행 절차로 펼칩니다. 독자가 여기서 붙잡아야 할 것은 기호 자체보다 여러 값을 한 번에 다루는 반복 구조입니다.

수학은 데이터의 모양을 정한다¶

AI 모델은 현실의 문장, 이미지, 소리, 표를 그대로 다루지 않습니다. 대부분 숫자 배열(array), 벡터(vector), 행렬(matrix), 텐서(tensor) 같은 계산 가능한 형태로 바꿉니다.

문장은 토큰(token), 숫자 ID, 벡터(vector)로 이어지는 계산 단위로 바뀔 수 있습니다. 이미지는 픽셀 값 배열과 텐서(tensor)로, 표 데이터는 행(row)과 열(column)을 가진 행렬(matrix)이나 데이터프레임(DataFrame)으로 바뀔 수 있습니다.

여기서 수학은 “이 데이터가 어떤 모양인가”를 설명합니다. 벡터는 값의 목록이고, 행렬은 값을 행(row)과 열(column)로 배치한 구조입니다. 텐서는 더 많은 축(axis)을 가진 배열로 볼 수 있습니다.

이 관점은 Part 1의 임베딩과 벡터 검색을 다시 읽을 때 중요합니다. “텍스트를 벡터로 표현한다”는 말은 텍스트의 의미를 사람이 직접 좌표로 적는다는 뜻이 아닙니다. 모델과 검색 시스템이 계산할 수 있도록 텍스트를 숫자 공간 안의 표현(representation)으로 바꾼다는 뜻입니다.

같은 기준으로 앞의 표를 보면 x 열과 y 열도 결국 숫자 목록입니다. 사람에게는 공부 시간과 점수라는 이야기로 보이지만, 모델은 이를 입력 벡터와 출력 벡터 또는 작은 표 데이터로 읽습니다. 이 변환 감각이 없으면 나중에 X, y, shape, feature, target이 갑자기 새로운 주제처럼 느껴집니다.

수학은 학습이 바꾸는 것을 설명한다¶

AI에서 학습(learning)은 막연히 “똑똑해지는 과정”이 아닙니다. 보통은 모델의 파라미터(parameter)를 조정해 손실(loss)을 줄이는 과정으로 설명됩니다. 이 흐름을 순서대로 풀면 입력 데이터가 들어가고, 모델이 출력을 만든 뒤, 출력과 기준을 비교해 손실을 계산합니다. 그런 다음 손실이 줄어드는 방향으로 파라미터를 조정하고, 이 과정을 반복합니다.

이 흐름에는 여러 수학 개념이 붙습니다.

함수(function): 입력을 출력으로 바꾸는 관계를 표현합니다.
손실 함수(loss function): 모델이 얼마나 틀렸는지 숫자로 표현합니다.
미분(derivative)과 그래디언트(gradient): 값을 어느 방향으로 바꾸면 손실이 줄어드는지 찾습니다.
최적화(optimization): 더 나은 값을 반복적으로 찾습니다.
확률(probability)과 통계(statistics): 불확실한 데이터에서 패턴과 오차를 다룹니다.

여기서는 이 개념들을 직접 계산하기보다, 왜 이 개념들이 AI 학습 설명에 반복해서 등장하는지 먼저 정리합니다.

공부 시간과 점수 표에 아주 단순한 직선을 붙인다고 생각해 봅시다. 모델이 1시간 공부하면 몇 점쯤 나올까를 예측했는데 실제 점수와 차이가 크다면 손실이 커집니다. 학습은 그 차이를 줄이는 방향으로 직선의 기울기와 위치를 조금씩 바꾸는 과정입니다. 이 짧은 장면 하나에 입력, 출력, 예측, 오차, 손실, 최적화가 모두 들어 있습니다.

수학은 코드와 함께 확인해야 한다¶

수학 표기만 읽으면 추상적으로 느껴집니다. 코드는 그 추상적인 표현을 실행 가능한 절차로 바꿉니다. 특히 NumPy 같은 배열 계산 도구는 벡터와 행렬 계산을 코드로 확인하게 해 줍니다.

문제 상황:

평균(mean)처럼 익숙한 수학 개념도 수식만 보면 추상적으로 느껴질 수 있다

입력(input):

숫자 배열 x = [1, 2, 3, 4]

기대 출력(output):

평균값 2.5

확인할 개념:

수식으로 적는 평균 계산은 코드에서도 같은 의미로 실행될 수 있다
작은 배열 예제는 수학 표기와 실제 계산 결과를 연결하는 가장 단순한 출발점이다

# NumPy 배열로 공부 시간 데이터를 담고 평균 계산에 쓸 입력값을 확인하는 예제입니다.
import numpy as np

# x는 평균을 확인할 작은 숫자 배열입니다.
x = np.array([1, 2, 3, 4])

# mean은 x 안의 값들을 대표하는 평균값입니다.
mean = x.mean()

print(mean)

실행 결과 예시:

2.5

이 코드는 평균이라는 수학 개념을 작은 데이터로 확인합니다. 여기서 핵심은 복잡한 라이브러리 사용법이 아니라, 수식과 데이터와 코드가 같은 계산을 서로 다른 방식으로 표현한다는 점입니다. 2.5를 확인하는 순간 독자는 평균이 추상 기호가 아니라 실제 값으로 돌아온다는 사실을 바로 볼 수 있습니다.

수식은 계산의 구조를 압축해서 보여 줍니다.
데이터는 계산 대상이 되는 값을 제공합니다.
코드는 계산을 실제로 실행합니다.
결과는 계산이 무엇을 했는지 확인하게 합니다.

Part 2에서는 이 네 가지를 계속 연결합니다. 수학을 따로 떼어 “이해해야 할 이론”으로만 두지 않고, 작은 코드와 데이터로 다시 확인합니다.

AI 계산을 읽기 위한 수학 경로¶

Part 2는 수학을 깊이 증명하는 순서가 아니라, AI 계산을 읽기 위한 복구 순서입니다.

수식 표기: 변수(variable), 함수(function), 식(expression), 시그마(sigma), 극한(limit)을 다시 읽습니다.
선형대수(linear algebra): 스칼라(scalar), 벡터(vector), 행렬(matrix), 행렬 곱(matrix multiplication)을 데이터 표현 관점에서 봅니다.
미분과 그래디언트: 변화율(rate of change), 기울기(slope), 그래디언트(gradient)를 학습 방향의 언어로 봅니다.
확률과 통계: 불확실성(uncertainty), 분포(distribution), 평균(mean), 분산(variance), 표본(sample)을 데이터 해석의 언어로 봅니다.
최적화: 손실(loss)을 줄이는 값을 반복적으로 찾는 방법으로 봅니다.
Python과 NumPy: 수식이 코드로 실행되는 모습을 확인합니다.

이 순서는 “수학을 완성한 뒤 AI로 간다”는 순서가 아닙니다. AI 문서를 읽다가 만나는 수학 표기를 다시 사용할 수 있도록 최소한의 길을 만드는 순서입니다.

수학을 모른다는 부담을 줄이는 법¶

오래전에 배운 수학은 대부분 기억에서 흐려집니다. 특히 극한, 시그마, 미분, 행렬 같은 표현은 이름은 익숙해도 실제 쓰임이 바로 떠오르지 않을 수 있습니다. 여기서는 그것을 실패로 보지 않습니다.

다만 다음 두 가지는 구분합니다.

모든 증명을 이해하지 못하는 것은 Part 2에서는 허용됩니다.
반대로 수식이 무엇을 계산하려는지 전혀 읽지 못하면 머신러닝과 딥러닝을 읽을 때 계속 막힙니다.

따라서 목표는 완전한 수학자가 되는 것이 아닙니다. 목표는 “이 수식이 데이터, 모델, 손실, 학습 중 어디를 설명하는가”를 읽을 수 있게 되는 것입니다.

사례 및 예시¶

사례 1. 손실 함수 수식을 봤을 때 왜 바로 막히는가¶

학습자가 머신러닝 책에서 손실 함수(loss function) 수식을 처음 보면, 기호가 많지 않아도 막막할 수 있습니다. 사람은 정답을 맞히는 시험 문제처럼 느끼기 쉽지만, 실제로는 그 수식이 무엇을 비교하고, 무엇을 줄이려는지를 압축해서 적어 둔 경우가 많습니다.

예를 들어 예측값과 실제값의 차이를 제곱해서 더하는 식은, 모델이 얼마나 틀렸는지를 한 숫자로 모으는 계산 구조를 짧게 적은 것입니다. 여기서는 증명을 바로 따라가기보다, 입력은 무엇인가, 비교 대상은 무엇인가, 최종적으로 줄이려는 값은 무엇인가를 먼저 풉니다.

이 사례는 수학을 왜 계산 언어로 봐야 하는지를 보여 줍니다. 수식을 외우는 대신 이 식이 모델 계산의 어느 자리를 설명하는가를 읽을 수 있어야, 뒤의 확률, 벡터, 미분, 최적화도 같은 지도로 이어집니다.

즉 수학이 부담스럽게 느껴지는 이유는 어려운 개념이 많아서만이 아니라, 압축된 표기를 한 번에 다 읽으려 하기 때문입니다. Part 2의 목적은 그 압축을 다시 데이터와 코드로 풀어 읽는 연습을 만드는 데 있습니다.

여기서는 수학이 AI 계산에서 맡는 자리를 먼저 잡고, 시그마와 극한의 세부 수식 규칙이나 벡터와 미분의 본격 계산은 뒤 Chapter에서 다시 좁혀 봅니다.

체크리스트¶

AI에서 수학이 증명보다 계산 구조를 읽는 언어로 쓰일 수 있음을 설명할 수 있다.
수식(formula), 데이터(data), 코드(code), 결과(output)를 서로 연결해서 볼 수 있다.
벡터(vector), 행렬(matrix), 텐서(tensor)가 데이터의 계산 가능한 모양을 표현한다는 점을 설명할 수 있다.
학습(learning)을 손실(loss)을 줄이도록 파라미터(parameter)를 조정하는 과정으로 설명할 수 있다.
Part 2에서 선형대수, 미분, 확률과 통계, 최적화를 왜 다시 다루는지 설명할 수 있다.
AI에서 수학이 표현, 비교, 조정의 세 가지 일을 한다는 흐름으로 Part 2를 연결해 설명할 수 있다.
시그마, 벡터와 행렬, 미분, 확률과 통계가 왜 한 파트에서 함께 다시 등장하는지 설명할 수 있다.

출처와 참고 자료¶

Marc Peter Deisenroth, A. Aldo Faisal, Cheng Soon Ong, Mathematics for Machine Learning, Cambridge University Press, 2020, 확인 날짜: 2026-07-19.
Ian Goodfellow, Yoshua Bengio, Aaron Courville, Deep Learning, MIT Press, 2016, 확인 날짜: 2026-07-19.
Catherine F. Higham, Desmond J. Higham, Deep Learning: An Introduction for Applied Mathematicians, arXiv, 2018, 확인 날짜: 2026-07-19.
Charles R. Harris et al., Array Programming with NumPy, Nature, 2020, 확인 날짜: 2026-07-19.
NumPy Developers, numpy.mean, NumPy User Guide, 확인 날짜: 2026-07-19. 평균 예제를 코드로 확인하는 부분의 직접 참고 자료입니다.