뜻: 모델이 학습되기 전에 사람이 먼저 정해 두는 설정값으로, 모델이 어떤 모양과 강도로 학습될지를 바깥에서 정하는 값입니다. 층 수, 업데이트 보폭, 트리 깊이처럼 학습이 어떤 방식으로 진행될지를 정하는 제어 손잡이라고 생각할 수 있습니다. 즉 데이터에서 자동으로 배우는 값이 아니라, 사람이 실험을 통해 바깥에서 조절하는 설정 층입니다.
왜 중요한가: 데이터에서 학습되는 내부 파라미터와, 학습 전에 사람이 정하는 바깥 설정값을 구분해야 튜닝과 검증 절차를 올바르게 읽을 수 있습니다. 이 차이를 이해해야 모델이 스스로 배우는 것과 사람이 실험으로 정하는 것을 섞지 않게 됩니다. 또한 하이퍼파라미터를 이해해야 성능 차이가 모델 구조 자체 때문인지, 업데이트 보폭이나 깊이 같은 바깥 설정 차이 때문인지 더 정확히 따져 보게 됩니다. 즉 하이퍼파라미터는 모델이 무엇을 배웠는가보다 어떤 조건에서 배우게 했는가를 설명하는 값입니다.
함께 볼 개념: 파라미터(parameter), 튜닝(tuning), 모델 검증(model validation)
뜻: AI에서 경험 데이터 이후 특정 과제의 성능이 나아지는 넓은 개념입니다. 사람이 의미를 이해하듯 배운다는 뜻으로 단정하기보다, 데이터와 목표와 성능 기준을 통해 모델의 동작이 더 나아졌는지를 보는 표현입니다.
왜 중요한가: 한국어 학습은 learning과 training을 함께 덮기 쉬워, 성능 개선이라는 넓은 결과와 내부 값을 조정하는 구체적 절차를 분리해 읽어야 하기 때문입니다. 이 개념이 있어야 모델이 학습했다는 말을 막연한 지능 증가로 읽지 않고, 어떤 경험 데이터와 과제와 성능 기준에서 무엇이 좋아졌는지 먼저 묻게 됩니다.
함께 볼 개념: 모델 훈련(model training), 모델(model), 일반화(generalization), 추론(inference)
뜻: 모델이 데이터를 보면서 분류나 예측에 유용하도록 내부에서 함께 만들어 낸 표현입니다. 입력을 그대로 복사한 모습이 아니라, 현재 과제에 맞게 중요한 차이와 패턴이 더 잘 드러나도록 바뀐 내부 형태라고 볼 수 있습니다. 즉 원본 데이터의 겉모습이 아니라, 모델이 이 과제에는 이런 구분이 중요하다고 학습하며 스스로 재구성한 내부 좌표계에 가깝습니다. 다시 말해 학습된 표현은 표현 학습의 결과로 실제 모델 안에 자리 잡은 구체적 내부 표현입니다.
왜 중요한가: 사람이 특징을 직접 설계하던 방식과, 모델이 표현을 함께 학습하는 딥러닝 방식의 차이를 가장 직접적으로 보여 줍니다. 이 개념이 있어야 중간 층의 벡터가 왜 단순 저장값이 아니라 과제에 맞게 가공된 의미 공간으로 읽히는지 설명할 수 있습니다. 또한 학습된 표현을 이해해야 마지막 분류기나 생성기 성능 차이를 단순 출력층만의 차이로 보지 않고, 내부에서 어떤 구분이 더 잘 드러나게 되었는지까지 함께 읽게 됩니다. 결국 학습된 표현은 표현 학습이라는 과정과 그 결과 남은 내부 구조를 나누어 읽게 만드는 핵심 연결점입니다.
함께 볼 개념: 표현(representation), 표현 학습(representation learning), 특징(feature)
뜻: 입력을 받아 어떤 규칙에 따라 출력을 만드는 관계입니다. 수학에서는 입력-출력 대응 관계를 뜻하고, 프로그래밍에서는 그 관계를 코드로 묶어 재사용 가능한 계산 단위로 만든 것을 가리키기도 합니다. 즉 함수는 이 값을 넣으면 이런 값이 나온다는 대응 규칙을 명시적으로 다루는 가장 기본적인 틀입니다.
왜 중요한가: AI에서는 손실 함수, 활성화 함수, 예측 함수처럼 많은 개념이 함수 언어로 표현됩니다. 함수 감각이 있어야 무엇을 넣으면 무엇이 나오는가, 어떤 계산을 묶어 반복 사용하는가를 공통 구조로 읽을 수 있습니다. 또한 수학식의 함수와 Python의 함수가 완전히 다른 것이 아니라, 입력과 출력 관계를 더 명시적으로 다루는 같은 사고 틀이라는 점도 함께 이해하게 됩니다. 이 개념이 있어야 수학과 코드가 따로 노는 것이 아니라 같은 계산 구조를 다른 표현으로 적는 일이라는 감각도 생깁니다.
함께 볼 개념: 변수(variable), 모델(model)
중심 Section: P2-2.1
등장 Section: P2-2.3, P2-4.2, P2-4.3, P2-6.2, P2-8.5, P2-8.6, P2-10.3
뜻: 한 함수의 출력이 다음 함수의 입력으로 들어가 여러 계산 단계가 이어진 함수입니다. \(z=f(g(x))\)처럼 먼저 \(g(x)\)를 계산하고, 그 결과를 다시 \(f\)에 넣는 구조입니다. 즉 합성함수는 계산이 한 번에 끝나지 않고 중간 결과를 거쳐 최종 결과로 이어지는 함수 구조입니다.
왜 중요한가: 신경망의 여러 층이 서로 이어지는 구조를 읽는 기본 수학 언어이기 때문입니다. 합성함수를 이해하면 앞 단계의 작은 변화가 중간 단계를 거쳐 손실까지 전달된다는 감각을 잡을 수 있습니다. 이 개념은 연쇄 법칙과 역전파 설명의 출발점입니다.
함께 볼 개념: 연쇄 법칙(chain rule), 함수(function), 역전파(backpropagation)
뜻: 이미지의 작은 영역에서 반복되는 시각 단서를 여러 층에서 읽고 조합해 더 높은 수준의 표현을 만드는 신경망 구조입니다. 처음에는 가장자리나 단순 무늬 같은 작은 단서를 읽고, 더 뒤 층으로 갈수록 부분 형태와 물체 수준 단서를 조합하는 계층 구조로 이해할 수 있습니다. 즉 CNN은 이미지를 한 번에 통째로 읽기보다, 작은 시각 단서를 단계적으로 쌓아 올리는 구조입니다.
왜 중요한가: 이미지 인식에서 선, 모서리, 부분 형태, 물체 수준의 단서를 계층적으로 다루는 딥러닝 구조를 이해하는 대표 사례입니다. 이 개념이 있어야 왜 이미지에서 완전연결층만 쓰지 않고, 작은 영역의 시각 단서를 반복적으로 읽는 구조가 강력했는지 설명할 수 있습니다. 또한 CNN을 이해해야 좋은 표현을 스스로 배운다는 말이 이미지에서는 어떻게 구현되었는지, 그리고 합성곱과 풀링이 왜 함께 등장하는지도 더 자연스럽게 연결됩니다.
함께 볼 개념: 이미지 인식(image recognition), 학습된 표현(learned representation), 딥러닝(deep learning)
뜻: 작은 필터를 입력 위로 움직이며 각 위치의 시각 단서 반응 점수를 계산하는 연산입니다. 전체 이미지를 한 번에 다 섞기보다, 작은 창을 조금씩 옮기며 여기에 이런 패턴이 있는가를 반복 확인하는 계산이라고 볼 수 있습니다. 즉 합성곱은 같은 패턴 탐지 규칙을 이미지 여러 위치에 반복 적용하는 구조적 계산입니다.
왜 중요한가: CNN이 이미지 전체를 한 번에 섞지 않고 작은 영역의 시각 단서를 반복해서 읽는 핵심 계산입니다. 이 개념이 있어야 왜 합성곱이 위치가 조금 달라도 비슷한 패턴을 잡아내는 데 유리한지, 그리고 feature map이 어떻게 만들어지는지 더 자연스럽게 이해할 수 있습니다. 또한 합성곱을 이해해야 필터 하나가 곧 특정 시각 단서 검출기처럼 작동할 수 있다는 점도 읽게 됩니다. 결국 합성곱은 전체를 한 번에 이해한다보다 작은 지역 특징을 누적해 읽는다는 딥러닝 직관을 붙잡게 합니다.
함께 볼 개념: 합성곱 신경망(CNN, convolutional neural network), 특징(feature), 이미지 인식(image recognition)
뜻: AI 에이전트나 강화학습 에이전트가 현재 상태에서 실제로 선택해 실행하는 조치입니다. 탐색과 강화학습에서는 환경에 영향을 주는 선택이고, 서비스형 AI 에이전트에서는 검색, 파일 읽기, 패치, API 호출, 보고 같은 작업 단계가 될 수 있습니다. 즉 행동은 내부 계산이 아니라, 상태를 실제로 바꾸거나 새 정보를 끌어오는 바깥 실행 단위입니다.
왜 중요한가: 어떤 행동을 고르느냐에 따라 다음 상태, 관찰, 보상, 실패 가능성이 모두 달라지고, 서비스형 AI 에이전트에서는 그 선택이 실제 시간·비용·권한 위험까지 함께 바꾸기 때문입니다. 이 개념이 있어야 생각과 실행을 구분하게 되고, 행동 후보를 어떻게 제한하고 구조화하느냐가 AI 에이전트 성능과 안전성에 왜 직접 연결되는지도 더 분명하게 이해하게 됩니다. 또한 행동을 이해해야 같은 모델이라도 어떤 행동 집합을 허용했는가에 따라 가능한 성과와 위험이 크게 달라진다는 점도 읽게 됩니다.
함께 볼 개념: 에이전트 상태(state), 강화학습 정책(reinforcement learning policy), 보상(reward), 관찰 결과(observation)
중심 Section: P1-8.3
등장 Section: P1-7.1, P1-7.4, P1-14.3, P3-9.8, P4-2.3
뜻: 한쪽의 행과 다른 쪽의 열을 조합해 새로운 값을 만드는 계산입니다. 직관적으로는 입력 값 묶음과 가중치 묶음을 체계적으로 섞어 새 점수나 새 표현을 만드는 연산이라고 볼 수 있습니다. 즉 행렬 곱은 값들을 아무렇게나 곱하는 일이 아니라, 구조화된 입력을 구조화된 새 표현으로 바꾸는 규칙적 변환입니다.
왜 중요한가: 입력 벡터를 가중치와 결합해 새 표현이나 출력을 만드는 AI 계산의 기본 구조입니다. 행렬 곱 감각이 있어야 여러 샘플과 여러 특징을 한 번에 처리하는 신경망 계산을 개별 곱셈의 반복이 아니라 묶음 계산으로 이해할 수 있습니다. 또한 행렬 곱을 이해해야 shape이 왜 맞아야 하는지, 그리고 선형층이 왜 사실상 행렬 곱으로 표현된다고 말하는지도 더 선명하게 읽게 됩니다. 실행 관점에서도 행렬 곱은 같은 종류의 연산을 크게 묶어 처리하기 좋은 형태라, 딥러닝 계산 효율을 설명하는 기본 언어가 됩니다.
함께 볼 개념: 가중합(weighted sum), 행렬(matrix), 선형 변환(linear transformation)
뜻: 숫자를 행과 열 구조로 배열한 2차원 표현입니다. 벡터가 한 줄의 값 묶음이라면, 행렬은 그런 값 묶음이 여러 줄로 쌓인 구조라고 볼 수 있습니다. 즉 하나의 샘플과 하나의 특징을 넘어서, 여러 샘플과 여러 특징을 한꺼번에 담아 계산하는 기본 수학 그릇입니다.
왜 중요한가: 표 데이터, 미니배치 입력, 가중치 묶음은 자주 행렬 형태로 읽힙니다. 행렬 감각이 있어야 벡터 하나를 넘어서 여러 샘플과 여러 특징을 동시에 계산하는 구조를 이해할 수 있습니다. 이 개념이 있어야 딥러닝 계산을 숫자가 많다 수준이 아니라 행과 열이 어떤 역할로 묶여 있는가로 읽게 되고, shape 변화와 행렬 곱의 의미도 더 자연스럽게 연결됩니다. 또한 행렬을 이해해야 표처럼 생긴 데이터와 선형대수 계산 대상이 어떻게 이어지는지도 더 자연스럽게 받아들이게 됩니다.
함께 볼 개념: 벡터(vector), 행렬 곱(matrix multiplication), shape
중심 Section: P2-3.1
등장 Section: P2-3.3, P2-3.6, P2-11.1, P2-11.3, P4-7.2
뜻: 불확실한 상태나 결과를 확률, 조건부 확률, 분포 같은 형태로 표현하는 모델입니다. 단순히 점수를 매기는 데서 멈추지 않고, 그 숫자가 어떤 사건의 가능성이나 어떤 변수의 분포를 뜻하는지까지 함께 정의합니다. 다시 말해 얼마나 높다보다 무엇이 얼마나 그럴듯한가를 수학적으로 적는 모델이라고 볼 수 있습니다. 따라서 확률 모델은 숫자를 순위용 신호로만 두지 않고, 그 숫자의 해석 규칙까지 함께 묶어 둔 표현입니다.
왜 중요한가: 휴리스틱 점수와 달리 숫자가 무엇을 뜻하는지 더 엄격하게 정의하고, 근거가 바뀔 때 판단을 갱신하는 구조를 이해하게 해 주기 때문입니다. 그래서 규칙 기반 판단과 통계적 판단의 차이도 더 선명하게 드러납니다. 이 개념이 있어야 새로운 관측이 들어왔을 때 확률을 어떻게 업데이트할지, 그리고 왜 같은 0.8이라도 모델마다 의미가 다를 수 있는지 더 조심해서 읽게 됩니다. 예를 들어 위험 점수처럼 보이는 숫자도 어떤 것은 단순 우선순위 점수이고, 어떤 것은 실제 사건 가능성을 뜻하려는 확률 모델 출력일 수 있습니다.
함께 볼 개념: 확률(probability), 확률 추론(probabilistic reasoning), 확률 보정(probability calibration), 확률 추정값(probability estimate), 휴리스틱(heuristic), 검증 근거(supporting evidence)
뜻: 불완전하거나 잡음이 있는 정보에서 가능한 결론이 얼마나 그럴듯한지 확률로 계산하는 추론 방식입니다. 즉 이 결론이 반드시 참인가를 묻기보다, 현재 정보로 볼 때 어느 결론이 더 가능성이 큰가를 따지는 접근입니다. 다시 말해 확률 추론은 확실한 정답을 바로 찍기보다, 불확실성 안에서 더 그럴듯한 설명을 고르는 사고방식입니다.
왜 중요한가: 참/거짓 규칙만으로는 다루기 어려운 현실 문제를 AI가 어떻게 판단하려 했는지 보여 주는 핵심 축입니다. 이 개념이 있어야 규칙 기반 추론과 확률 기반 판단의 차이, 그리고 불확실한 데이터에서 왜 점수나 분포가 필요한지 더 분명히 읽을 수 있습니다. 또한 확률 추론을 이해해야 정답이 하나로 닫히지 않는 상황에서 AI가 왜 확률적 언어로 판단을 표현하는지, 그리고 점수가 높다고 해도 불확실성이 완전히 사라진 것은 아니라는 점도 함께 읽게 됩니다.
함께 볼 개념: 확률(probability), 불확실성(uncertainty), 추론(inference)
중심 Section: P1-2.2
등장 Section: P1-index, P1-2.3, P1-3.1, P1-summary, P4-1.1
뜻: 특정 결과나 클래스가 맞을 가능성을 확률처럼 수치로 표현한 값입니다. 다만 이 값이 언제나 진짜 확률처럼 잘 맞는 것은 아니어서, 모델 출력 점수와 확률 추정값은 구분해서 읽어야 합니다. 겉으로는 둘 다 0과 1 사이 숫자여도, 어떤 것은 단순 순위 점수이고 어떤 것은 실제 빈도와 대응되도록 해석하려는 값일 수 있습니다. 즉 확률 추정값은 확률처럼 읽고 싶은 숫자이지, 자동으로 이미 믿어도 되는 확률은 아닙니다.
왜 중요한가: 점수처럼 보이는 수치가 실제 확률로 읽혀도 되는지, 보정이 필요한지 따로 확인하게 해 주기 때문입니다. 분류 결과를 임계값으로 행동에 연결할 때도 이 구분이 직접 중요해집니다. 이 개념이 있어야 0.9라는 숫자가 단순히 상대적으로 높은 점수인지, 정말 열 번 중 아홉 번 정도 맞는 수준인지 구분해서 읽게 됩니다. 결국 확률 추정값은 숫자가 있다보다 그 숫자를 행동 기준으로 써도 되는가를 묻게 만드는 표지입니다. 예를 들어 사람 검토 큐를 0.8 이상으로 자를 때는, 그 숫자가 후보 정렬용 점수인지 실제 위험 확률처럼 읽어도 되는지에 따라 운영 판단이 달라집니다.
함께 볼 개념: 확률(probability), 확률 모델(probabilistic model), 확률 보정(probability calibration), 임계값(threshold), 인간 감독(human oversight)
중심 Section: P1-7.3
등장 Section: P1-6.3, P3-9.8, P4-6.4, P4-11.1, P4-15.3
뜻: 아직 확실하지 않은 상태를 0과 1 사이의 숫자로 표현하는 방법입니다. 어떤 결과가 반드시 일어난다는 뜻이 아니라, 가능한 결과들 가운데 특정 사건이 어느 정도 그럴듯한지를 수치로 적는 언어라고 볼 수 있습니다. 여러 결과가 있을 때는 각 가능성에 숫자를 나누어 붙여, 무엇이 더 가능해 보이는지 비교하게 해 주는 표현 체계이기도 합니다.
왜 중요한가: 예측, 위험, 분류 결과를 확실한 답이 아니라 가능성으로 읽게 해 주기 때문입니다. 이 감각이 있어야 점수, 빈도, 확률 추정값을 같은 숫자로 착각하지 않고 구분하게 됩니다. 또한 확률은 일어날지 안 일어날지를 단정하는 언어가 아니라, 아직 남아 있는 불확실성을 더 정교하게 비교하는 언어라는 점도 함께 이해하게 됩니다. AI에서는 모델 출력이 단순 정답이 아니라 여러 후보에 대한 상대적 가능성일 수 있다는 해석의 출발점이 됩니다.
함께 볼 개념: 불확실성(uncertainty), 확률 사건(event), 분포(distribution), 확률 추정값(probability estimate), 추정(estimation)
중심 Section: P2-5.1
등장 Section: P1-5.2, P1-6.2, P1-6.3, P2-5.2, P2-5.3, P2-6.2
뜻: 모델이 낸 확률 점수가 실제 빈도와 얼마나 잘 맞는지 점검하고 필요하면 맞추는 일입니다. 예를 들어 모델이 0.70이라고 말한 사례들을 모아 보았을 때, 실제로도 약 70% 정도가 맞는지 확인하는 작업이라고 이해할 수 있습니다. 핵심은 점수가 높다와 그 점수를 확률처럼 믿어도 된다를 같은 말로 보지 않는 데 있습니다.
왜 중요한가: 0.70 같은 점수를 곧바로 신뢰도로 읽지 않고, 그 숫자가 현실 빈도와 얼마나 맞는지 따로 확인하게 해 주기 때문입니다. 이 개념이 있어야 높은 점수와 믿을 만한 확률을 구분하게 되고, 같은 정확도를 가진 모델도 의사결정에 얼마나 안전하게 쓸 수 있는지는 또 다른 문제라는 점을 이해하게 됩니다. 특히 사람 검토 기준, 자동 승인 기준, 위험 알림처럼 점수를 행동으로 바꾸는 장면에서는 확률 보정이 운영 정책의 안전성과 직접 연결됩니다.
함께 볼 개념: 확률(probability), 분류(classification), 평가 지표(metric)
중심 Section: P1-6.2
등장 Section: P1-6.3, P1-7.3, P4-6.4, P4-11.1, P4-15.3
뜻: 과정이나 행동 자체에 확률적 변동이 들어 있어 같은 조건에서도 결과가 조금씩 달라질 수 있는 성질 또는 과정입니다. 한 번의 결과만 무작위인 것이 아니라, 시간에 따라 이어지는 변화 전체가 확률적으로 전개되는 경우를 가리킵니다. 즉 확률적 과정은 개별 사건 하나보다 시간을 따라 흔들리며 전개되는 흐름 전체를 다루는 개념입니다.
왜 중요한가: 확률을 숫자 언어로 쓰는 일과, 과정 자체가 흔들릴 수 있는 성질을 구분해 읽게 해 줍니다. 이 개념이 있어야 한 번의 무작위 사건과 시간에 따라 확률적으로 진화하는 시스템을 다르게 이해할 수 있습니다. 또한 확률적 과정을 이해해야 강화학습 환경, 센서 잡음, 시계열 변동처럼 시간에 따라 결과가 흔들리는 문제를 더 적절한 층위에서 해석하게 됩니다. 결국 이 개념은 현재 상태만 보는 해석에서 시간을 따라 변하는 확률 구조를 읽는 해석으로 넘어가게 합니다.
함께 볼 개념: 확률(probability), 표본 추출(sampling), 비결정성(nondeterminism)
뜻: 근거가 없거나 틀린 내용을 그럴듯하고 자신 있게 생성하는 오류입니다. 문장이 매끄럽고 설득력 있어 보여도 사실 확인, 출처 확인, 최신성 확인이 빠져 있으면 환각일 수 있습니다. 핵심은 이상한 말만 환각이 아니라, 겉으로는 정상인데 내용이 비어 있거나 틀린 말도 환각이라는 점입니다.
왜 중요한가: 생성형 AI의 대표 위험을 이해하고, 자연스러운 문장과 정확한 문장을 구분하게 해 주기 때문입니다. 이 개념이 잡혀야 프롬프트 개선만으로 해결되는 문제와 검색, 검토, 사람 확인이 필요한 문제를 구분할 수 있고, 유창함이 사실성의 증거는 아니라는 점도 더 분명히 읽게 됩니다. 예를 들어 존재하지 않는 논문 제목, 잘못된 법 조항, 틀린 버전 정보도 문장 모양만 보면 자연스러울 수 있으므로, 환각 문제는 문체보다 근거 확인 체계의 문제로 읽어야 합니다.
함께 볼 개념: 작화(confabulation), 검증 근거(supporting evidence), 인간 감독(human oversight), 사실성(factuality), 프롬프트(prompt)
뜻: 선형 결합으로 만든 중간 점수를 실제 출력이나 다음 층 입력으로 바꾸는 규칙입니다. 즉 가중합 점수를 그대로 넘기지 않고, 비선형 변환을 한 번 거쳐 신경망의 반응 모양을 바꾸는 장치입니다. 쉽게 말해 활성화 함수는 단순 합산 점수를 더 표현력 있는 반응으로 바꾸는 굴절점 역할을 합니다.
왜 중요한가: 선형 결합만 반복하면 여러 층을 쌓아도 결국 표현력이 크게 늘지 않습니다. 활성화 함수가 들어가야 깊은 신경망이 더 복잡한 경계와 표현을 만들 수 있고, 깊게 쌓는 이유도 계산적으로 설명할 수 있습니다. 또한 활성화 함수의 선택에 따라 그래디언트 흐름과 학습 안정성도 달라지므로, 신경망 설계는 층을 몇 개 쌓는가뿐 아니라 각 층이 어떤 반응 곡선을 쓰는가까지 함께 읽어야 한다는 점을 붙잡게 됩니다. 즉 층 수만 늘린다고 충분하지 않고, 각 층이 어떤 비선형성을 갖는지가 함께 중요하다는 감각을 줍니다.
함께 볼 개념: 가중합(weighted sum), 표현(representation), 다층 신경망(multilayer neural network)
중심 Section: P5-1.2
등장 Section: P5-3.1, P5-3.2, P5-3.3, P5-3.4, P5-3.5, P5-3.6
뜻: 지금까지 얻은 정보 기준으로 가장 좋아 보이는 행동을 선택하는 방식입니다. 이미 효과가 좋아 보이는 선택지를 반복 활용해 당장 더 높은 보상을 얻으려는 전략이라고 볼 수 있습니다. 즉 새 정보를 얻기보다, 현재까지의 학습 결과를 실제 성과로 바꾸는 쪽에 무게를 두는 선택입니다.
왜 중요한가: 새로운 시도를 줄이는 대신 현재 성과를 높이려는 선택이므로, 탐험과 함께 강화학습의 핵심 균형 문제를 이룹니다. 이 개념이 있어야 지금 당장 좋아 보이는 선택과 미래를 위해 새로운 선택을 시험하는 일이 왜 자주 충돌하는지 읽을 수 있습니다. 또한 활용을 이해해야 탐험이 너무 적으면 조기 수렴에 빠질 수 있지만, 활용이 너무 약하면 이미 배운 좋은 전략을 제대로 수확하지 못한다는 점도 함께 보게 됩니다. 즉 활용은 이미 배운 것을 얼마나 믿고 밀어붙일 것인가를 정하는 선택이라고도 볼 수 있습니다.
함께 볼 개념: 탐험(exploration), 강화학습 정책(reinforcement learning policy), 보상(reward)
뜻: 입력을 바탕으로 연속적인 수치 값이나 점수를 예측하는 모델링 과제입니다. 분류처럼 범주 이름을 고르는 것이 아니라, 가격, 온도, 수요량처럼 이어지는 수치 축 위의 값을 맞히는 문제라고 볼 수 있습니다. 출력이 숫자라는 점은 같아도, 단순 계산 결과를 내는 프로그램과 달리 회귀는 데이터에서 입력과 수치 결과 사이의 관계를 학습해 새로운 입력의 값을 추정합니다.
왜 중요한가: 현실의 많은 문제는 이 범주인가보다 얼마나 큰가를 묻기 때문에, 숫자 축 위에서 오차를 해석하는 별도 문제 유형이 필요하기 때문입니다. 이 개념이 있어야 분류의 맞다/틀리다 평가와 회귀의 얼마나 가까운가 평가를 구분하게 되고, 작은 오차와 큰 오차를 어떻게 다르게 벌점 줄지에 따라 손실 함수와 모델 선택이 달라진다는 점도 이해하게 됩니다. 또한 회귀를 이해해야 출력값이 연속 수치일 때 정확도(accuracy) 같은 분류 지표가 바로 맞지 않는 이유, 평균절대오차(MAE)나 평균제곱오차(MSE)처럼 거리를 재는 지표가 왜 등장하는지도 더 자연스럽게 읽게 됩니다.
함께 볼 개념: 분류(classification), 모델 출력 정의(model output), 문제 정의(task definition)
뜻: 정답을 바로 보장하지는 않지만 더 유망해 보이는 후보를 먼저 살펴보게 하는 경험적 기준입니다. 엄밀한 최적해 보장보다, 제한된 시간 안에 더 괜찮은 답을 빨리 찾도록 돕는 실용적 판단 규칙에 가깝습니다. 즉 휴리스틱은 항상 맞는 공식보다 지금 이 상황에서 먼저 써 볼 만한 판단 기준에 더 가까운 말입니다.
왜 중요한가: 가능한 경로와 조합이 너무 많아 전부 다 볼 수 없을 때 탐색 순서를 정하는 실용적 기준이 됩니다. 이 개념이 있어야 완벽한 정답 보장과 실제로 쓸 만한 답을 빨리 찾는 전략을 구분해 읽을 수 있습니다. 예를 들어 길 찾기에서는 목적지까지의 직선거리, 모델 선택에서는 해석이 쉬운 기준선 모델부터 먼저 보는 순서가 모두 휴리스틱이 될 수 있습니다. 결국 휴리스틱을 이해해야 AI에서 정확히 증명된 규칙과 제한된 시간 안에 먼저 시도하는 그럴듯한 기준이 다른 층위라는 점도 더 선명하게 읽게 됩니다.