뜻: 분류 모델이 입력 공간(input space)을 서로 다른 class 영역으로 나누는 기준선, 기준면, 또는 더 높은 차원의 기준입니다. 로지스틱 회귀에서는 보통 선형 점수 \(z\)가 기준값과 같아지는 자리로 읽습니다.
왜 중요한가: 결정 경계를 보면 모델이 어떤 입력을 왜 한쪽 class로 보냈는지, 경계 근처의 애매한 사례가 왜 review 대상이 되는지 설명할 수 있습니다. 또한 threshold를 바꾸면 같은 점수 모델에서도 실제로 적용되는 경계와 class 영역이 달라질 수 있음을 분리해서 읽게 해 줍니다.
함께 볼 개념: 로지스틱 회귀(logistic regression), 임계값(threshold), 분류(classification), 초평면(hyperplane)
뜻: 모델 안에서 어떤 입력 값이나 중간 값이 출력 계산에 얼마나 크게 반영될지를 정하는 파라미터입니다. 같은 입력이라도 어떤 신호는 더 크게, 어떤 신호는 더 약하게 통과시키도록 정하는 중요도 조절값에 가깝습니다. 즉 가중치는 입력과 출력 사이 연결 강도를 수치로 정한 조정 손잡이라고 볼 수 있습니다.
왜 중요한가: 딥러닝과 머신러닝에서 학습은 결국 이런 가중치를 조정해 입력-출력 관계를 바꾸는 과정이므로, 모델이 무엇을 얼마나 반영하는지 읽는 가장 기본적인 손잡이가 되기 때문입니다. 이 개념이 있어야 모델이 배운다는 말을 막연한 지능 증가가 아니라, 계산 연결마다 반영 비율이 바뀌는 과정으로 더 구체적으로 이해할 수 있습니다. 또한 가중치를 이해해야 모델 변화가 어떤 연결이 더 중요해졌는가의 누적으로 일어난다는 점도 더 분명히 읽게 됩니다.
함께 볼 개념: 파라미터(parameter), 표현(representation), 모델 훈련(model training)
뜻: 상태나 상태-행동 쌍에 장기 보상의 예상값을 붙이고, 그 값을 기준으로 더 나은 행동을 고르는 강화학습 접근입니다. 정책을 바로 출력하기보다 어떤 선택이 장기적으로 얼마나 좋은가를 먼저 숫자로 배웁니다.
왜 중요한가: 상태나 상태-행동 쌍의 장기 보상 값을 중심으로 읽는 강화학습 알고리즘의 공통 관점을 잡아 주기 때문입니다. 이 개념이 있어야 정책 기반 강화학습과 비교할 때 값을 배운 뒤 행동을 고르는가, 정책 자체를 직접 조정하는가를 구분할 수 있습니다. 현재 보상과 다음 상태의 미래 가치를 이어 반복 갱신한다는 점도 이 항목 안에서 함께 설명할 수 있습니다.
함께 볼 개념: 강화학습(reinforcement learning), 강화학습 정책(reinforcement learning policy), 보상(reward), 정책 기반 강화학습(policy-based reinforcement learning)
뜻: 여러 입력값에 각각의 가중치를 곱한 뒤 모두 더해 하나의 값을 만드는 계산입니다. 예를 들어 \(x_1w_1+x_2w_2\)는 두 입력을 서로 다른 비중으로 반영해 새 출력 하나를 만듭니다. 즉 가중합은 어떤 입력을 얼마나 크게 반영할지 정한 뒤 한 숫자로 접는 계산입니다.
왜 중요한가: 행렬 곱, 선형층, attention 점수 계산처럼 AI 모델의 많은 내부 계산이 가중합 구조를 반복해서 쓰기 때문입니다. 이 개념이 있어야 행렬 곱을 위치별 곱으로 오해하지 않고, 입력값과 가중치가 결합되어 새 표현을 만드는 과정으로 읽을 수 있습니다. 또한 가중치가 단순 곱셈 숫자가 아니라 입력의 반영 정도를 정하는 값이라는 점도 함께 이해하게 됩니다.
함께 볼 개념: 가중치(weight), 행렬 곱(matrix multiplication), 선형 변환(linear transformation)
뜻: 강화학습에서 현재 상태나 관측을 바탕으로 행동을 선택하고, 보상을 받으며 정책을 바꿔 가는 주체입니다. 여기서 에이전트는 단순 실행자라기보다, 환경과 상호작용하며 경험을 쌓고 그 경험으로 다음 행동 기준을 바꾸는 학습 주체입니다. 즉 답을 한 번 출력하고 끝나는 존재가 아니라, 행동-관찰-보상-갱신의 순환 안에서 계속 바뀌는 행위자라고 볼 수 있습니다.
왜 중요한가: 도구 호출과 작업 흐름을 잇는 서비스형 AI 에이전트와 달리, 강화학습에서는 환경 안에서 행동 결과를 통해 학습이 진행된다는 점을 분명히 구분하게 해 주기 때문입니다. 이 개념이 있어야 같은 agent라는 일반어가 제품형 AI 에이전트와 학습 이론 속 강화학습 에이전트에서 전혀 다른 층위로 쓰인다는 점을 놓치지 않게 됩니다. 예를 들어 체스 프로그램의 다음 수 선택 주체와, 문서 검색 후 요약을 이어 가는 서비스형 AI 에이전트는 둘 다 넓게는 agent라고 부를 수 있지만 작동 층위와 학습 방식은 크게 다릅니다.
함께 볼 개념: 강화학습(reinforcement learning), 에이전트 행동(action), 보상(reward)
뜻: 현재 상태나 관측을 보고 어떤 행동을 선택할지 정하는 기준 또는 함수입니다. 한 번의 정답을 찍는 규칙이라기보다, 상황이 달라질 때마다 어떤 행동 습관을 유지할지를 정하는 반복적 선택 기준에 가깝습니다. 즉 정책은 이 상황이면 이 행동이라는 대응표일 수도 있고, 각 행동의 확률을 정하는 규칙일 수도 있습니다.
왜 중요한가: 강화학습이 한 번의 정답을 맞히는 문제가 아니라, 상황이 달라져도 반복해서 괜찮은 행동을 고르는 방식을 배우는 문제라는 점을 가장 직접적으로 보여 주기 때문입니다. 이 개념이 있어야 이번 한 번 잘 맞히는가와 여러 단계에서 일관되게 좋은 선택을 하는가를 구분해 읽게 되고, 상태 표현이 달라지면 정책도 함께 달라져야 한다는 점도 자연스럽게 이해하게 됩니다. 또한 강화학습 정책을 이해해야 모델이 직접 예측하는 것이 값인지 행동 점수인지 행동 확률인지에 따라 학습 방식이 달라진다는 점도 더 쉽게 연결됩니다.
함께 볼 개념: 강화학습(reinforcement learning), 에이전트 상태(state), 에이전트 행동(action)
중심 Section: P1-8.3
등장 Section: P1-14.3, P4-2.3, P4-11.1, P4-19.1, P4-19.2
뜻: 상태에서 행동을 선택하고, 그 행동 결과로 돌아오는 보상을 통해 더 나은 정책을 학습하는 방식입니다. 즉 정답 라벨을 미리 받는 대신, 행동 이후에 돌아온 좋고 나쁨의 신호를 바탕으로 점차 더 나은 선택 습관을 만들어 가는 학습입니다. 한 번의 선택이 바로 끝나지 않고, 지금 행동이 나중 상태와 미래 보상까지 바꾼다는 점이 핵심입니다.
왜 중요한가: 지도학습의 라벨 문제나 비지도학습의 구조 발견 문제와 달리, 행동의 결과를 따라가며 장기 성과를 높이는 문제 설정이 따로 있다는 점을 보여 주기 때문입니다. 이 개념이 있어야 지금 당장 맞혔는가보다 연속된 선택 끝에 얼마나 좋은 결과를 얻었는가가 중요한 문제를 따로 읽을 수 있습니다. 실제 적용에서는 새 행동을 직접 시도할 수 있는지, 이미 모인 데이터 안에서만 배워야 하는지, 위험한 탐험을 어디까지 허용할지 같은 조건도 함께 검토합니다.
함께 볼 개념: 보상(reward), 강화학습 정책(reinforcement learning policy), 강화학습 에이전트(reinforcement learning agent)
중심 Section: P1-8.3
등장 Section: P1-5.1, P4-index, P4-2.3, P4-3.2, P4-19.1, P4-19.2, P4-19.3, P4-19.4
뜻: 개인을 식별하거나 추적할 수 있는 정보와, 그 정보가 다뤄지는 방식에 대한 보호 요구입니다. 이름, 연락처처럼 직접 드러나는 정보만이 아니라, 여러 조각을 합치면 특정 사람을 다시 알아볼 수 있는 기록과 맥락까지 함께 포함될 수 있습니다. 따라서 개인정보는 민감한 단어 몇 개를 가리는 일로만 닫히지 않고, 수집, 저장, 검색, 재사용, 출력 전주기에서 다시 식별 가능성을 계속 점검해야 하는 문제입니다.
왜 중요한가: AI 입력, 검색 문서, 로그, 평가 데이터에는 개인 관련 정보가 섞이기 쉬워, 한 번 시스템 안으로 들어오면 저장, 검색, 재노출 과정 전체에서 위험이 커질 수 있기 때문입니다. 이 개념이 있어야 모델 성능을 높이기 위해 데이터를 더 모은다는 판단과 그 데이터를 어디까지 써도 되는가를 분리해 읽게 되고, 개인정보 보호가 단순 법무 이슈가 아니라 수집, 저장, 출력, 운영 전부에 걸친 설계 문제라는 점도 이해하게 됩니다. 예를 들어 프롬프트 입력창에 들어온 상담 기록은 답변 생성에만 쓰일 것처럼 보여도, 로그 보관, 검색 색인, 평가 샘플 재사용, 디버깅 기록 공유 단계까지 모두 다시 점검해야 합니다.
함께 볼 개념: 보안(security), 민감 정보(sensitive information)
뜻: 이미지 안에 무엇이 있는지뿐 아니라, 그 물체가 어디에 있는지도 함께 예측하는 문제 유형입니다. 즉 고양이가 있다에서 멈추지 않고, 어느 위치에 어떤 크기로 있는가까지 함께 답해야 하는 시각 문제입니다. 한 장면에 물체가 하나만 있는지 여러 개가 있는지, 서로 얼마나 겹치는지까지 함께 다루게 되는 경우가 많습니다. 그래서 출력은 보통 라벨 하나가 아니라 물체별 범주 + 위치 정보의 묶음 여러 개로 읽어야 합니다.
왜 중요한가: 이미지 분류보다 더 복잡한 출력 구조를 다루며, 딥러닝이 위치와 범주를 함께 예측하는 방향으로 확장된 대표 사례이기 때문입니다. 이 개념이 있어야 분류, 검출, 분할(segmentation)이 모두 비슷한 이미지 문제처럼 보여도 출력 요구가 서로 다르다는 점을 분명히 구분할 수 있습니다. 예를 들어 사진에 강아지가 있는가를 묻는 문제와 강아지가 왼쪽 아래에 어디까지 차지하는가를 묻는 문제는 같은 이미지 입력을 써도 전혀 다른 출력 구조를 요구합니다. 또한 객체 검출을 이해해야 여러 단계 파이프라인을 하나의 예측 문제로 다시 묶는 접근도 자연스럽게 이어집니다.
함께 볼 개념: 엔드투엔드 학습(end-to-end learning), 이미지 인식(image recognition), 모델링 출력 구조(output structure)
뜻: 두 벡터가 표현 공간에서 얼마나 떨어져 있는지 보는 비교 기준입니다. 값이 작을수록 보통 더 비슷하거나 더 가까운 후보로 읽히며, 검색에서는 이 거리를 기준으로 후보 순서를 정하게 됩니다. 즉 거리는 얼마나 닮았는가를 막연한 느낌이 아니라, 계산 가능한 차이 크기로 바꾸는 수치 언어입니다.
왜 중요한가: 유사도와 함께 검색 후보를 정렬하는 기본 감각을 제공하며, 가까운 후보를 찾는다는 말을 수치 비교 관점으로 이해하게 해 주기 때문입니다. 유사도와 거리는 같은 현상을 서로 다른 방향에서 설명하는 경우가 많아 둘을 함께 읽을 수 있어야 합니다. 또한 어떤 거리 기준을 쓰느냐에 따라 무엇을 비슷하다고 볼 것인가가 달라질 수 있어, 검색 품질이 단순 모델 성능만이 아니라 비교 기준 선택에도 달려 있다는 점을 이해하게 됩니다. 결국 거리는 가깝다는 말을 구현 가능한 계산 규칙으로 바꿔 주는 기준입니다.
함께 볼 개념: 유사도(similarity), 최근접 이웃(nearest neighbor), 벡터 공간(vector space), 유사도 검색(similarity search)
중심 Section: P2-3.4
등장 Section: P1-13.2, P2-3.2, P4-6.4, P4-7.2, P4-7.3, P4-12.2, P4-12.3, P6-3.2
뜻: 많은 벡터나 문서 가운데 관련 후보를 더 빨리 찾기 위해 미리 만들어 두는 검색용 구조입니다. 원본 데이터를 그대로 쌓아 두는 저장 층이 아니라, 나중에 찾을 때 어떤 후보부터 비교하고 어떤 경로로 좁혀 갈지를 미리 조직해 둔 탐색 층에 가깝습니다. 책 맨 뒤의 색인처럼 무엇을 어디서부터 찾아볼지를 빠르게 안내하는 장치라고 생각하면 이해하기 쉽습니다.
왜 중요한가: 모든 벡터를 매번 처음부터 비교하지 않고도 가까운 후보를 빠르게 좁힐 수 있어, 대규모 벡터 검색이 실제 서비스에서 가능해지기 때문입니다. 같은 임베딩을 써도 인덱스 구조에 따라 속도, 메모리 사용, 검색 누락 가능성이 함께 달라지므로, 검색 품질은 모델과 표현뿐 아니라 인덱스 설계의 영향도 크게 받습니다. 이 개념이 있어야 좋은 임베딩을 만들었다와 실제로 빠르고 안정적으로 찾는다를 같은 문제로 보지 않게 됩니다.
함께 볼 개념: 유사도 검색(similarity search), 근사 최근접 이웃(ANN, approximate nearest neighbor), 벡터 데이터베이스(vector database)
뜻: 질문과 관련된 외부 자료를 먼저 찾고, 그 결과를 모델 입력 맥락에 붙여 답변을 생성하는 구조입니다. 핵심은 검색과 생성이 분리된 두 단계라는 점이며, 모델이 원래 알고 있던 것과 방금 가져온 근거를 함께 쓰게 만듭니다. 쉽게 말해 먼저 자료를 찾아 책상 위에 펼쳐 놓고, 그 자료를 보며 답안을 쓰게 하는 방식이라고 볼 수 있습니다.
왜 중요한가: 모델이 내부 파라미터만으로 답하는 한계를 줄이고, 최신 자료나 조직 문서를 근거로 쓰게 만드는 대표 방식이기 때문입니다. 동시에 검색 품질, 청크 구성, 출처 추적이 나쁘면 생성 단계만 좋아도 전체 답변 품질이 흔들린다는 점을 보여 줍니다. 이 개념이 있어야 검색을 붙였다는 사실만으로 답이 자동으로 믿을 만해지는 것은 아니고, 어떤 자료를 어떻게 붙였는지까지 함께 봐야 한다는 점을 이해하게 됩니다. 예를 들어 사내 정책을 묻는 질문에 오래된 문서를 가져오면, 생성 문장이 아무리 매끄러워도 실제로는 잘못된 답을 그럴듯하게 포장할 수 있습니다.
함께 볼 개념: 임베딩(embedding), 유사도 검색(similarity search), 출처 추적(provenance), 검색 인덱스(search index)
뜻: RAG 흐름에서 사용자 질문과 관련 있을 가능성이 높은 외부 문서나 문서 조각을 찾아오는 단계입니다. 일반적인 탐색(search)이나 사람이 웹에서 자료를 찾는 활동보다, 생성 입력에 넣을 근거 후보를 준비하는 정보 검색 단계로 좁혀 읽습니다.
왜 중요한가: 검색이라는 한국어 표현이 탐색 알고리즘, 문서 검색, 웹 검색, RAG의 retrieval을 모두 가리킬 수 있어 오해가 생기기 쉽기 때문입니다. RAG에서 retrieval은 답을 직접 생성하는 단계가 아니라, 생성 모델이 참고할 외부 자료 후보를 고르는 단계입니다. 이 구분이 있어야 검색 결과가 곧 정답이 아니라 추가 입력 맥락의 재료라는 점을 분명히 이해할 수 있습니다.
함께 볼 개념: 검색 증강 생성(retrieval-augmented generation, RAG), 정보 검색(information retrieval), 생성(generation)
뜻: 모델 출력, 검토 규칙, 운영 조치가 이후의 데이터와 라벨을 바꾸어, 나중에 관측되는 결과가 원래 자연 경과와 달라지는 되먹임 구조입니다.
왜 중요한가: 개입이 후속 사건을 줄이거나 로그 길이와 라벨 선택을 바꾸면, 나중 데이터는 원래 안전했다는 증거가 아니라 조치가 먼저 들어간 뒤 남은 결과일 수 있습니다. 이 개념이 있어야 개입 전 신호, 개입 후 운영 결과, 선택적으로 남은 라벨을 같은 층위로 섞지 않고 읽게 됩니다.
함께 볼 개념: 해석 경계(interpretation boundary), 선택적 라벨(selective labels), 인간 감독(human oversight), 출처 추적(provenance)
뜻: 있어야 할 위치에 관측값이나 기록값이 비어 있는 상태입니다. 단순한 빈칸일 수도 있지만, 센서 미작동, 기록 누락, 샘플 경계 불확정, 운영 조건 변화처럼 서로 다른 이유에서 생길 수 있습니다.
왜 중요한가: 결측값을 모두 같은 방식으로 채우거나 버리면 샘플 구조와 특징 의미가 이미 깨졌는지 놓칠 수 있습니다. 이 개념이 있어야 채울 수 있는 값, 표시 열로 남길 정보, 비교에서 물려야 할 샘플을 구분하게 됩니다. 또한 결측을 이해해야 전처리를 단순 청소가 아니라 데이터 모델링 판단과 이어진 단계로 읽을 수 있습니다.
함께 볼 개념: 샘플 단위(sample unit), 특징(feature), 전처리(preprocessing), 원천데이터(source data), 비교 가능성(comparability)
뜻: 입력에 대해 질문을 순차적으로 나누며 예측에 도달하는 트리 기반 모델 계열입니다. 이 조건이 맞는가를 반복해 가지를 따라 내려가며 마지막 잎 노드에서 예측을 내리는 구조라고 볼 수 있습니다. 즉 하나의 복잡한 공식을 한 번에 계산하기보다, 데이터를 여러 기준으로 잘라 가며 비슷한 사례들을 같은 잎으로 모으는 방식입니다.
왜 중요한가: 조건문처럼 읽히는 구조 덕분에 분류와 회귀에서 모두 직관적인 출발점을 제공합니다. 동시에 트리가 깊어질수록 훈련 데이터의 우연한 패턴까지 외워 버리기 쉬워, 해석 가능성과 과적합 위험이 함께 드러나는 대표 사례로 읽을 수 있습니다. 이 개념이 있어야 설명하기 쉬운 모델이 곧 항상 잘 일반화하는 모델은 아니라는 점을 이해하게 되고, 깊이 제한 같은 제약이 왜 필요한지도 더 자연스럽게 읽게 됩니다. 또한 결정트리를 이해하면 모델이 전체 평균 하나로 예측하는 것이 아니라, 질문 순서를 바꾸며 입력 공간을 구획하는 방식으로 규칙을 만든다는 점도 분명해집니다.
함께 볼 개념: 과적합(overfitting), 하이퍼파라미터(hyperparameter), 분류(classification)
중심 Section: P4-14.1
등장 Section: P4-index, P4-3.2, P4-4.2, P4-5.1, P4-14.1, P4-14.2
뜻: 같은 입력, 같은 상태, 같은 규칙이 주어지면 같은 결과로 닫히는 성질입니다. 여러 가능성 중 하나가 흔들리며 선택되는 구조가 아니라, 조건을 따라가면 결과가 하나로 정해지는 실행 방식이라고 볼 수 있습니다.
왜 중요한가: 규칙 기반 시스템의 장점인 예측 가능성과 재현성을 이해하는 데 필요합니다. 이 개념이 있어야 같은 조건이면 같은 결론이 나온다는 운영상의 강점과, 그 결론이 반드시 옳다는 정확성 판단을 구분할 수 있습니다. 또한 결정성을 알아야 생성형 AI나 확률적 모델처럼 같은 요청에서도 결과가 달라질 수 있는 구조와 비교할 수 있습니다.
함께 볼 개념: 비결정성(nondeterminism), 재현성(reproducibility), 규칙 기반 시스템(rule-based system)
뜻: 손실이 줄어드는 방향으로 파라미터를 조금씩 바꾸는 반복 최적화 방법입니다. 현재 위치에서 가장 가파르게 내려가는 방향의 반대로 한 걸음씩 움직이며 더 낮은 손실 지점을 찾는 과정으로 이해하면 됩니다. 즉 한 번에 정답 파라미터를 찍는 방식이 아니라, 방향 신호를 보고 조금씩 갱신하며 더 나은 지점으로 내려가는 절차입니다.
왜 중요한가: 그래디언트가 실제 학습에서 어떻게 사용되는지 보여 주는 가장 대표적인 연결 고리이기 때문입니다. 이 개념이 있어야 학습이 정답을 한 번에 계산하는 일이 아니라, 손실 지형 위를 반복적으로 이동하는 탐색 과정이라는 점이 선명해집니다. 예를 들어 지금 손실이 높은 위치에 있어도 최솟값을 바로 알 수는 없지만, 현재 어느 방향으로 움직이면 더 낮아질 가능성이 큰지는 그래디언트가 알려 줄 수 있습니다. 결국 경사하강법을 이해해야 학습이 수식을 한 번 풀어 끝내는 일보다 방향을 보고 반복적으로 조정하는 일에 더 가깝다는 점도 분명해집니다.
함께 볼 개념: 그래디언트(gradient), 최적화(optimization), 하이퍼파라미터(hyperparameter)
중심 Section: P2-6.3
등장 Section: P1-5.1, P2-4.3, P2-4.5, P2-4.6, P2-15.2
뜻: 모델의 연산과 값 의존 관계를 노드와 연결로 펼쳐 놓아, 앞 방향 값 계산과 뒤 방향 그래디언트 계산 흐름을 읽게 하는 표현입니다. 큰 수식을 한 덩어리로 두지 않고 곱하기, 더하기, 활성화 같은 작은 계산 블록과 그 연결 순서로 다시 그린 그림에 가깝습니다. 즉 계산 그래프는 무엇을 먼저 계산하고, 그 결과가 다음 어디로 들어가는가를 눈에 보이게 펼친 지도라고 볼 수 있습니다.
왜 중요한가: 큰 수식 하나로 보이면 추상적인 계산을 작은 연산 블록으로 나누어 보고, 자동미분이 gradient를 어떻게 조직하는지도 이해하게 해 주기 때문입니다. 이 개념이 있어야 역전파가 마법처럼 일어나는 것이 아니라, 연결된 계산 경로를 따라 기여도를 되돌려 보내는 절차라는 점을 더 구체적으로 읽을 수 있습니다. 또한 어떤 중간값을 저장해야 하는지, 어떤 연산이 앞선 결과에 의존하는지도 함께 드러나므로 학습 계산의 순서를 구조적으로 이해하게 됩니다.
함께 볼 개념: 역전파(backpropagation), 그래디언트(gradient), 자동미분(automatic differentiation)
뜻: 가능한 후보가 너무 빠르게 늘어나 모든 경우를 현실적인 시간과 자원 안에 다 살펴보기 어려운 상태입니다. 핵심은 컴퓨터를 조금 더 빠르게 만들면 풀린다는 수준이 아니라, 문제 크기가 커질수록 필요한 계산량이 너무 급격히 불어난다는 점에 있습니다. 즉 문제의 본질이 단순한 구현 속도 부족이 아니라, 경우의 수 폭발 자체에 있는 상황입니다.
왜 중요한가: 단순히 컴퓨터가 느린 문제가 아니라, 탐색 공간 자체가 너무 커질 수 있다는 점을 이해해야 휴리스틱과 가지치기의 필요를 정확히 읽을 수 있기 때문입니다. 이 개념이 있어야 모든 후보를 확인하는 방식이 이론적으로는 가능해도 실제 시스템에서는 왜 근사 해법과 우선순위 전략이 필요해지는지 설명할 수 있습니다. 예를 들어 가능한 경로를 전부 따져 볼 수는 있어도, 실제 서비스 응답 시간 안에 끝내려면 일부 후보를 먼저 보고 나머지는 과감히 버리는 전략이 필요합니다.
함께 볼 개념: 상태공간 탐색(search), 탐색 공간(search space), 휴리스틱(heuristic)
중심 Section: P1-7.1
등장 Section: P1-index, P1-6.1, P1-7.2, P1-7.4, P1-8.1
뜻: AI 에이전트나 자동화 시스템이 현재 작업 목적에 비해 지나치게 넓은 실행 권한과 행동 자율성을 가진 상태입니다. 단순히 도구가 많다는 뜻이 아니라, 읽기만 필요한 작업인데 쓰기와 전송과 배포까지 열려 있거나, 확인 단계가 필요한데 곧바로 실행까지 이어질 수 있는 상태를 가리킵니다. 즉 과도한 권한은 할 수 있는 일이 해야 하는 일보다 너무 넓게 열려 있는 구조적 위험입니다.
왜 중요한가: 생성형 AI는 한 번의 판단 오류나 입력 공격이 곧바로 실제 상태 변경으로 이어질 수 있어, 권한 과잉이 작은 실수를 큰 사고로 확대하기 때문입니다. 이 개념이 있어야 모델의 지능 수준과 별개로, 시스템이 허용한 실행 자율성 자체가 위험 원인이 될 수 있다는 점을 이해하게 됩니다. 또한 과도한 권한을 이해해야 최소 권한, 실행 범위 제한, 명시적 승인, 중단 권한 같은 장치들이 왜 편의를 줄이는 부가 절차가 아니라 사고 규모를 줄이는 핵심 안전장치인지도 더 선명하게 읽게 됩니다.
함께 볼 개념: 최소 권한(least privilege), 도구 실행 권한(permission), 인간 감독(human oversight), 보안(security), AI 에이전트(AI agent)
뜻: 데이터 안의 관계를 충분히 배우지 못해 학습 데이터와 새 데이터 모두에서 성능이 약한 상태입니다. 모델이 너무 단순하거나 학습이 충분히 진행되지 않아, 아직 중요한 패턴 자체를 붙잡지 못한 상태라고 볼 수 있습니다. 쉽게 말해 문제를 너무 대충 본 탓에, 훈련 때 본 예시에서도 기본 규칙을 제대로 설명하지 못하는 상황입니다.
왜 중요한가: 학습이 잘 안 된 경우와 너무 많이 맞춘 경우를 구분할 때 필요합니다. 이 개념이 있어야 성능이 낮다고 해서 무조건 과적합을 의심하지 않고, 모델 용량 부족인지 학습 부족인지도 따로 따져 보게 됩니다. 또한 과소적합은 더 일반적이라서 좋은 상태가 아니라, 아직 기본 패턴조차 충분히 설명하지 못한 상태라는 점을 보여 주어 모델 단순화와 성능 저하를 같은 말로 섞지 않게 합니다. 결국 과적합과 과소적합은 둘 다 문제지만, 원인과 손보는 방향이 다르다는 점을 함께 읽어야 합니다.
함께 볼 개념: 일반화(generalization), 과적합(overfitting), 모델 복잡도(model complexity)
뜻: 학습 데이터에 너무 맞춰져 새 데이터에서는 성능이 떨어지는 상태입니다. 훈련 때 본 사례의 우연한 흔들림이나 잡음까지 함께 외워 버려, 익숙한 문제에는 강하지만 처음 보는 문제에는 약한 상태라고 이해할 수 있습니다. 즉 진짜로 반복되는 패턴뿐 아니라, 훈련 데이터에만 있던 사소한 흔들림까지 중요한 규칙처럼 배워 버린 상황입니다.
왜 중요한가: 데이터에서 패턴을 배운다는 것이 단순 암기가 아님을 설명할 때 핵심이 됩니다. 이 개념이 있어야 훈련 점수와 검증 점수를 따로 보는 이유, 모델이 복잡해질수록 왜 정규화와 검증 성능 기준의 학습 중단이 필요해지는지 자연스럽게 이어집니다. 또한 훈련 성능이 높다와 실제로 잘 쓴다가 같은 말이 아니라는 점을 분명히 해 주므로, 모델 비교 기준을 학습 점수 하나로 닫지 않게 됩니다. 예를 들어 모의고사 문제만 외운 학생이 처음 보는 실전 문제에는 약한 상황과 비슷하게 읽으면 이해가 쉽습니다.
함께 볼 개념: 일반화(generalization), 과소적합(underfitting), 정규화(regularization)
뜻: 어디를 지나갈지뿐 아니라 언제 어떤 속도와 움직임으로 갈지까지 포함한 실행 직전의 움직임 계획입니다. 경로(path, route)가 공간적 흐름에 가깝다면, 궤적은 시간, 속도, 가속도 같은 움직임 조건까지 포함합니다.
왜 중요한가: 자율주행이나 로봇 계획에서 어느 길을 갈 것인가와 지금 몇 초 동안 어떻게 움직일 것인가는 같은 문제가 아니기 때문입니다. 이 개념이 있어야 글로벌 경로 계획과 로컬 움직임 계획을 구분하고, 경로를 알더라도 실제 제어 명령이 바로 정해지는 것은 아니라는 점을 이해하게 됩니다.
뜻: 행동을 실행한 뒤 새로 얻은 정보나 결과입니다. 강화학습에서는 환경이 돌려주는 다음 화면, 수치, 신호가 될 수 있고, 서비스형 AI 에이전트에서는 검색 결과, 오류 메시지, 파일 내용, 테스트 출력처럼 다음 판단에 쓰일 새 정보가 됩니다.
왜 중요한가: 여러 단계 문제에서는 한 번 행동한 뒤 무엇을 새로 알게 되었는지가 다음 행동과 종료 판단을 바로 바꾸기 때문입니다. 검색 결과, 오류 메시지, 도구 실행 결과, 테스트 결과는 모두 관찰이 되어 다음 상태를 갱신하고 계획을 수정하게 만듭니다. 이 개념이 있어야 AI 에이전트 실행을 한 번 답하는 일이 아니라 행동하고 관찰하고 다시 선택하는 반복 구조로 읽게 됩니다. 또한 관찰을 이해해야 행동은 했지만 새 정보가 거의 없는 경우와 작은 행동 하나로 중요한 단서가 생긴 경우를 구분하게 되어, 어떤 행동이 정보 획득 측면에서 가치가 큰지도 더 잘 해석하게 됩니다.
함께 볼 개념: AI 에이전트(AI agent), 에이전트 상태(state), 에이전트 행동(action)
뜻: 미리 정답 라벨을 주지 않은 데이터 안에서 비슷한 항목끼리 묶음을 찾는 문제 유형입니다. 사람이 먼저 이름표를 주는 것이 아니라, 데이터 자체의 가까움과 패턴을 바탕으로 자연스럽게 함께 놓일 만한 그룹을 찾는 접근입니다. 즉 군집화는 무엇을 맞힐까보다 데이터가 스스로 어떻게 갈라져 보이는가를 먼저 묻는 문제에 가깝습니다.
왜 중요한가: 분류처럼 정답을 맞히는 문제와 달리, 데이터 안의 구조를 먼저 발견하는 질문이 따로 있다는 점을 보여 주기 때문입니다. 이 개념이 있어야 비지도학습이 정답이 없는 학습이라는 소극적 설명을 넘어서, 숨은 구조를 찾는 학습이라는 적극적 목표를 가진다는 점이 드러납니다. 중심을 기준으로 묶는 방식, 밀도 높은 영역을 찾는 방식, 가까운 묶음을 단계적으로 합치는 방식처럼 군집화 방법은 여러 갈래가 있지만, 결과 번호 자체가 의미를 보장하지 않으므로 묶음 뒤에 사람 해석이 다시 붙어야 합니다.
함께 볼 개념: 분류(classification), 예측(prediction), 데이터셋(dataset)
뜻: 어떤 도구나 동작을 어디까지 허용할지 정한 실행 가능 범위입니다. 같은 기능이라도 읽기만 가능한가, 수정까지 가능한가, 외부 세계에 실제 변화를 일으킬 수 있는가처럼 허용 범위가 층위별로 나뉠 수 있고, 누가 어떤 조건에서 그 범위를 갖는지도 함께 정해집니다. 즉 권한은 실행 전에 미리 잘라 둔 가능 범위이며, 개별 행동을 그때그때 허락할지 묻는 승인과는 다른 층위의 통제 장치입니다.
왜 중요한가: 같은 도구 호출도 읽기, 쓰기, 배포처럼 위험도와 허용 범위가 다르므로, 실행할 수 있다와 실행해도 된다를 구분해야 운영 판단과 책임 경계가 분명해지기 때문입니다. 이 구분이 있어야 모델 능력과 제도적 허용 범위를 섞지 않게 되고, 승인 절차가 왜 권한과 별개로 또 필요한지도 이해하게 됩니다. 결국 권한은 가능한 행동의 바깥 경계를 정하는 장치이고, 안전성과 검토는 그 경계 안에서 지금 무엇을 실제로 할지 다시 판단하는 장치라는 점이 함께 읽혀야 합니다. 또한 권한을 이해해야 작은 프롬프트 실수도 넓은 쓰기 권한과 결합하면 큰 피해로 이어질 수 있다는 점도 더 분명하게 보게 됩니다.
함께 볼 개념: 최소 권한(least privilege), 에이전트 도구 사용(tool use), AI 책임성(accountability)
중심 Section: P7-6.2
등장 Section: P1-14.2, P1-14.3, P1-14.4, P6-14.1, P6-16.2, P6-18.2, P7-6.1
뜻: 사람이 조건, 사실, 지식, 절차를 명시적 규칙으로 적고 그 규칙을 적용해 결론이나 행동을 만드는 문제 해결 방식입니다. 특정 구현물인 규칙 기반 시스템보다 넓은 말로, AI 문제를 사람이 읽을 수 있는 기준과 절차로 먼저 구성하려는 접근을 가리킵니다.
왜 중요한가: 기호 기반 AI와 머신러닝의 차이를 비교할 때, 판단 기준을 어디서 얻는지 분명히 해 주기 때문입니다. 규칙 기반 접근은 설명과 통제가 쉽지만, 예외와 변화가 많아질수록 규칙 작성과 유지가 어려워질 수 있습니다. 이 개념이 있어야 규칙을 쓰는 방식과 데이터에서 패턴을 학습하는 방식을 같은 층위에서 비교하고, 현대 AI 서비스 안에서도 규칙과 모델이 서로 다른 책임을 나눌 수 있음을 이해하게 됩니다.
함께 볼 개념: 기호 기반 AI(symbolic AI), 규칙 기반 시스템(rule-based system), 지식 표현(knowledge representation), 머신러닝(machine learning)
뜻: 현재 사실과 사람이 작성한 규칙을 대조해 결론이나 행동을 정하는 시스템입니다. 학습된 수치 파라미터가 스스로 경계를 만드는 방식이라기보다, 사람이 이 조건이면 이렇게 하라는 판단 기준을 명시적으로 적어 두고 그 규칙을 적용하는 구조에 가깝습니다. 따라서 입력이 어떻게 규칙과 맞물렸는지 추적하기 쉽지만, 규칙에 적히지 않은 예외 상황에는 쉽게 약해질 수 있습니다.
왜 중요한가: 설명 가능성, 통제 가능성, 정책·권한·절차 자동화의 강점과 한계를 이해하는 출발점이 됩니다. 이 개념이 있어야 머신러닝 모델이 데이터를 통해 경향을 배우는 방식과, 규칙 기반 시스템이 사람이 쓴 지식을 그대로 실행하는 방식을 분리해 이해할 수 있습니다. 예를 들어 권한이 없으면 배포 금지 같은 운영 통제는 규칙 기반으로 분명하게 다루기 좋지만, 사진 속 동물이 개인지 고양이인지처럼 경계가 흐린 인식 문제는 규칙만으로 처리하기 어렵다는 차이도 함께 읽게 됩니다.
함께 볼 개념: 기호 기반 AI(symbolic AI), 추론 엔진(inference engine)
뜻: 여러 편미분을 순서 있게 모은 벡터로, 각 방향의 변화율 정보를 함께 담은 표현입니다. 어떤 값을 조금 움직였을 때 손실이 어느 방향으로 얼마나 민감하게 변하는지를 한꺼번에 담은 방향 안내표에 가깝습니다. 즉 한 변수의 기울기 하나가 아니라, 많은 파라미터를 각각 어느 쪽으로 조정해야 할지를 동시에 적어 둔 신호라고 볼 수 있습니다.
왜 중요한가: 학습에서 손실을 줄이는 방향을 읽고 경사하강법과 역전파를 이해하는 핵심 개념이기 때문입니다. 이 개념이 있어야 파라미터를 왜 임의로 바꾸지 않고, 손실이 줄어드는 방향을 따라 조금씩 갱신하는지 설명할 수 있습니다. 예를 들어 파라미터가 수천 개면, 각 값을 올릴지 내릴지에 대한 방향 정보가 함께 있어야 실제 업데이트가 가능해집니다. 결국 그래디언트를 이해해야 학습이 막연히 더 좋아지게 조정한다는 말이 아니라, 손실을 줄이는 방향 신호를 따라 수치를 바꾸는 계산 과정이라는 점도 더 선명하게 읽게 됩니다.
함께 볼 개념: 편미분(partial derivative), 벡터(vector), 모델 훈련(model training)
중심 Section: P2-4.3
등장 Section: P2-4.4, P2-4.5, P2-4.6, P2-6.3, P5-5.1, P5-5.2, P5-6.1, P5-7.1
뜻: 입력이 어떤 값에 가까워질 때 함수값이 어디로 가까워지는지 보는 표기입니다. 실제로 그 점에 정확히 도달했는가보다, 그 근처로 갈수록 값이 어떤 방향으로 다가가는가를 읽는 수학적 관찰 도구에 가깝습니다. 즉 한 점을 딱 찍어 읽는 도구라기보다, 그 점 주변에서 값의 흐름이 어떻게 모여드는지 살피는 언어라고 볼 수 있습니다.
왜 중요한가: 작은 변화의 경향, 변화율, 미분을 읽는 수학 언어의 출발점이 되기 때문입니다. 이 개념이 있어야 순간 변화율과 연속성 같은 아이디어가 왜 단순 대입만으로는 설명되지 않는지 이해할 수 있습니다. 예를 들어 분모가 0이 되어 바로 계산할 수 없는 식도, 그 점에 가까워질 때 전체 값이 어떤 수로 접근하는지를 보면 중요한 성질을 읽어 낼 수 있습니다. 결국 극한은 정확히 그 점의 값과 그 점으로 다가갈 때의 흐름을 구분해 읽게 만드는 핵심 장치입니다.
함께 볼 개념: 수렴(convergence), 함수(function), 변화율(rate of change)
뜻: 현재 주장이나 판단을 실제로 지지하거나 약화시키는 관측 정보와 단서입니다. 문장 하나를 그럴듯하게 만드는 배경 장식이 아니라, 지금 내린 결론을 검토할 때 연결 관계를 설명할 수 있는 자료를 뜻합니다. 중요한 점은 근거가 있다는 사실보다, 그 근거가 지금 주장과 실제로 어떻게 연결되는지가 더 본질이라는 점입니다. 즉 검증 근거는 링크나 인용 이름표 자체가 아니라, 이 자료가 지금 이 주장에 왜 해당하는가를 설명할 수 있어야 비로소 근거 역할을 합니다.
왜 중요한가: 불확실한 상태에서도 새 관측이 들어오면 결론의 그럴듯함이 어떻게 바뀌는지 읽게 해 주기 때문입니다. 생성형 AI 문맥에서는 자연스러운 답변과 근거 있는 답변을 구분하는 기준점이기도 합니다. 이 개념이 있어야 말이 그럴듯하다와 실제로 뒷받침되는 자료가 있다를 분리하게 되고, 검토 과정에서도 무엇을 다시 확인해야 하는지 더 선명해집니다. 예를 들어 논문 제목 하나만 붙이는 것은 충분한 검증 근거가 아닐 수 있고, 실제로 그 논문이 지금 주장한 정의나 수치를 지지하는지까지 확인해야 합니다. 또한 검증 근거를 이해해야 관련 있어 보이는 자료와 현재 결론을 직접 떠받치는 자료를 구분하게 되고, 검색 결과를 많이 붙이는 일과 실제 주장을 검증하는 일을 같은 것으로 보지 않게 됩니다.
함께 볼 개념: 불확실성(uncertainty), 확률(probability), 확률 추론(probabilistic reasoning), 출처 추적(provenance), 인간 감독(human oversight)
중심 Section: P1-12.3
등장 Section: P1-6.2, P1-10.3, P2-5.1, P7-5.1, P7-5.3
뜻: 정확히 가장 가까운 벡터를 항상 찾기보다, 충분히 가까운 후보를 빠르게 찾도록 설계한 검색 방식입니다. 절대 최선 하나를 보장하는 대신, 실제 서비스에서 쓸 만큼 좋은 후보를 더 짧은 시간에 찾는 쪽으로 설계한 절충형 검색이라고 이해하면 됩니다. 즉 모든 후보를 끝까지 비교해 정확한 최근접을 찾는 기준선과 비교하면서, 조금 덜 완벽해도 훨씬 빨리 찾는 선택을 의도적으로 받아들이는 방식입니다.
왜 중요한가: 벡터가 매우 많을 때 속도와 품질 사이의 절충이 필요하다는 점을 보여 주며, 실제 벡터 검색 구현의 핵심 선택 기준이 되기 때문입니다. 이 개념이 있어야 검색 품질이 조금만 달라도 비용과 지연 시간이 크게 달라질 수 있다는 운영 현실을 함께 읽게 됩니다. 예를 들어 수천 개가 아니라 수억 개 벡터를 다룰 때는, 매번 정확한 최적해를 찾는 것보다 응답 시간을 지키는 쪽이 서비스 전체 품질에 더 중요할 수 있습니다.
함께 볼 개념: 최근접 이웃(nearest neighbor), 검색 인덱스(search index), 벡터 데이터베이스(vector database)
뜻: 복잡한 모델이 정말 의미 있는 개선을 만들었는지 확인하기 위해 먼저 두는 가장 단순한 비교용 모델이나 점수 기준입니다. 단순하지만 해석 가능한 출발점을 먼저 세워 두고, 그 위에서 복잡성을 추가할 가치가 있는지 보는 장치라고 할 수 있습니다. Part 7의 프로젝트 문맥에서는 가장 단순한 기준도 어디까지 맞는가를 먼저 남겨 두는 실행 기록의 첫 비교 대상이라고 볼 수 있습니다.
왜 중요한가: 점수가 높아 보여도 쉬운 문제 덕분인지 실제 모델링 덕분인지 구분하려면, 후보 모델이 최소한 넘어야 할 출발점을 먼저 고정해야 하기 때문입니다. 기준 모델이 없으면 복잡한 방법이 실제로 나아진 것인지 설명하기 어려워집니다. 이 개념이 있어야 정확도 숫자만 남기지 않고, 기준 모델이 틀린 샘플과 새 모델이 바꾼 샘플을 함께 비교하게 되어 Part 7의 실행 요약과 틀린 사례 목록도 더 살아납니다.
함께 볼 개념: 평가 지표(metric), 기준선(baseline), 모델 선택(model selection), 문제 정의(task definition)
뜻: 지금 상태를 그냥 절대값으로 읽지 않고, 평소 구간이나 비교 대상과 나란히 놓아 변화와 차이를 읽기 위해 먼저 두는 참조 기준입니다. 숫자 하나를 단독으로 읽지 않고, 무엇과 비교해 달라졌는지를 말하게 만드는 기준점이라고 볼 수 있습니다.
왜 중요한가: 최근 구간이나 특정 사건의 수치만 따로 보면 무엇이 달라졌는지 말하기 어렵기 때문에, 같은 단위의 평소 구조나 비교 집단을 함께 두어야 차이 문장과 비교 리포트가 성립하기 때문입니다. 운영 데이터와 모델 점수를 해석할 때 모두 공통으로 필요한 읽기 틀이기도 합니다. 이 개념이 있어야 점수가 높다는 절대값만 보지 않고, 무엇과 비교해 얼마나 나아졌는가를 먼저 묻게 되어 과장된 해석을 줄이게 됩니다. 또한 기준선을 이해해야 Part 7의 분석 프로젝트가 숫자 계산보다 먼저 비교 바닥선을 고정하는 문서 작업이라는 점도 더 선명하게 읽게 됩니다.
함께 볼 개념: 비교 가능성(comparability), 모델링 출력 구조(output structure), 기준 모델(baseline model), 평가 지표(metric)
뜻: 기호, 규칙, 논리, 명시적 지식 표현을 사용해 문제를 풀려는 AI 접근입니다. 데이터를 많이 보여 주어 경향을 배우게 하기보다, 사람이 이해 가능한 개념과 규칙을 기호 형태로 적어 두고 그 조작으로 추론하려는 흐름이라고 볼 수 있습니다. 즉 패턴을 수치적으로 익힌다보다 개념과 규칙을 명시적으로 적어 둔다는 쪽에 더 가까운 전통입니다.
왜 중요한가: 머신러닝 이전의 대표 흐름을 이해하고, 명시적 규칙과 지식 표현의 위치를 잡는 데 필요합니다. 이 개념이 있어야 현대 AI를 설명할 때도 모든 AI가 곧 통계적 학습은 아니라는 점, 그리고 설명 가능성과 일반화 방식이 서로 다른 두 전통이 있었다는 점을 분명히 읽을 수 있습니다. 또한 규칙 기반 시스템과 전문가 시스템이 왜 자연스럽게 이 계보 안에서 등장했는지도 함께 연결됩니다. 결국 기호 기반 AI를 이해해야 AI가 배운다는 말과 AI가 규칙을 적용한다는 말을 같은 의미로 섞지 않게 됩니다.
함께 볼 개념: 규칙 기반 시스템(rule-based system), 지식 표현(knowledge representation)
중심 Section: P1-2.1
등장 Section: P1-index, P1-2.3, P1-3.1, P1-8.1, P1-11.1, P1-summary
뜻: 강화학습 에이전트가 행동을 하고, 그 결과 상태 변화와 보상이 돌아오는 바깥 세계 또는 상호작용 대상입니다. 일반적인 실행 환경이나 개발 환경이 아니라, 강화학습 문제에서 에이전트 바깥의 반응 규칙을 담은 대상입니다.
왜 중요한가: 강화학습이 모델 내부 계산만이 아니라, 행동 이후 바깥 세계가 어떻게 반응하는지를 함께 다루는 문제라는 점을 보여 주기 때문입니다. 이 개념이 있어야 강화학습 에이전트의 성능은 정책만으로 정해지는 것이 아니라, 어떤 환경에서 어떤 보상 규칙과 상태 전이를 만나느냐에도 크게 좌우된다는 점을 이해하게 됩니다. 즉 같은 행동도 환경이 다르면 전혀 다른 결과를 낳을 수 있다는 감각이 중요합니다. 또한 환경을 이해해야 모델이 나쁘다는 판단과 문제가 놓인 세계 규칙이 다르다는 상황을 분리해 읽게 됩니다. 다시 말해 환경은 강화학습 에이전트가 풀어야 할 문제의 규칙 자체를 담는 바깥 조건입니다.
함께 볼 개념: AI 에이전트(AI agent), 에이전트 상태(state), 보상(reward)