뜻: 생성 시 다음 토큰 후보 분포를 얼마나 날카롭거나 퍼지게 읽을지 조정하는 설정값입니다. 가장 그럴듯한 후보에 더 몰아줄지, 덜 유력한 후보에도 더 기회를 줄지를 조절하는 다이얼이라고 이해하면 됩니다. 보통 temperature가 낮을수록 상위 후보 쏠림이 강해지고, 높을수록 덜 유력한 후보도 더 자주 선택될 수 있습니다.
왜 중요한가: 모델이 이미 학습한 지식 자체와, 실제 생성에서 어떤 후보를 얼마나 보수적 또는 다양하게 고를지를 구분해 이해하게 해 주기 때문입니다. 이 개념이 있어야 응답 다양성 조절과 모델 지식 변화가 같은 일이 아니라는 점도 더 분명히 읽게 됩니다. 또한 같은 모델이라도 temperature 설정에 따라 거의 가장 가능성 높은 답을 고르는 모드와 여러 후보를 더 넓게 시도하는 모드가 달라질 수 있어, 생성 결과 비교에서는 모델 이름뿐 아니라 샘플링 설정도 함께 봐야 한다는 점을 붙잡게 됩니다. 특히 temperature는 더 창의적이다 같은 모호한 말보다, 후보 분포를 얼마나 평평하게 만들 것인가의 문제로 읽어야 오해가 줄어듭니다.
함께 볼 개념: 샘플링(sampling), 다음 토큰 예측(next-token prediction), 생성(generation)
뜻: 지도학습에서 모델이 맞혀야 하는 정답 열 또는 목표 값입니다. 라벨이 이미 붙어 있는 정답 열일 수도 있고, 앞으로 예측 문제로 삼기 위해 별도로 정의한 결과 열일 수도 있습니다. 즉 타깃은 데이터표 안의 많은 열 가운데 모델이 최종적으로 맞혀야 하는 답 자리를 지정한 것입니다.
왜 중요한가: 원본 표를 그대로 쓰지 않고 입력 특징과 정답을 나누어 읽어야 학습 구조가 분명해지며, 타깃 열을 잘못 입력에 섞으면 데이터 누수 문제가 생기기 때문입니다. 결국 타깃 선택은 무엇을 맞히는 문제인가를 닫는 핵심 결정입니다. 이 개념이 있어야 같은 데이터표를 두고도 어떤 열을 타깃으로 잡느냐에 따라 전혀 다른 학습 문제가 만들어질 수 있다는 점을 분명히 이해하게 됩니다. 또한 타깃이 바뀌면 필요한 특징, 평가 방식, 실무 활용 시나리오도 함께 바뀐다는 점을 읽게 됩니다.
함께 볼 개념: 특징(feature), 데이터셋(dataset), 라벨(label), 문제 정의(task definition), 목표 라벨 후보(target candidate)
뜻: 값이 어떤 종류이며 어떤 연산을 허용하는지 구분하는 정보입니다. 숫자, 문자열, 리스트, 딕셔너리처럼 값의 해석 방식과 가능한 동작 범위를 함께 정해 주는 분류라고 볼 수 있습니다. 즉 타입은 값의 겉모양보다 어떻게 다뤄야 하는가를 정해 주는 규칙 묶음입니다.
왜 중요한가: 같은 + 기호도 숫자에는 덧셈이고 문자열에는 이어 붙이기가 될 수 있습니다. 타입을 구분해야 오류 원인, 메서드 사용 가능 여부, 배열 계산 제한을 함께 읽을 수 있습니다. 이 개념이 있어야 코드를 볼 때 값이 들어 있다에서 멈추지 않고, 어떤 규칙으로 해석되는 값인가를 먼저 따지게 됩니다. 결국 타입은 문법 암기보다, 데이터와 연산이 어디서 맞물리고 어디서 충돌하는지 읽는 가장 기본적인 해석 단위가 됩니다. 초심자가 자주 겪는 오류 상당수도 값은 있는데 타입이 기대와 다르다는 데서 시작합니다.
뜻: 문제를 풀 때 고려할 수 있는 상태와 선택지, 경로 후보의 전체 구조입니다. 단순히 답 후보 목록만이 아니라, 현재 어디에 있고 다음에 무엇을 할 수 있으며 그 선택이 어떤 새 상태로 이어지는지까지 포함한 전체 가능성 지형이라고 볼 수 있습니다.
왜 중요한가: 선택 단계가 늘어날수록 후보 수가 왜 빠르게 커지는지 설명해 주며, 완전 탐색이 어려워지는 배경을 직접 보여 주기 때문입니다. 이 개념이 있어야 계산이 느린 이유를 단순 구현 미숙으로만 보지 않고, 애초에 후보 공간 자체가 얼마나 큰지부터 따져 보게 됩니다. 결국 탐색 공간은 휴리스틱, 근사, 가지치기가 왜 필요한지 설명하는 배경이 됩니다. 또한 탐색 공간을 이해해야 문제를 더 잘 푼다는 말이 종종 더 좋은 알고리즘을 쓴다뿐 아니라 후보 구조를 더 작고 읽기 좋게 표현한다는 뜻일 수도 있다는 점도 함께 보게 됩니다.
함께 볼 개념: 탐색(search), 계산 한계(computational limit), 완전 탐색(exhaustive search)
뜻: 가능한 상태와 행동을 따라가며 목표 상태에 도달하는 경로나 해답을 찾는 문제 해결 방식입니다. 모든 답을 미리 알고 있는 것이 아니라, 여러 후보를 비교하고 다음에 어디로 갈지 선택해 가며 답에 가까워지는 절차라고 볼 수 있습니다. 즉 탐색은 정답 공식을 한 번에 계산한다보다 가능한 길들 사이에서 유망한 경로를 찾아간다에 더 가깝습니다.
왜 중요한가: 규칙만으로 곧바로 답이 나오지 않을 때, 어떤 후보를 먼저 보고 어떤 순서로 찾아갈지 정하는 AI의 오래된 핵심 축이기 때문입니다. 이 개념이 있어야 문제 해결이 항상 공식 대입만은 아니라는 점을 이해하게 되고, 표현된 상태 공간 위에서 우선순위, 가지치기, 휴리스틱을 어떻게 쓰는지가 성능을 크게 바꾼다는 점도 읽게 됩니다. 예를 들어 길 찾기, 게임 수 읽기, 조합 최적화, 검색 인덱스 탐색은 겉모습은 달라도 모두 모든 후보를 다 볼 수 없을 때 무엇을 먼저 볼까라는 탐색 문제를 품고 있습니다. 결국 탐색을 이해해야 계산 한계(computational limit), 완전 탐색(exhaustive search), 휴리스틱(heuristic)이 왜 한 묶음으로 등장하는지도 자연스럽게 연결됩니다.
함께 볼 개념: 휴리스틱(heuristic), 지식 표현(knowledge representation), 제어(control)
뜻: 아직 충분히 시도하지 않은 행동을 일부러 해 보며 정보를 늘리는 선택입니다. 지금 당장 최고로 보이지 않더라도, 더 나은 전략이 숨어 있는지 확인하기 위해 일부러 새로운 행동을 시험하는 단계라고 볼 수 있습니다.
왜 중요한가: 현재 좋아 보이는 행동만 반복하면 더 나은 행동을 영영 발견하지 못할 수 있어, 강화학습에서 학습 자체를 가능하게 만드는 축이 되기 때문입니다. 이 개념이 있어야 지금 당장 점수가 높은 선택과 장기적으로 더 좋은 전략을 찾기 위한 시도를 구분하게 되고, 강화학습이 단순 최적 행동 반복으로는 성립하지 않는다는 점도 읽게 됩니다. 또한 탐험을 이해해야 실수처럼 보이는 선택이 사실은 정보 수집을 위한 합리적 시도일 수 있다는 점, 그리고 탐험 비율을 어떻게 조절하느냐가 학습 속도와 최종 성능 모두에 영향을 준다는 점도 함께 보게 됩니다.
뜻: 명령을 입력하고 결과를 보는 문자 기반 창 또는 앱입니다. 셸이 명령을 해석한다면, 터미널은 그 셸과 사람이 만나는 작업 창에 가깝습니다. 초심자 입장에서는 코드를 적는 편집기와 달리 코드를 실행하고 시스템 상태를 확인하는 창으로 구분해 이해하면 됩니다.
왜 중요한가: Python 실행, 가상환경 활성화, 패키지 설치, 파일 확인처럼 로컬 실습의 많은 단계가 터미널에서 시작되기 때문입니다. 터미널을 알아야 코드 작성과 환경 운영이 서로 다른 층위라는 점이 분명해지고, 프로그램 안의 오류와 실행 전에 준비가 안 된 문제도 더 잘 구분하게 됩니다. 즉 터미널은 단순 입력창이 아니라, 코드를 둘러싼 실행 환경을 다루는 기본 작업장이라는 감각을 만들어 줍니다. 에이전트나 자동화 도구가 실행한 명령을 읽을 때도, 실제로 무엇이 시스템에 적용되는지 이해하는 기본 문해력이 됩니다.
함께 볼 개념: 셸(shell), 작업 폴더(working directory), 명령(command)
뜻: 테스트 단계에서 사용한 데이터, 설정, 점수, 오류 샘플, 메모를 묶어 남긴 기록입니다. 단순히 테스트 정확도 0.85처럼 최종 숫자만 적는 것이 아니라, 어떤 테스트 입력과 어떤 결과가 나왔는지 다시 읽을 수 있게 정리한 최종 점검 문서라고 볼 수 있습니다. 즉 테스트 기록은 테스트를 한 사실 자체보다, 그 테스트를 나중에 다시 검토할 수 있도록 남긴 흔적입니다.
왜 중요한가: 테스트는 최종 확인 단계인데도 기록이 약하면 나중에 같은 모델과 같은 데이터로 무엇을 확인했는지 다시 구분하기 어려워지기 때문입니다. 이 개념이 있어야 평가 기록과 테스트 기록을 같은 말로 섞지 않고, 반복 비교용 중간 기록과 최종 확인용 기록을 분리해 읽게 됩니다. 또한 테스트 기록을 이해해야 Part 7의 이미지·텍스트 프로젝트가 최종 점수만이 아니라 오류 샘플, 비교 이유, 다음 조치까지 다시 이어지는 살아 있는 문서라는 점도 더 분명하게 읽게 됩니다.
함께 볼 개념: 테스트(test), 평가 기록(evaluation record), 오류 사례(error case), 실행 요약(execution summary), 재현성(reproducibility)
뜻: 학습과 설정 선택이 끝난 뒤, 처음 보는 데이터처럼 마지막으로 확인하는 평가용 데이터 또는 절차입니다. 모델을 고르는 데 다시 쓰지 않고, 선택이 끝난 뒤 성능을 한 번 더 확인하는 최종 점검 자리입니다. 즉 테스트는 더 잘 맞추도록 다시 손보는 자리가 아니라, 현재 선택이 밖에서도 통하는지 확인하는 마지막 검문소에 가깝습니다.
왜 중요한가: 모델이 이미 본 정보에 익숙해서 잘하는 것과, 새 데이터에서도 일반화되는 것을 구분하려면 마지막 확인 단계를 따로 남겨 두어야 하기 때문입니다. 검증과 테스트를 섞으면 성능 수치를 지나치게 낙관적으로 읽기 쉬워집니다. 또한 테스트를 이해해야 개발 중 계속 들여다본 검증 점수와 최종 보고용 성능 수치를 구분하게 되고, 평가 절차를 한 번만 잘못 섞어도 결과 해석 전체가 흔들릴 수 있다는 점도 읽게 됩니다.
함께 볼 개념: 검증(validation), 데이터 누수(data leakage), 일반화(generalization), 평가(evaluation)
뜻: 행과 열의 교차로 값을 정리하는 표 구조입니다. 보통 한 행은 한 사례를, 한 열은 그 사례의 속성 하나를 뜻하므로, 대상이 여러 개 있고 각 대상의 같은 종류 정보를 나란히 비교하고 싶을 때 쓰는 기본 표현입니다. 즉 사건의 흐름이나 연결 관계보다, 여러 대상의 속성을 같은 축에서 맞춰 읽는 데 적합한 형태입니다.
왜 중요한가: 데이터셋과 평가 결과처럼 사례별 속성을 비교하는 작업에서 가장 자연스러운 기본 모양이 되기 때문입니다. 그래프가 관계를, 트리가 계층을 잘 드러낸다면, 테이블은 같은 속성을 가진 여러 사례를 나란히 보는 작업에 가장 강하다는 점을 구분하게 해 줍니다. 또한 테이블을 이해해야 열은 변수, 행은 사례라는 표 읽기 기본 규칙이 왜 머신러닝 입력 구성의 출발점이 되는지도 더 자연스럽게 연결됩니다. 결국 테이블은 무슨 관계가 있는가보다 같은 속성을 어떻게 비교할 것인가를 먼저 드러내는 구조입니다.
뜻: 텍스트 입력을 사람이 들을 수 있는 음성 출력으로 바꾸는 응용 문제입니다. 문장을 이해 가능한 소리로 읽어 주는 기술 계열로, 발음뿐 아니라 속도, 억양, 자연스러움도 함께 다루게 됩니다. 즉 TTS는 글자를 단순 소리 목록으로 치환하는 수준을 넘어, 문장 구조와 말하기 흐름을 고려해 읽히는 음성을 만드는 문제입니다.
왜 중요한가: 음성 생성 모델이 실제 음성 합성 시스템과 만나는 대표 맥락이지만, 음성 생성 전체와 같은 말은 아니라는 점을 구분하게 해 주기 때문입니다. 이 개념이 있어야 텍스트를 음성으로 바꾸는 일과 아무 음성이나 만들어 내는 생성 문제를 같은 것으로 섞지 않게 되고, 입력이 텍스트로 정해져 있다는 점에서 제어 조건이 더 강한 응용이라는 점도 이해하게 됩니다. 예를 들어 내비게이션 안내, 화면 읽기, 음성 비서 응답은 모두 TTS지만, 배경 소음이나 자유로운 목소리 합성을 만드는 문제와는 목표가 다릅니다. 결국 TTS를 이해해야 음성 생성(speech generation) 안에서도 무엇을 입력으로 삼고 무엇을 얼마나 제어할 수 있는가에 따라 과제가 달라진다는 점을 읽게 됩니다.
함께 볼 개념: 음성 생성(speech generation), 웨이브넷(WaveNet), 생성(generation)
뜻: 스칼라, 벡터, 행렬을 포함해 딥러닝이 입력, 중간 표현, 출력을 담는 데 쓰는 다차원 숫자 배열의 일반 이름입니다. 몇 차원짜리 수치 묶음인가를 하나의 공통 언어로 묶어 부르는 표현입니다. 즉 텐서는 숫자가 한 개냐, 한 줄이냐, 표냐, 더 높은 차원의 묶음이냐를 하나의 틀에서 다루게 해 주는 계산 단위입니다.
왜 중요한가: 이미지, 문장, 오디오, 배치 데이터는 겉보기에는 다르지만 학습 프레임워크 안에서는 결국 텐서로 계산됩니다. 텐서라는 공통 이름을 알아야 도메인이 달라도 shape와 축 중심으로 계산을 해석할 수 있습니다. 이 개념이 있어야 이미지 모델, 언어 모델, 표 데이터 모델이 완전히 다른 계산처럼 보이더라도 실제로는 같은 배열 연산 언어 위에 놓인다는 점을 이해하게 됩니다. 또한 텐서는 값 자체만이 아니라 각 축이 무엇을 뜻하는가를 함께 읽어야 한다는 점이 중요합니다. 초심자에게는 데이터 모양을 텐서로 읽는 습관이 생겨야 모델 입력과 출력이 더 이상 막연한 큰 숫자 덩어리로 보이지 않게 됩니다.
함께 볼 개념: 배치(batch), shape, 행렬(matrix)
중심 Section: P5-9.2
등장 Section: P2-1.1, P2-1.2, P5-9.1, P5-10.1, P5-summary
뜻: 평가 문장이나 문서 안의 토큰 가운데 현재 vocabulary나 tokenizer 규칙으로 실제로 읽힌 토큰이 얼마나 되는지를 비율로 본 값입니다. 즉 입력 문장이 사람 눈에는 온전해 보여도, 모델 입장에서는 얼마만큼이 실제 토큰 단위로 잘 보존되었는지를 점검하는 수치입니다.
왜 중요한가: 정확도 숫자가 같아 보여도 입력의 많은 부분이 어휘 밖이면 해석이 달라지므로, 텍스트 프로젝트에서는 예측 결과와 함께 입력이 얼마나 실제로 읽혔는지 확인해야 하기 때문입니다. 이 개념이 있어야 낮은 성능을 곧바로 모델 구조 문제로만 돌리지 않고, 먼저 입력 표현이 얼마나 보존되었는지 점검하게 됩니다. 결국 토큰 커버리지는 모델이 무엇을 봤는가를 확인하는 기본 진단 지표이며, 토큰화 설계 문제를 성능 문제와 구분하는 데도 도움이 됩니다. 다시 말해 낮은 커버리지는 모델이 못 배웠다기보다 입력 자체를 충분히 읽지 못했다는 신호일 수 있습니다.
함께 볼 개념: 토큰화(tokenization), 토큰(token), 어휘 밖(out-of-vocabulary, OOV)
뜻: 모델이 텍스트를 처리하기 위해 나눈 기본 계산 단위입니다. 이 단위는 항상 단어와 같지 않아서, 한 단어가 여러 토큰으로 쪼개지거나 반대로 짧은 표현 몇 개가 하나처럼 다뤄질 수 있습니다. 즉 사람 눈에는 한 문장처럼 보여도, 모델 내부에서는 토큰들의 순서열로 바뀌어 계산됩니다.
왜 중요한가: 사람이 읽는 단어와 모델이 실제로 다루는 단위가 다를 수 있다는 점을 이해해야 다음 토큰 예측과 LLM 생성 과정을 올바르게 읽을 수 있기 때문입니다. 비용, 문맥 창 길이, 토큰 커버리지 문제도 모두 이 계산 단위에서 시작됩니다. 또한 토큰을 이해해야 글자 수가 비슷한데 왜 비용이 다르지 같은 질문을 더 정확히 해석하게 되고, 프롬프트 설계나 문맥 길이 제한을 문자 수가 아니라 실제 토큰 수 기준으로 보는 이유도 자연스럽게 이어집니다. 결국 토큰은 사람이 읽는 문장과 모델이 계산하는 입력 사이를 이어 주는 실제 계산 단위입니다.
함께 볼 개념: 다음 토큰 예측(next-token prediction), 언어 모델링(language modeling), 임베딩(embedding), 토큰화(tokenization), 문맥 창(context window)
중심 Section: P6-2.1
등장 Section: P1-10.2, P5-13.1, P5-13.2, P6-2.2, P6-2.2, P7-4.1, P7-4.2
뜻: 원문 텍스트를 모델이 읽을 수 있는 토큰 시퀀스로 바꾸는 절차입니다. 사람이 보기에는 한 문장이어도, 모델은 이 단계에서 잘린 토큰 조각들의 순서열로만 입력을 받으므로, 토큰화는 언어를 계산 단위로 번역하는 첫 관문이라고 볼 수 있습니다.
왜 중요한가: 같은 뜻의 문장도 어떻게 잘랐는지에 따라 토큰 수, 비용, 문맥 사용량, 검색 청크 경계, 생성 해석이 모두 달라질 수 있기 때문입니다. 이 개념이 있어야 모델이 문장 전체를 직접 읽는 것이 아니라 tokenizer가 만든 계산 단위를 읽는다는 점을 이해하게 되고, 언어·기호·공백 처리 방식이 실제 비용과 성능에 영향을 준다는 점도 자연스럽게 읽게 됩니다. 또한 토큰화가 달라지면 같은 모델 계열이라도 입력 길이 체감, 희귀어 처리, 비용 계산이 달라질 수 있어, 토큰화는 단순 전처리가 아니라 모델 사용 경험 자체를 바꾸는 설계 단계라는 점도 중요합니다.
함께 볼 개념: 토큰(token), 문맥 창(context window), BPE(Byte Pair Encoding)
뜻: 말뭉치에서 관찰된 단어나 토큰의 빈도와 조건부 확률을 바탕으로 다음 표현의 가능성을 추정하는 언어 모델입니다. 언어를 의미를 완전히 이해하는 체계보다 어떤 표현이 얼마나 자주, 어떤 맥락 뒤에 나왔는가로 계산하는 초기 접근이라고 볼 수 있습니다. 즉 언어를 먼저 빈도와 확률의 문제로 바꾸어 다뤘던 전통적 계산 언어 모델 계열입니다.
왜 중요한가: LLM 이전에도 언어를 계산 가능한 확률 문제로 다루려는 흐름이 있었음을 보여 주며, 엔그램의 장점과 한계를 통해 신경망 언어 모델로 넘어가는 이유를 드러내기 때문입니다. 이 개념이 있어야 현대 언어 모델이 갑자기 등장한 것이 아니라, 빈도 기반 예측에서 분산 표현과 대규모 신경망으로 발전해 온 흐름 위에 있다는 점을 읽게 됩니다. 또 데이터 희소성이 왜 전통 언어 모델의 핵심 한계였는지도 더 분명하게 이해하게 됩니다. 결국 통계적 언어 모델은 현대 LLM의 직접 구조는 아니더라도, 언어를 다음 표현 확률 문제로 본다는 관점의 중요한 출발점입니다.
함께 볼 개념: 언어 모델(language model), 엔그램(n-gram), 데이터 희소성(sparsity)
뜻: 사용자가 AI가 어디에 개입했고 어떤 목적과 한계 안에서 쓰였는지 알 수 있게 드러내는 성질입니다. 모든 내부 계산을 다 보여 준다는 뜻이라기보다, 사용자가 결과를 해석하고 이의를 제기하는 데 필요한 핵심 경계를 숨기지 않는다는 뜻에 가깝습니다. 즉 투명성은 모든 것을 공개한다보다 판단에 필요한 중요한 정보를 감추지 않는다에 더 가깝습니다.
왜 중요한가: 모델 내부 계산을 모두 공개하지 않더라도 AI 사용 여부, 근거, 한계, 검토 가능성, 이의 제기 가능성을 알아야 결과를 맹신하지 않고 다시 읽을 수 있기 때문입니다. 투명성이 있어야 책임과 감독도 실제로 작동할 수 있고, 문제가 생겼을 때 무엇이 자동화 판단이었고 무엇이 사람 판단이었는지도 추적할 수 있습니다. 이 개념이 있어야 설명 한 줄을 붙이는 것과, 실제 검토 가능한 경계를 공개하는 것을 같은 말로 보지 않게 됩니다.
함께 볼 개념: 책임(accountability), 인간 감독(human oversight), 근거(evidence), 출처 추적(provenance)
뜻: recurrence 없이 attention을 중심으로 시퀀스 안의 여러 위치가 서로를 참고하게 만드는 신경망 구조 계열입니다. 앞에서부터 하나씩만 넘겨 읽는 대신, 문장 안의 여러 위치 관계를 병렬적으로 비교하며 표현을 만드는 구조라고 볼 수 있습니다. 즉 트랜스포머는 현재 단어를 이해하려면 문장 전체의 다른 위치를 함께 참고하자는 발상을 구조적으로 밀어붙인 계열입니다.
왜 중요한가: 현대 LLM의 핵심 구조적 기반이지만, 사전학습과 스케일링 같은 다른 요소와 함께 읽어야 전체 역사를 올바르게 이해할 수 있기 때문입니다. 이 개념이 있어야 LLM의 핵심은 단순히 큰 모델이 아니라, attention 기반 구조와 대규모 학습 전략이 결합된 결과라는 점을 더 정확히 붙잡을 수 있습니다. 또한 트랜스포머를 이해해야 RNN 계열과 달리 긴 문맥 관계를 병렬적으로 다루는 방향으로 왜 구조적 전환이 일어났는지도 읽게 됩니다.
함께 볼 개념: 어텐션(Attention), 언어 모델링(language modeling), 직접 계보(direct lineage)
중심 Section: P1-11.3
등장 Section: P1-9.3, P5-13.2, P5-14.1, P5-14.2, P5-15.1, P6-4.1, P6-4.2, P6-4.3
뜻: 부모와 자식의 계층 관계로 항목을 조직하는 구조입니다. 한 항목이 위쪽의 더 큰 범주 아래에 놓이고, 다시 그 아래에 더 작은 하위 항목이 이어지는 가지형 계층 구조로 이해하면 됩니다. 즉 트리는 앞뒤 순서보다 누가 누구 아래에 속하는가가 더 중요한 비선형 구조입니다.
왜 중요한가: 목차, 폴더, 분류 체계처럼 상위와 하위가 분명한 데이터를 읽을 때 가장 기본적인 계층 감각을 제공하기 때문입니다. 그래프보다 더 제한된 구조이지만 그만큼 어디에 속하는가를 읽기 쉬워, 분류와 의사결정 흐름의 기본 틀이 됩니다. 예를 들어 파일 시스템은 상위 폴더 아래 하위 폴더가 붙는 트리로 읽을 수 있고, 결정트리는 질문이 아래로 분기되는 판단 구조로 읽을 수 있습니다. 결국 트리를 이해해야 관계가 있다는 말 안에서도 순서 구조, 표 구조, 그래프 구조와 달리 계층과 분기가 중심인 경우를 따로 분리해 보게 됩니다.
함께 볼 개념: 그래프(graph), 선형 구조(linear structure), 비선형 구조(non-linear structure)
뜻: 입력으로 쓸 수 있는 많은 특징 가운데 현재 문제에 실제로 남길 특징을 고르는 과정입니다. 이미 만들 수 있는 입력 후보가 많을 때, 무엇을 넣고 무엇을 빼야 현재 문제를 더 잘 설명하는지 따져 정리하는 단계라고 볼 수 있습니다.
왜 중요한가: 특징을 무조건 많이 넣는다고 항상 좋아지지 않으므로, 정보량과 일반화 사이에서 어떤 입력 칸을 채택할지 따로 판단해야 하기 때문입니다. 이 개념이 있어야 입력 열을 많이 모으는 것과 좋은 표현을 만드는 것을 같은 일로 보지 않게 되고, 불필요한 특징이 과적합, 해석 혼란, 계산 비용 증가로 이어질 수 있다는 점도 읽게 됩니다. 또한 특징 선택을 이해해야 많이 넣는 것이 아니라 문제와 더 직접 연결된 단서를 남기는 것이 중요하다는 점, 그리고 누수 가능성이 있는 열을 빼는 일도 성능 저하가 아니라 품질 보전일 수 있다는 점도 함께 보게 됩니다.
함께 볼 개념: 특징(feature), 전처리(preprocessing), 데이터 누수(data leakage)
뜻: 모델이 입력으로 사용하는 값이나 단서입니다. 표의 열 하나일 수도 있고, 사람이 계산해 만든 지표일 수도 있으며, 딥러닝 안에서는 더 깊은 층이 만들어 낸 중간 활성값이 특징 역할을 할 수도 있습니다. 즉 특징은 원자료 전체가 아니라, 모델이 판단 근거로 삼도록 꺼내 쓴 정보 조각입니다.
왜 중요한가: 전통적 머신러닝에서는 사람이 많이 설계했고, 딥러닝에서는 더 깊은 표현으로 바뀌는 출발점이 됩니다. 무엇을 입력 단서로 볼 것인가를 구분해야 특징 선택, 전처리, 표현 학습의 차이도 선명해집니다. 이 개념이 있어야 입력 전체와 그 안에서 실제로 모델 판단에 쓰이는 단서를 구분하게 되고, 좋은 특징이란 단순히 많거나 복잡한 값이 아니라 문제와 더 잘 연결되는 정보라는 점도 함께 이해하게 됩니다. 결국 특징을 이해해야 데이터가 있다와 모델이 실제로 쓰는 정보가 있다를 분리해 읽게 됩니다.
함께 볼 개념: 표현(representation), 입력(input), 파라미터(parameter), 특징 선택(feature selection), 표현 학습(representation learning)
뜻: 기준 모델이나 현재 모델이 어디에서 틀렸는지 샘플 ID나 사례 설명을 묶어 남긴 목록입니다. 점수 하나로는 보이지 않는 실패 위치를 다시 열어 보기 위한 최소 기록이며, 몇 개를 틀렸는가보다 어떤 사례를 틀렸는가를 다시 읽게 만드는 목록이라고 볼 수 있습니다. 즉 틀린 사례 목록은 평균 성능 뒤에 가려진 실패 장면을 다시 꺼내는 회고용 표지입니다.
왜 중요한가: 정확도나 평균 점수만 남기면 어떤 샘플이 계속 흔들리는지와 기준 모델 대비 무엇이 실제로 달라졌는지가 잘 보이지 않기 때문입니다. 이 개념이 있어야 점수가 올랐다와 틀리는 샘플 구성이 바뀌었다를 분리해 읽게 되고, 샘플별 비교표와 오류 사례 분석이 실제 사례 위에서 다시 이어집니다. 또한 틀린 사례 목록을 이해해야 Part 7의 기준점 비교가 단순 점수 경쟁이 아니라, 실패 위치를 다음 질문과 개선 계획으로 연결하는 기록 작업이라는 점도 더 분명하게 읽게 됩니다.
함께 볼 개념: 오류 사례(error case), 실행 요약(execution summary), 비교표(comparison table), 다음 질문(next question), 회고(retrospective)