뜻: Transformer decoder를 바탕으로 앞 문맥에서 다음 토큰을 생성하도록 사전학습한 대표 언어 모델 계열입니다. 핵심은 지금까지 나온 토큰들을 바탕으로 다음 토큰을 이어 가며 문장 전체를 점진적으로 만들어 내는 생성 중심 구조라는 점입니다. 즉 입력 전체를 해석하는 표현 모델이라기보다, 이어질 출력을 한 토큰씩 만들어 가는 생성 모델 계열로 읽는 편이 정확합니다.
왜 중요한가: 오늘날 LLM 사용 경험의 직접 계보를 이루며, 사전학습 뒤 prompt와 in-context learning으로 여러 과업에 연결되는 흐름을 보여 주기 때문입니다. 이 개념이 있어야 챗봇, 코드 생성, 요약, 도구 호출 같은 현대 LLM 사용이 왜 다음 토큰 생성이라는 공통 기반 위에서 돌아가는지 이해할 수 있습니다. 또한 BERT와 달리 왜 GPT 계열이 대화형 생성과 장문 작성 맥락에서 더 자주 등장하는지도 함께 읽게 됩니다.
함께 볼 개념: 디코더(decoder), 사전학습(pretraining), 문맥 내 학습(in-context learning)
뜻: 같은 종류의 수치 연산을 매우 많이 동시에 처리하도록 설계된 가속기 계열 계산 장치입니다. 원래는 그래픽 처리에서 강점을 보였지만, 같은 모양의 행렬 연산을 대량으로 반복하는 신경망 계산과 잘 맞아 AI 학습과 추론의 핵심 하드웨어가 되었습니다.
왜 중요한가: 딥러닝은 큰 행렬 연산과 배치 계산을 반복하므로, GPU를 이해해야 왜 특정 시기부터 대규모 학습이 실용적으로 가능해졌는지 설명할 수 있기 때문입니다. 이 개념이 있어야 모델 구조만이 아니라 계산 자원 변화도 딥러닝 확산의 핵심 조건이었다는 점을 이해하게 되고, 좋은 아이디어가 있었는데 왜 그때는 안 되었는가를 연산량과 하드웨어 관점에서도 읽게 됩니다. 또한 GPU를 이해해야 같은 모델이라도 어느 장치에서 돌리는지에 따라 학습 시간, 비용, 실험 가능 범위가 크게 달라진다는 점도 더 분명히 보게 됩니다.
함께 볼 개념: 병렬 처리(parallel processing), 배치(batch), 텐서(tensor)
뜻: 형식, 기본 점수, 회귀 여부처럼 기준을 비교적 명확히 세울 수 있는 항목을 프로그램이나 평가 모델로 반복 점검하는 방식입니다. 많은 결과를 같은 규칙으로 빠르게 다시 채점할 수 있다는 점이 핵심이며, 사람마다 기준이 달라지는 흔들림을 줄이는 데도 쓰입니다. 즉 자동 평가는 대량 후보를 같은 잣대로 계속 비교해야 할 때 특히 강한 평가 방식입니다.
왜 중요한가: 많은 후보를 빠르게 비교하고 회귀를 잡아내는 데 강하지만, 맥락 해석과 오해 가능성 판단은 별도 검토가 필요하다는 점을 이해해야 하기 때문입니다. 자동 평가는 사람 평가를 대체하기보다, 반복 비교와 초기 필터링을 맡는 경우가 많고, 무엇을 점수화했는지에 따라 놓치는 실패 유형도 달라진다는 점을 함께 읽어야 합니다. 또한 자동 평가를 이해해야 같은 규칙으로 자주 재는 힘과 실제 사용자 맥락을 읽는 힘이 다르다는 점을 받아들이게 됩니다.
함께 볼 개념: 평가(evaluation), 사람 평가(human evaluation), 회귀(regression), 그레이더(grader)
뜻: 데이터를 어떤 모양으로 조직하고, 그 위에서 어떤 연산을 자연스럽게 수행할지 정하는 방식입니다. 같은 값 묶음이라도 순서대로 꺼내는가, 이름표로 바로 찾는가, 위아래 계층으로 따라가는가, 관계선을 따라 이동하는가에 따라 더 어울리는 구조가 달라지고, 그 선택이 이후 코드의 읽기 방식과 계산 비용까지 함께 바꿉니다.
왜 중요한가: 같은 데이터라도 순서, 이름표, 계층, 관계 중 무엇이 중요한지에 따라 다른 구조 선택이 필요하다는 점을 보여 주기 때문입니다. 이 개념이 있어야 데이터를 저장한다는 말이 단순 보관이 아니라, 어떤 접근과 수정과 탐색을 자주 할지에 맞춰 모양을 정하는 문제라는 점을 이해하게 되고, 배열·딕셔너리·트리·그래프의 차이도 더 실제적으로 읽게 됩니다. 예를 들어 학생 목록을 순서대로 훑어볼 일만 많다면 리스트가 자연스럽지만, 학번으로 바로 찾는 일이 많다면 딕셔너리 쪽이 더 맞습니다. 결국 자료구조는 코딩 문법 이전에 무슨 질문을 자주 던질 데이터인가를 먼저 정리하게 만드는 판단 기준입니다.
함께 볼 개념: 추상 자료형(abstract data type), 선형 구조(linear structure), 비선형 구조(non-linear structure)
뜻: 아직 완전히 검증되지는 않았지만 설명을 위해 임시로 세운 가설적 문장입니다. 일단 이렇게 이해하고 시작하되, 나중에 자료와 예시로 다시 확인하겠다는 상태를 명시해 두는 표현이라고 볼 수 있습니다.
왜 중요한가: 처음 떠오른 직관과 기억을 바로 사실로 굳히지 않으면서도, 학습 출발점으로는 계속 붙잡아 둘 수 있게 해 주기 때문입니다. 이 개념이 있어야 지금은 이렇게 이해하고 있다는 임시 설명과 근거로 확인된 표준 설명을 분리해 읽게 되고, 개인적 비유와 재학습 메모를 버리지 않으면서도 검증 단계로 자연스럽게 넘길 수 있습니다. 예를 들어 attention은 중요한 단어에 형광펜을 치는 것 같다는 표현은 작업 가설로는 유용하지만, 실제 계산 구조를 설명할 때는 더 정확한 표준 설명으로 다시 연결해야 합니다. 결국 작업 가설은 틀려도 되는 생각이 아니라, 나중에 반드시 검증해야 하는 임시 설명을 분명히 표시하는 장치입니다.
함께 볼 개념: 개인 학습(personal learning), 사실 주장(factual claim), 예측(prediction)
뜻: 현재 실행 중인 명령이 기준으로 삼는 폴더입니다. 상대 경로를 해석할 때 출발점이 되는 현재 위치라고 볼 수 있습니다. ./data/input.csv 같은 경로가 실제로 어느 파일을 가리키는지는 이 작업 폴더가 어디인지에 따라 달라집니다. 즉 작업 폴더는 명령이 지금 어디를 기준으로 세상을 보고 있는가를 정하는 위치입니다.
왜 중요한가: 같은 명령도 어느 폴더에 서 있는지에 따라 찾는 파일과 실행 결과가 달라지기 때문입니다. 파일을 못 찾는 오류나 엉뚱한 위치에 결과가 생기는 문제를 읽을 때 가장 먼저 확인해야 하는 기준이기도 합니다. 이 개념이 있어야 상대 경로 오류를 코드 자체 문제와 분리해 해석할 수 있고, 셸 명령과 파이썬 코드가 같은 파일명을 써도 왜 서로 다른 대상을 가리킬 수 있는지도 더 자연스럽게 이해하게 됩니다. 결국 작업 폴더를 이해해야 경로 문제를 파일 이름보다 기준 위치의 문제로 먼저 읽게 됩니다.
뜻: 작성, 점검, 배포를 어떤 순서와 기준으로 나눌지 정한 운영 방식입니다. 개별 명령이나 도구 사용법의 목록이라기보다, 언제 무엇을 하고 어떤 조건에서 다음 단계로 넘길까를 정한 절차적 구조라고 볼 수 있습니다. 즉 작업 흐름은 한 번의 행동보다 여러 단계의 연결 방식을 설명하는 개념입니다.
왜 중요한가: 같은 도구를 써도 어떤 브랜치에서 작업하고 언제 배포할지 흐름이 없으면, 중간 판단과 공개 기준이 뒤섞여 문서 품질과 재현성이 흔들리기 때문입니다. 이 개념이 있어야 개별 명령보다 순서와 역할 분담이 더 중요할 때가 있다는 점을 이해하게 되고, 초안 작성, 검토, 배포를 한 덩어리로 섞지 않게 됩니다. 예를 들어 초안을 바로 main에 올리는 흐름과, dev에서 집필하고 검토 후 배포하는 흐름은 같은 도구를 써도 품질 통제 방식이 전혀 다릅니다. 결국 작업 흐름을 이해해야 무슨 도구를 썼는가보다 어떤 순서와 검토 기준으로 연결했는가가 실제 운영 품질을 더 크게 좌우할 수 있다는 점도 읽게 됩니다.
함께 볼 개념: 브랜치(branch), 배포(deployment), 문서 재현성(document reproducibility)
뜻: 새 계산 결과만 다음 층으로 넘기지 않고, 원래 입력 표현도 함께 더해 정보 흐름을 유지하는 연결 방식입니다. 즉 매 층이 이전 표현을 완전히 덮어쓰는 대신, 원래 정보가 우회 경로로 함께 지나가게 하는 구조라고 볼 수 있습니다.
왜 중요한가: 깊은 신경망에서 앞 표현이 완전히 덮어써지지 않게 도와, Transformer 블록이 반복되어도 학습과 정보 전달이 덜 흔들리게 만들기 때문입니다. 이 개념이 있어야 층을 많이 쌓는다고 해서 매번 새 표현만 남기는 것이 아니라, 이전 표현을 우회 경로로 함께 전달해 학습을 안정화한다는 점을 읽게 됩니다. 결국 잔차 연결은 깊이를 늘리면서도 정보 손실을 줄이기 위한 구조적 안전장치이며, 깊은 모델이 왜 이전 표현을 완전히 버리지 않으려 하는지도 함께 보여 줍니다. 다시 말해 새 계산을 더하되 원래 길을 끊지 않는 구조라는 점이 핵심입니다.
함께 볼 개념: 트랜스포머(Transformer), 레이어 정규화(layer normalization), 피드포워드 네트워크(feed-forward network)
뜻: 관측된 입력이나 데이터가 흔들리거나 일부가 틀려 있어 그대로 믿기 어려운 상태입니다. 데이터 안에 실제로 중요한 패턴과 함께 섞여 있지만, 지금 풀고 싶은 질문과는 직접 관련이 없거나 오히려 해석을 흐리게 만드는 변동이라고 볼 수 있습니다. 즉 잡음은 값이 있다는 사실만으로 중요한 정보가 되는 것은 아니라는 점을 드러냅니다.
왜 중요한가: 규칙이나 모델이 모두 입력 품질의 한계를 그대로 받기 때문에, 관측값과 실제 상태를 구분해 읽는 기준이 되기 때문입니다. 이 개념이 있어야 모델이 틀렸다는 사실만 보고 곧바로 규칙이나 구조 문제로 단정하지 않고, 입력 자체가 흔들렸는지부터 따로 점검하게 됩니다. 예를 들어 센서의 작은 흔들림이나 우연한 오탈자는 표면적으로는 데이터지만, 그대로 따라가면 모델이 중요한 규칙 대신 흔들림 자체를 배우게 될 수 있습니다. 결국 잡음을 이해해야 데이터가 많다와 의미 있는 신호가 많다를 같은 말로 보지 않게 됩니다.
함께 볼 개념: 불확실성(uncertainty), 부분 관측(partial observability), 오차(error)
뜻: 현재 판단에 오래전 정보가 중요하지만, 순차 모델이 그 정보를 충분히 오래 유지하거나 전달하지 못해 해석이 흔들리는 문제입니다. 즉 앞부분 단서가 뒤쪽 판단에 계속 중요해도, 중간 단계를 거치며 그 신호가 희미해지거나 끊어지는 현상이라고 볼 수 있습니다.
왜 중요한가: 기본 RNN의 한계를 이해하고, LSTM/GRU 보강과 attention으로의 전환이 왜 필요했는지 설명하는 핵심 연결 고리이기 때문입니다. 이 개념이 있어야 문장이 길어지면 왜 앞정보를 놓치기 쉬운가를 단순 성능 저하가 아니라 정보 전달 경로 문제로 읽게 되고, 시퀀스 모델 설계가 메모리를 어떻게 유지할지와 직접 연결된다는 점도 이해하게 됩니다. 또한 장기 의존성을 이해해야 긴 문맥을 다룬다는 말이 단순 입력 길이 확장이 아니라, 오래전 정보를 실제로 유지하고 참조할 수 있는가의 문제라는 점도 더 분명히 보게 됩니다.
함께 볼 개념: 순환 신경망(RNN, recurrent neural network), 장단기 메모리(LSTM, long short-term memory), 어텐션(Attention)
중심 Section: P5-12.2
등장 Section: P1-9.3, P5-12.1, P5-13.1, P5-13.2, P5-14.1, P5-14.2
뜻: 순환 신경망에서 어떤 정보를 유지하고 어떤 정보를 잊을지 게이트로 조절해 긴 문맥을 더 안정적으로 다루려는 구조입니다. 단순히 이전 상태를 그대로 넘기는 대신, 무엇을 남길까, 무엇을 버릴까, 지금 무엇을 새로 넣을까를 더 세밀하게 조절하는 메모리 장치라고 볼 수 있습니다. 즉 LSTM은 순차 모델에 기억 관리 규칙을 덧붙인 구조입니다.
왜 중요한가: 기본 RNN이 먼 과거 정보를 전달하기 어려웠던 문제를 완화하며, Seq2Seq와 초기 신경망 언어 모델에서 긴 의존성을 다루는 대표 해법이 되었기 때문입니다. 이 개념이 있어야 순환 모델 개선이 단순 층 추가가 아니라, 무엇을 기억하고 무엇을 잊을지 제어하는 구조 변화였다는 점을 이해하게 됩니다. 예를 들어 문장 앞부분의 주어 정보가 뒤쪽 동사 해석에 오래 영향을 줘야 할 때, LSTM은 그 단서를 더 오래 살아남게 하려는 구조로 읽을 수 있습니다. 결국 LSTM을 이해해야 attention 이전 시기의 순차 모델이 왜 상태를 넘긴다를 넘어서 상태를 관리한다는 방향으로 발전했는지도 더 자연스럽게 이어집니다.
함께 볼 개념: 순환 신경망(RNN, recurrent neural network), 게이트 순환 유닛(GRU, gated recurrent unit), 숨은 상태(hidden state)
뜻: 요청이나 작업이 실패했을 때 같은 작업을 다시 실행하는 정책입니다. 한 번 실패했다고 곧바로 완전 실패로 처리하지 않고, 어떤 실패는 잠깐 기다렸다가 다시 시도해 볼 가치가 있다는 운영 판단을 코드로 옮긴 장치라고 볼 수 있습니다. 즉 재시도는 실패를 무시한다가 아니라, 실패 원인이 일시적인지 구분해 다시 기회를 주는 제어 전략입니다.
왜 중요한가: 외부 API, 네트워크, 레이트 리밋 같은 문제는 일시적일 수 있지만, 무작정 반복하면 비용과 실패를 더 키울 수도 있어 재시도 규칙 자체가 설계 조건이 되기 때문입니다. 이 개념이 있어야 다시 해 본다가 단순 끈기가 아니라, 횟수 제한, 대기 간격, 중단 조건을 함께 짜야 하는 운영 규칙이라는 점을 이해하게 됩니다. 결국 재시도는 안정성을 높이는 장치이면서도, 잘못 설계하면 중복 요청과 비용 폭증을 부르는 위험 요소라는 점을 같이 읽어야 합니다.
함께 볼 개념: 레이트 리밋(rate limit), 지연 시간(latency), 운영(operation), 종료 조건(stop condition)
뜻: 다른 사람이 같은 순서로 다시 실행해도 비슷한 결과와 해석에 도달할 수 있도록 정리된 노트북 기록입니다. 단순 메모가 아니라, 셀 순서, 필요한 입력, 핵심 출력, 환경 조건까지 함께 남겨 어떻게 다시 확인할 수 있는가가 보이는 기록 형식입니다. 즉 보기 좋은 설명 문서이면서도, 같은 실험을 다시 따라가 볼 수 있어야 재실행 가능한 기록이라고 부를 수 있습니다. 다시 말해 무엇을 배웠는가뿐 아니라 어떻게 다시 확인할 수 있는가가 함께 남아 있어야 합니다. Part 7의 프로젝트 문맥에서는 입력 파일, 평가 기록, 다음 조치까지 연결돼 다음 사람이 같은 실패 구조를 다시 읽고 이어서 수정할 수 있어야 비로소 재실행 가능한 기록이라고 볼 수 있습니다.
왜 중요한가: 노트북을 일회성 메모가 아니라 다시 검증할 수 있는 학습 문서로 다뤄야 협업과 복습이 가능해지기 때문입니다. 실행 순서, 출력, 환경 정보가 정리되어 있어야 기록이 실제로 재사용됩니다. 이 개념이 있어야 보기 좋게 적힌 노트북과 실제로 다시 돌려 볼 수 있는 노트북을 구분하게 되고, 왜 마크다운 설명만이 아니라 셀 실행 순서와 의존성 정보까지 함께 남겨야 하는지도 자연스럽게 이해하게 됩니다. 또한 재실행 가능한 기록을 이해해야 결과 캡처만 남기는 일과, 다음 사람이 검증 가능한 작업 문서를 남기는 일이 다르다는 점도 분명해집니다. 특히 Part 7에서는 결과 표 하나보다 입력 파일, 평가 기록, 조치 흐름이 함께 남아야 같은 프로젝트 문서를 다시 실행 가능한 회고 기록으로 읽을 수 있다는 점도 더 선명하게 보게 됩니다.
함께 볼 개념: 재현성(reproducibility), 실행 순서(execution order), 노트북(notebook)
뜻: 관찰된 문제를 곧바로 원인 확정이나 즉시 수정 대상으로 단정하지 않고, 시간을 두고 다시 발생하는지와 어떤 조건에서 반복되는지 먼저 확인하는 점검 단계입니다. 공개 반영 지연, 캐시, 표본이 적은 단발 튐처럼 문제처럼 보이지만 아직 해석이 덜 닫힌 신호를 다룰 때 쓰는 보수적 확인 절차라고 볼 수 있습니다. 즉 재현 확인은 문제를 미루는 핑계가 아니라, 성급한 수정으로 더 큰 혼선을 만들지 않기 위한 중간 검증 단계입니다.
왜 중요한가: 같은 운영 신호라도 어떤 것은 곧바로 경로를 고치면 닫히지만, 어떤 것은 반영 지연이나 일시적 흔들림일 수 있어 우선 행동을 잘못 잡으면 회고와 수정 순서가 함께 흔들리기 때문입니다. 이 개념이 있어야 즉시 수정과 다음 반복 개선 사이에 먼저 다시 확인해야 하는 문제를 따로 세우게 되고, 단발 실패와 반복 실패를 더 조심해서 구분하게 됩니다. 또한 재현 확인을 이해해야 상태 점검, 우선순위, 다음 행동이 모두 확정된 고장만이 아니라 아직 해석 경계가 남은 신호까지 포함해 운영 판단을 짜야 한다는 점도 더 또렷하게 보게 됩니다.
함께 볼 개념: 상태 점검(status inspection), 우선순위(priority), 다음 행동(next action), 재현성(reproducibility), 실패 유형(failure type)
뜻: 같은 코드와 같은 조건을 다시 준비했을 때 비슷한 실행 결과를 다시 얻을 수 있는 성질입니다. 한 번 우연히 성공한 실행이 아니라, 어떤 입력과 환경과 절차로 결과가 나왔는지 다시 설명하고 다시 재현할 수 있는 상태를 뜻합니다. 따라서 재현성은 코드 파일 하나의 문제가 아니라, 데이터 버전, 의존성, 실행 순서, 설정값, 평가 절차까지 함께 묶인 조건의 문제입니다. Part 7에서는 특히 어떤 입력 파일을 읽었고, 어떤 평가 기록을 남겼고, 다음 조치를 어디에 적었는지까지 이어져야 재현성이 실제 프로젝트 문서 수준에서 성립합니다.
왜 중요한가: 학습 예제를 나중에 다시 돌리거나 다른 사람에게 전달할 때 코드만이 아니라 환경, 데이터, 실행 순서도 함께 관리해야 한다는 점을 드러내기 때문입니다. 재현성이 있어야 오류 수정, 비교 실험, 협업 검토도 의미를 가집니다. 이 개념이 있어야 이번에는 됐다와 다음에도 다시 된다를 구분하게 되고, 로그와 요청 실행 기록이 왜 단순 부가물이 아니라 핵심 운영 자산인지도 함께 이해하게 됩니다. 또한 재현성을 이해해야 비슷한 답이 나왔다와 같은 조건에서 검증 가능한 절차가 남아 있다를 분리하게 되고, 보기 좋은 데모와 비교 가능한 실험의 차이도 더 분명히 읽게 됩니다. 특히 Part 7의 회고 문서에서는 재현성이 있어야 무슨 일이 있었는가, 다음에 무엇을 할 것인가가 같은 실행 기반 위에서 다시 연결됩니다.
함께 볼 개념: 의존성(dependency), 버전 고정(version pinning), 리콰이어먼트 파일(requirements.txt)
중심 Section: P2-7.5
등장 Section: P1-12.3, P1-14.5, P1-14.6, P7-3.2, P7-7.2
뜻: 창작적 표현에 대해 법이 보호하는 권리입니다. 아이디어 자체보다, 글·그림·도표·코드처럼 구체적으로 표현된 결과물을 누가 어떤 조건으로 복제·배포·수정할 수 있는지를 다루는 권리라고 볼 수 있습니다. 즉 같은 주제를 설명하는 것은 가능해도, 남이 만든 표현 그 자체를 어떻게 다루는지는 별도 권리 문제라는 뜻입니다.
왜 중요한가: 책, 기사, 이미지, 코드, 도표 같은 타인의 표현을 AI 입력이나 배포 원고에서 어떻게 다룰지 판단하는 기준이 되기 때문입니다. 이 개념이 있어야 공개되어 있다와 자유롭게 재사용할 수 있다를 같은 말로 보지 않게 되고, 인용 가능한 사용, 허락이 필요한 사용, 아예 피해야 할 사용을 더 보수적으로 구분하게 됩니다. 또한 저작권을 이해해야 정보를 안다와 표현을 그대로 옮겨도 된다를 같은 말로 보지 않게 됩니다.
함께 볼 개념: 인용(quotation), 라이선스(license), 학습 데이터(training data)
뜻: 커밋 이력과 파일 상태가 함께 기록되는 Git의 관리 공간입니다. 단순 파일 폴더라기보다, 현재 상태와 그 상태에 이르기까지의 기록을 함께 관리하는 프로젝트 단위라고 볼 수 있습니다. 즉 저장소는 파일이 놓인 위치만이 아니라, 변경 이력과 브랜치 구조까지 포함한 작업 공간입니다. 보통 작업 디렉터리와 .git 내부 기록이 합쳐져 하나의 저장소를 이룬다고 이해하면 됩니다.
왜 중요한가: 지금 작업 중인 파일과 이미 기록으로 남긴 변경을 구분해 이해해야, 어떤 상태가 현재 작업장에 있고 어떤 상태가 이력으로 남았는지 명확히 읽을 수 있기 때문입니다. 이 개념이 있어야 현재 파일 묶음과 이력까지 포함한 프로젝트 상태를 다른 개념으로 읽게 되고, 같은 폴더처럼 보여도 Git 저장소 여부에 따라 추적 가능성과 협업 방식이 달라진다는 점도 더 분명히 이해하게 됩니다. 또한 저장소를 기준으로 브랜치, 원격 저장소, 커밋 비교가 모두 연결되므로, Git 명령이 어느 파일이 아니라 어느 프로젝트 상태를 다루는지 이해하는 출발점이 됩니다.
뜻: 주어진 데이터에 맞춰 모델 상태를 조정하거나, 특정 도구의 fit 절차를 실행해 예측 가능한 상태로 만드는 과정입니다. 모델을 고른다가 어떤 틀을 선택하는 일이라면, 적합은 그 틀을 실제 데이터에 맞게 조정하는 단계에 가깝습니다.
왜 중요한가: learning과 training이 넓은 개념과 절차를 가리킬 때, 실무 코드에서는 fit이라는 실행 단위로 같은 변화가 표현된다는 점을 이해해야 하기 때문입니다. 이 개념이 있어야 교재 설명의 학습 개념과 라이브러리 API의 실행 메서드를 자연스럽게 연결하게 되고, 모델을 만든다와 데이터에 맞게 적합시킨다를 구분하게 됩니다. 또한 적합을 이해해야 같은 모델 구조라도 얼마나 데이터에 맞춰졌는지에 따라 과적합과 과소적합의 양상이 달라질 수 있다는 점도 더 분명히 읽게 됩니다. 결국 적합은 모델 종류를 고르는 일이 아니라 선택한 모델을 실제 데이터에 맞추는 일입니다.
뜻: 특정 도메인의 전문가 판단을 규칙과 지식 기반으로 표현해 결론이나 조언을 제공하려 한 규칙 기반 시스템 계열입니다. 즉 숙련된 사람의 판단 절차를 좁은 분야 안에서 기계적으로 재현해 보려는 시도라고 이해할 수 있습니다. 다시 말해 전문가 시스템은 기호 기반 AI가 실제 업무 조언 형태로 구현된 대표 응용 장면입니다.
왜 중요한가: 규칙 기반 시스템의 가능성과 한계를 역사적으로 가장 선명하게 보여 주는 대표 사례이기 때문입니다. 이 개념이 있어야 AI 역사에서 잘 정의된 좁은 문제에서는 강했지만 지식 획득과 유지가 어려웠다는 교훈이 왜 중요한지 읽을 수 있습니다. 또한 전문가 시스템을 이해해야 설명 가능성과 통제 가능성이 강점이더라도, 도메인이 넓어지거나 예외가 많아질수록 왜 유지 비용이 급격히 커질 수 있는지도 더 분명히 보게 됩니다. 결국 전문가 시스템은 규칙으로 풀 수 있는 문제의 힘과 규칙만으로 버티기 어려운 한계를 함께 보여 준 역사적 기준점입니다.
함께 볼 개념: 규칙 기반 시스템(rule-based system), 지식 획득(knowledge acquisition), 추론 엔진(inference engine)
뜻: 모델에 넣기 전에 결측치 처리, 스케일 조정, 범주형 인코딩처럼 입력 표현을 더 안정적으로 바꾸는 준비 과정입니다. 원시 입력을 그대로 던지지 않고, 현재 모델이 계산할 수 있는 형태로 정리하고 맞추는 단계라고 볼 수 있습니다. 즉 전처리는 데이터를 더 예쁘게 만드는 일이 아니라 계산 가능한 입력으로 바꾸는 일에 가깝습니다.
왜 중요한가: 같은 모델이라도 입력을 어떤 형태로 정리했는지에 따라 거리 계산, 학습 안정성, 평가 결과가 크게 달라질 수 있기 때문입니다. 이 개념이 있어야 성능 차이를 모델 구조만으로 설명하지 않고, 입력 표현을 어떤 규칙으로 맞췄는지도 함께 보게 됩니다. 예를 들어 k-NN에서는 스케일이 큰 변수 하나가 거리 계산을 거의 지배할 수 있고, 선형 모델에서는 범주형 값을 그대로 넣으면 계산 자체가 어긋날 수 있습니다. 결국 전처리를 이해해야 데이터를 썼다와 모델이 실제로 읽을 수 있는 입력으로 준비했다를 같은 말로 보지 않게 됩니다.
함께 볼 개념: 특징(feature), 특징 선택(feature selection), 데이터 누수(data leakage)
뜻: 질문 벡터를 저장된 모든 벡터와 하나씩 직접 비교해 가장 가까운 후보를 찾는 방식입니다. 중간 지름길 없이 전체 후보를 끝까지 다 훑는 정직한 검색 방식이라고 볼 수 있습니다. 즉 전체 비교는 모든 후보를 빠짐없이 본다는 가장 단순한 검색 기준선입니다. 보통 구현은 쉽지만, 후보 수만큼 비교 횟수가 그대로 늘어나는 방식입니다.
왜 중요한가: 데이터가 작을 때는 단순하고 정확하지만, 벡터 수가 커질수록 왜 별도 인덱스와 근사 검색이 필요해지는지 보여 주는 기준선이 되기 때문입니다. 이 개념이 있어야 검색 속도 문제를 구현 실수만이 아니라 비교 횟수 자체의 문제로 읽게 되고, ANN이 무엇을 절충하는지도 더 분명해집니다. 즉 전체 비교는 가장 단순하고 정확한 기준선이면서도, 규모가 커질 때 왜 시스템 설계가 달라져야 하는지를 보여 주는 대비점이 됩니다. 그래서 실제 시스템에서는 먼저 이 기준선을 이해한 뒤, 어느 시점부터 근사 검색으로 넘어갈지 판단하게 됩니다.
함께 볼 개념: 검색 인덱스(search index), 근사 최근접 이웃(ANN, approximate nearest neighbor), 유사도 검색(similarity search)
뜻: 모델이 학습 데이터에만 과하게 맞추지 않도록, 학습 과정에 제약이나 추가 비용을 넣어 더 단순하고 일반화되는 해를 선호하게 만드는 생각입니다. 즉 훈련 데이터를 더 잘 맞춘다는 목표만 두지 않고, 너무 복잡하거나 불안정한 해는 덜 좋아하도록 학습 기준을 조정하는 방식이라고 볼 수 있습니다. 다시 말해 정규화는 성능을 올리는 기술이면서 동시에 복잡도를 통제하는 장치입니다.
왜 중요한가: 훈련 성능이 높아도 새 데이터에서 무너질 수 있다는 문제를 줄이려면, 손실을 낮추는 것뿐 아니라 어떤 방식의 해를 덜 선호할지 함께 정해야 하기 때문입니다. 이 개념이 있어야 학습이 더 잘 맞추기만의 문제가 아니라 너무 복잡한 해를 피하기의 문제이기도 하다는 점을 이해하게 됩니다. 예를 들어 가중치를 지나치게 크게 키우거나 데이터의 작은 흔들림까지 따라가는 해를 덜 선호하게 만들면, 훈련 점수는 조금 덜 좋아 보여도 일반화는 오히려 나아질 수 있습니다. 결국 정규화를 이해해야 훈련 점수 최고가 항상 좋은 모델을 뜻하지는 않는다는 점도 더 분명하게 읽게 됩니다.
함께 볼 개념: 과적합(overfitting), 일반화(generalization), 드롭아웃(dropout)
뜻: 모델의 행동이 사람의 의도, 안전 기준, 정책 제약과 얼마나 맞는지를 다루는 설계 문제입니다. 단순히 말을 잘 알아듣는 수준이 아니라, 어떤 답을 내면 안 되는지와 어떤 상황에서 더 조심해야 하는지까지 포함한 행동 맞춤 문제에 가깝습니다. 따라서 정렬은 성능이 높은가만이 아니라 그 성능이 어떤 방향으로 쓰이도록 길들여졌는가를 함께 묻는 개념입니다.
왜 중요한가: 지시를 잘 따르는 것만으로는 충분하지 않고, 유용성·안전성·사실성을 함께 고려한 허용 가능한 응답 경계를 따로 세워야 하기 때문입니다. 이 개념이 있어야 성능 향상과 안전한 배포가 같은 문제가 아니라, 서로 조정해야 하는 별도 문제임을 읽을 수 있습니다. 또한 정렬은 모델 내부의 응답 성향을 다루는 문제이고, 권한·승인·운영 절차는 바깥 시스템의 통제 문제라는 점을 구분해야 전체 AI 시스템의 위험을 더 정확히 설명할 수 있습니다. 초심자 입장에서는 더 똑똑한 모델이 자동으로 더 안전한 모델을 뜻하지 않는다는 점을 이해하는 핵심 개념이기도 합니다.
함께 볼 개념: 지시 튜닝(instruction tuning), 프롬프트(prompt), 평가(evaluation)
뜻: 큰 자료 집합에서 현재 질문이나 정보 요구에 맞는 문서, 문단, 근거 후보를 찾아오는 검색 문제입니다. 단순 문자열 찾기를 넘어서, 지금 이 질문에 어떤 자료가 관련 있는가를 순위화하는 문제로 보는 편이 더 가깝습니다. 그래서 정보 검색은 답을 직접 만들어 내는 단계라기보다, 답을 만들 재료를 얼마나 잘 가져오느냐를 다루는 후보 선택 문제입니다.
왜 중요한가: 검색 증강 생성에서는 먼저 관련 근거를 찾는 단계가 있어야, 생성 모델이 아무 맥락 없이 답을 이어 쓰지 않고 찾은 자료를 바탕으로 답변을 구성할 수 있기 때문입니다. 이 개념이 있어야 웹 검색, 문서 검색, 벡터 검색이 모두 결국 관련 후보를 먼저 가져오는 단계라는 공통 문제를 공유한다는 점을 이해하게 됩니다. 또한 정보 검색은 생성과 경쟁하는 대체물이 아니라, 생성 이전 단계에서 근거와 최신성을 보강하는 별도 계층이라는 점도 중요합니다. 결국 검색 품질이 약하면 생성 품질도 함께 흔들릴 수 있다는 연결이 여기서 드러납니다.
함께 볼 개념: 검색 증강 생성(retrieval-augmented generation, RAG), 유사도 검색(similarity search), 검색(search), 순위화(ranking)
뜻: 미리 생성한 HTML, CSS, 이미지 같은 정적 파일을 사이트 형태로 그대로 공개하는 방식입니다. 사용자가 페이지를 열 때마다 서버가 내용을 새로 계산하는 것이 아니라, 빌드 시점에 만들어 둔 결과물을 그대로 전달하는 공개 방식이라고 볼 수 있습니다. 즉 정적 배포는 미리 만든 산출물을 배포한다는 성격이 강합니다.
왜 중요한가: 문서 프로젝트에서는 배포 브랜치 반영이 곧 공개 결과 갱신으로 이어질 수 있어, 빌드와 자산 연결을 먼저 확인해야 하는 이유를 설명해 주기 때문입니다. 이 개념이 있어야 코드를 올린다와 렌더된 정적 결과물을 공개한다를 구분하게 되고, 링크·이미지·빌드 산출물 정합성이 왜 배포 전에 중요해지는지도 이해하게 됩니다. 예를 들어 MkDocs 사이트는 원고를 수정한 뒤 다시 빌드해 정적 파일을 만들고, 그 파일이 공개되면 독자는 그 시점 결과를 보게 됩니다. 결국 정적 배포를 이해해야 배포했다는 말이 실행 서버를 띄운다는 뜻이 아니라, 빌드된 결과 파일을 공개 상태로 반영했다는 뜻일 수 있다는 점도 읽게 됩니다.
함께 볼 개념: 배포(deployment), 브랜치(branch), 문서 재현성(document reproducibility)
뜻: 상태와 행동의 값을 먼저 점수표로 만드는 대신, 어떤 행동을 선택할 정책 자체를 직접 조정하며 더 큰 보상을 얻도록 학습하는 강화학습 접근입니다. 즉 상황별 점수를 계산한 뒤 고른다보다 행동 규칙 자체를 바로 바꾼다는 쪽에 더 가깝습니다. 현재 상태에서 어떤 행동을 어느 확률로 고를지 직접 출력하는 정책을 조금씩 업데이트한다고 생각하면 됩니다.
왜 중요한가: 값(value)을 거쳐 행동을 고르는 관점과 달리, 행동 방식을 직접 최적화하는 강화학습 계보를 따로 읽게 해 주기 때문입니다. 이 개념이 있어야 value-based 방법과 policy-based 방법이 같은 강화학습 안에서도 무엇을 직접 학습 대상으로 삼는지가 다르다는 점을 분명히 이해할 수 있습니다. 또한 정책 자체를 바로 조정하는 접근이 연속 행동 공간이나 확률적 행동 선택과 어떻게 연결되는지도 더 자연스럽게 읽게 됩니다. 즉 어떤 행동이 좋은가를 점수로 매길 것인가와 행동 규칙을 바로 다듬을 것인가라는 두 관점을 비교하는 기준점이 됩니다.
함께 볼 개념: 강화학습(reinforcement learning), 정책(policy), policy gradient
뜻: 현재 상태나 관측을 보고 어떤 행동을 선택할지 정하는 기준 또는 함수입니다. 한 번의 정답을 찍는 규칙이라기보다, 상황이 달라질 때마다 어떤 행동 습관을 유지할지를 정하는 반복적 선택 기준에 가깝습니다. 즉 정책은 이 상황이면 이 행동이라는 대응표일 수도 있고, 각 행동의 확률을 정하는 규칙일 수도 있습니다.
왜 중요한가: 강화학습이 한 번의 정답을 맞히는 문제가 아니라, 상황이 달라져도 반복해서 괜찮은 행동을 고르는 방식을 배우는 문제라는 점을 가장 직접적으로 보여 주기 때문입니다. 이 개념이 있어야 이번 한 번 잘 맞히는가와 여러 단계에서 일관되게 좋은 선택을 하는가를 구분해 읽게 되고, 상태 표현이 달라지면 정책도 함께 달라져야 한다는 점도 자연스럽게 이해하게 됩니다. 또한 정책을 이해해야 모델이 직접 예측하는 것이 값인지 행동 점수인지 행동 확률인지에 따라 학습 방식이 달라진다는 점도 더 쉽게 연결됩니다.
함께 볼 개념: 강화학습(reinforcement learning), 상태(state), 행동(action)
중심 Section: P1-8.3
등장 Section: P1-14.3, P4-2.3, P4-11.1, P4-19.1, P4-19.2
뜻: 전체 예측 가운데 맞춘 비율을 나타내는 기본 성능 지표입니다. 즉 맞은 개수 / 전체 개수로 읽는 가장 직관적인 숫자이며, 모델이 정답을 얼마나 자주 맞히는지를 빠르게 요약해 줍니다. 분류 문제에서 가장 먼저 떠올리기 쉬운 지표지만, 그만큼 무엇을 숨길 수도 있는지 같이 읽어야 합니다.
왜 중요한가: 손실과 함께 보면 모델이 숫자상으로 어떤 방향으로 좋아지는지 비교할 수 있지만, 지표 하나만으로 전체 품질을 단정하지 않는 기준도 함께 필요하기 때문입니다. 이 개념이 있어야 정확도가 높아 보여도 어떤 종류의 실수를 놓치고 있는지 따로 봐야 한다는 점을 이해하게 되고, 클래스 불균형이나 중요한 오답 비용이 있는 문제에서는 다른 지표도 함께 봐야 한다는 판단으로 자연스럽게 이어집니다. 예를 들어 대부분이 음성 클래스인 데이터에서는 모두 음성으로 찍어도 높은 정확도가 나올 수 있으므로, 정확도는 출발점이지 최종 판정이 아니라는 감각이 중요합니다.
함께 볼 개념: 손실 곡선(loss curve), 검증(validation), 테스트(test)
뜻: 길이, 범위, 금지 조건, 반드시 포함할 요소처럼 결과가 따라야 할 제한 조건입니다. 무엇을 할지 정하는 요청과 별도로, 어디까지 허용되고 어디부터는 벗어나는가를 정하는 경계선이라고 볼 수 있습니다. 즉 제약은 창의성을 없애는 장치가 아니라, 결과를 목적과 책임 범위 안에 묶어 두는 통제 조건입니다.
왜 중요한가: 프롬프트가 단순 요청을 넘어서 작업 경계와 검토 기준을 분명히 만들 수 있다는 점을 보여 주기 때문입니다. 이 개념이 있어야 무엇을 해 달라는 요청과 어디까지 허용되는가를 분리해 읽게 되고, 출력 길이, 금지 표현, 포함 요소 같은 조건이 결과 품질과 검토 가능성을 함께 바꾼다는 점도 이해하게 됩니다. 예를 들어 요약해 달라는 요청만 주면 길이와 초점이 흔들릴 수 있지만, 5문장 이내, 출처 포함, 추측 금지 같은 제약을 함께 주면 결과의 범위와 검토 기준이 훨씬 또렷해집니다. 결국 제약을 이해해야 좋은 프롬프트가 더 많은 말을 하는 프롬프트가 아니라, 허용 범위와 금지 범위를 분명히 설계한 프롬프트일 수 있다는 점도 읽게 됩니다.
함께 볼 개념: 프롬프트(prompt), 출력 형식(output format), 지시(instruction)
뜻: 현재 상태와 목표를 바탕으로 다음 행동이나 조정값을 정해 실제 환경에 반영하는 문제 유형입니다. 핵심은 무슨 일이 일어날까를 추정하는 데서 멈추지 않고, 그 추정을 바탕으로 지금 무엇을 해야 할까를 결정해 실제 시스템을 움직인다는 점입니다. 즉 제어는 인식이나 예측이 끝난 뒤의 해석 문제가 아니라, 출력이 바로 바깥 세계 변화로 이어지는 실행 문제입니다.
왜 중요한가: 예측이나 분류에 그치지 않고 결과가 곧바로 속도 조절, 이동, 감속 같은 행동으로 이어지는 문제를 따로 읽게 해 주기 때문입니다. 이 개념이 있어야 AI의 출력이 단순 정보 제공인지, 아니면 환경을 바꾸는 실행 명령인지 구분하게 되고, 제어 문제에서 안전성과 책임이 왜 더 민감해지는지도 자연스럽게 이해하게 됩니다. 또한 제어를 이해해야 잘 맞히는 모델과 실제로 잘 움직이는 시스템이 항상 같은 것은 아니라는 점도 더 분명히 보게 됩니다.
뜻: 작업을 계속할지 멈출지 결정하는 기준입니다. 목표 달성, 실패 반복, 사람 승인 대기, 정보 부족처럼 여기서 더 진행해도 좋은가를 판정하는 멈춤 규칙이라고 볼 수 있습니다. 즉 종료 조건은 단순 시간 제한이 아니라, 현재 상태를 보고 다음 행동을 끝낼지 이어 갈지 정하는 제어 규칙입니다.
왜 중요한가: 여러 단계 실행 구조에서 이미 충분한 결과가 나왔는지, 추가 정보가 필요한지, 반복을 중단해야 하는지를 분명히 해야 과잉 실행과 무한 루프를 줄일 수 있기 때문입니다. 종료 조건이 있어야 속도만 빠른 자동화가 아니라, 적절한 시점에 멈추고 사람에게 넘기는 제어 가능한 자동화를 설계할 수 있습니다. 또한 종료 조건을 이해해야 계속 실행할 수 있다와 계속 실행해야 한다를 같은 말로 보지 않게 됩니다. 즉 종료 조건은 자동화의 성능뿐 아니라 통제 가능성을 좌우하는 핵심 규칙입니다.
뜻: 어떤 기술의 직접 구조로 이어지지는 않지만, 그 기술이 설득력을 얻는 배경이 된 주변 사례와 흐름입니다. 즉 이 기술이 왜 주목받게 되었는가를 설명하는 바깥 장면이지, 핵심 구조가 어디서 바로 이어졌는가를 말하는 직접 계보와는 다릅니다.
왜 중요한가: AlexNet, YOLO, WaveNet 같은 사례를 LLM의 직접 조상으로 과장하지 않고, 딥러닝 확산의 배경으로 적절히 배치하게 해 주기 때문입니다. 이 개념이 있어야 역사 설명에서 영향을 준 분위기와 핵심 구조를 직접 물려준 흐름을 분리하게 되고, 사례 나열이 과장된 계보 주장으로 흐르지 않게 됩니다. 예를 들어 이미지와 음성 분야의 성공은 딥러닝이 큰 모델과 큰 데이터로 성과를 낼 수 있다는 신뢰를 키웠지만, 그것이 곧바로 언어 모델 구조를 직접 만든 것은 아니라는 식으로 읽어야 합니다.
함께 볼 개념: 직접 계보(direct lineage), 딥러닝(deep learning), 언어 모델링(language modeling)
뜻: 브라우저에서 코드 셀과 설명 셀을 함께 다루는 노트북 환경을 제공하는 도구 계열입니다. 코드 실행, 결과 확인, 해설 작성이 한 문서 안에서 이어지는 형식을 제공하므로, 계산 문서와 실험 기록을 한 자리에서 남기게 해 주는 작업 틀이라고 볼 수 있습니다. 즉 주피터는 단순 편집기가 아니라 설명과 실행을 함께 담는 노트북 형식의 중심 도구입니다.
왜 중요한가: Colab과 로컬 노트북 환경을 비교할 때, 노트북 형식 자체와 실행 위치를 분리해 이해하는 기준이 되기 때문입니다. 이 개념이 있어야 노트북으로 작업한다는 말이 곧 클라우드 실행을 뜻하는 것은 아니라는 점을 이해하게 되고, 같은 Jupyter 형식도 로컬 커널과 원격 실행 환경에서 다르게 동작할 수 있다는 점을 읽게 됩니다. 예를 들어 Colab은 Jupyter 형식을 Google 호스팅 환경에서 제공하는 한 형태이고, 로컬 Jupyter는 내 컴퓨터 커널과 파일을 직접 쓰는 형태입니다. 결국 주피터를 이해해야 문서 형식, 실행 위치, 런타임 상태를 분리해 보게 되고, 노트북 실습의 재현성 문제도 더 정확히 진단하게 됩니다.
뜻: 원시 로그를 그대로 두거나 숫자 특징만 남기는 대신, 구조와 순서를 더 잘 보이게 하려고 그 사이에 두는 사람 주도 입력 재표현입니다. 즉 원본 데이터와 최종 특징 사이에 문제를 더 잘 드러내도록 한 번 더 바꾼 표현 층을 둔 것이라고 볼 수 있습니다.
왜 중요한가: 같은 시계열이라도 평균과 기울기만으로는 놓치기 쉬운 모양 차이를 세그먼트 표현, 토큰 시퀀스, 구간 패턴처럼 더 직접 남길 수 있어, 비교와 후속 입력 설계를 함께 도와주기 때문입니다. 이 개념이 있어야 원시 데이터와 최종 특징 사이에 사람이 해석하기 쉬운 중간 단계를 둘 수 있다는 발상이 생기고, 어떤 표현이 현재 문제를 더 잘 드러내는지 비교하는 기준도 잡게 됩니다. 또한 중간 표현을 이해해야 특징 설계가 곧바로 숫자 추출만을 뜻하지 않고, 문제에 맞는 표현 단계를 새로 만드는 일일 수도 있다는 점을 읽게 됩니다.
함께 볼 개념: 특징(feature), 표현(representation), 표현 학습(representation learning)
중심 Section: P3-6.2
등장 Section: P3-index, P3-5.1, P3-5.3, P3-6.1, P3-6.3, P3-summary
뜻: 자동 실행 중이거나 곧 실행될 행동을 사람이 실제로 멈추거나 취소하거나 보류로 돌릴 수 있는 권한입니다. 단순히 나중에 문제를 지적할 수 있다는 뜻이 아니라, 실행 전후의 위험을 보고 흐름 자체를 끊을 수 있는 실질적 통제 수단이라는 점이 핵심입니다. 즉 중단 권한은 의견 제시가 아니라 상태 변경을 멈추는 실행 제어 권한입니다.
왜 중요한가: 승인과 감독이 있어 보여도 실제로 멈출 수 없다면, 자동화는 위험 신호를 본 뒤에도 계속 진행되어 피해를 키울 수 있기 때문입니다. 이 개념이 있어야 형식적 인간 감독과 실질적 개입 가능성을 구분하게 되고, 검토자 있음과 사고를 막을 수 있음이 같은 말이 아니라는 점도 더 분명하게 읽게 됩니다. 또한 중단 권한을 이해해야 종료 조건, 승인, 실행 범위 제한 같은 장치가 왜 기록만 남기는 절차가 아니라 실제 운영 안전성을 지탱하는 제어축인지도 더 또렷하게 보게 됩니다.
함께 볼 개념: 인간 감독(human oversight), 승인(approval), 종료 조건(stop condition), 실행 범위(scope), 디지털 안전성(safety)
뜻: 입력 예시와 사람이 붙인 정답 라벨을 함께 사용해, 입력과 출력의 관계를 학습하는 방식입니다. 즉 모델이 무엇을 정답으로 볼 것인가를 사람이 미리 정해 둔 상태에서, 그 대응 관계를 데이터로부터 익히는 문제 설정이라고 볼 수 있습니다. 다시 말해 지도학습은 데이터만 있는 것이 아니라 정답 기준까지 함께 준비된 학습 방식입니다.
왜 중요한가: 예시, 특징, 라벨, 학습, 일반화를 가장 기본적인 구조로 묶어 보여 주는 대표 입문 형태이기 때문입니다. 이 개념이 있어야 모델 학습을 입력을 보고 정답을 맞히는 규칙을 찾는 일로 가장 먼저 붙잡게 되고, 이후 분류·회귀·평가 지표 같은 여러 주제를 하나의 공통 틀로 읽을 수 있습니다. 예를 들어 메일 분류에서는 본문만 모아 두는 것으로는 부족하고, 스팸/정상 같은 라벨이 함께 있어야 모델이 무엇을 맞혀야 하는지 배울 수 있습니다. 결국 지도학습을 이해해야 모델 성능을 읽을 때도 구조만이 아니라 라벨 정의와 라벨 품질을 함께 점검하게 됩니다.
함께 볼 개념: 라벨(label), 학습(training), 일반화(generalization)
뜻: 사전학습된 모델이 사람의 자연어 지시를 더 잘 이해하고, 요청 형식에 맞는 답변 습관을 보이도록 추가로 조정하는 단계입니다. 즉 언어 자체를 배우는 것과는 별개로, 사용자 요청에 어떻게 반응할 것인가를 더 잘 맞추는 적응 단계라고 볼 수 있습니다. 말하자면 지시 튜닝은 무엇을 아는가보다 그 지식을 요청 형식에 맞게 어떻게 꺼내는가를 다듬는 과정입니다.
왜 중요한가: 대화형 LLM이 단순 이어쓰기 모델보다 왜 더 assistant-like하게 느껴지는지 설명하며, 언어 지식과 응답 형식 조정이 다른 층위라는 점을 구분하게 해 주기 때문입니다. 이 개념이 있어야 사전학습이 크다고 해서 자동으로 지시를 잘 따르는 것은 아니라는 점을 이해하게 되고, 모델이 무엇을 알고 있는가와 그 지식을 사용자 요청 형식에 맞춰 어떻게 꺼내는가를 따로 읽게 됩니다. 결국 지시 튜닝을 이해해야 LLM의 도움말 같은 말투와 응답 습관이 어디서 오는지도 읽게 됩니다.
함께 볼 개념: 미세조정(fine-tuning), 사전학습(pretraining), 프롬프트(prompt)
뜻: 모델에게 무엇을 하라고 요청하는 작업 지정 문장입니다. 같은 자료가 주어져도 요약하라, 분류하라, 비교하라, 번역하라처럼 어떤 과업으로 읽을지를 정하는 작업 방향 표지라고 볼 수 있습니다. 즉 지시는 자료 자체보다 이 자료를 어떤 작업으로 변환할 것인가를 정하는 입력의 행동 명령 층입니다.
왜 중요한가: 같은 자료를 주어도 요약할지, 비교할지, 번역할지, 비판할지에 따라 출력이 달라지므로 프롬프트의 핵심 축을 이루기 때문입니다. 이 개념이 있어야 입력 자료 자체와 그 자료로 무엇을 하라고 했는가를 분리해 읽게 되고, 맥락이 같아도 지시가 달라지면 전혀 다른 출력이 나오는 이유를 더 명확히 이해하게 됩니다. 즉 지시는 정보 제공이 아니라 작업 방향 지정이라는 점이 중요합니다. 또한 지시를 이해해야 내용이 부족해서 못 푼다는 문제와 무엇을 하라는지 अस्पष्ट하다는 문제를 따로 분리해 진단하게 됩니다.
함께 볼 개념: 프롬프트(prompt), 맥락(context), 제약(constraint)
중심 Section: P1-12.1
등장 Section: P1-12.2, P1-12.3, P1-14.3, P6-10.1, P6-10.3, P6-summary
뜻: 규칙, 사실, 관계, 도메인 정보를 모아 두고 시스템이 참조하는 지식 저장 구조입니다. 프로그램 코드 안에 모든 판단을 직접 박아 넣는 대신, 시스템이 꺼내 볼 수 있는 지식 창고를 따로 두는 방식이라고 볼 수 있습니다. 즉 지식 기반은 판단 규칙을 실행하는 곳이 아니라, 그 판단에 필요한 재료를 구조화해 쌓아 둔 층입니다.
왜 중요한가: 규칙 기반 시스템이 단순 조건문 나열이 아니라, 도메인 지식을 분리해 저장하고 추론 엔진이 참조하는 구조라는 점을 이해하게 해 주기 때문입니다. 이 개념이 있어야 지식을 저장하는 곳과 그 지식을 적용하는 절차를 나누어 읽게 됩니다. 또한 지식 기반을 이해해야 규칙 추가, 사실 수정, 도메인 확장이 왜 코드 전체를 뜯어고치지 않고도 가능하도록 설계되었는지 더 자연스럽게 읽게 됩니다. 결국 지식 기반은 판단 로직과 판단 재료를 분리해 유지보수 가능성을 높이는 구조입니다.
함께 볼 개념: 규칙 기반 시스템(rule-based system), 지식 표현(knowledge representation), 추론 엔진(inference engine)
뜻: 사실, 관계, 규칙, 제약을 컴퓨터가 다룰 수 있는 형식으로 정리하는 일입니다. 사람이 머릿속에서 아는 내용을 그대로 둘 수 없으므로, 컴퓨터가 조회하고 비교하고 추론할 수 있는 구조로 바꾸는 번역 작업에 가깝습니다. 즉 지식 표현은 무엇을 아는가뿐 아니라 그 지식을 어떤 형식으로 적어 두어야 계산할 수 있는가를 함께 다루는 문제입니다.
왜 중요한가: 기호 기반 AI와 규칙 기반 접근이 무엇을 저장하고 조작하려 했는지 이해하게 해 줍니다. 이 개념이 있어야 지식을 안다는 말이 막연한 기억이 아니라, 어떤 형식으로 저장되어 어떤 규칙과 함께 작동하는가의 문제라는 점이 분명해집니다. 또한 지식 표현을 이해해야 같은 사실도 표, 규칙, 그래프, 논리식처럼 어떤 형식으로 담느냐에 따라 가능한 질문과 추론 방식이 달라진다는 점도 보게 됩니다. 결국 지식 표현은 지식 내용과 지식을 계산 가능한 형식으로 적는 방식을 함께 묻게 만드는 개념입니다.
함께 볼 개념: 기호 기반 AI(symbolic AI), 규칙 기반 시스템(rule-based system)
뜻: 전문가의 판단 기준과 도메인 지식을 시스템이 사용할 수 있는 규칙과 구조로 옮기는 과정입니다. 이미 머릿속에 있는 실무 감각을 인터뷰, 문서화, 규칙화 과정을 거쳐 기계가 다룰 수 있는 형식으로 바꾸는 단계라고 볼 수 있습니다. 즉 지식 획득은 지식을 저장한 뒤의 검색 문제가 아니라, 애초에 무엇을 어떤 규칙으로 적어 넣을까를 정하는 변환 작업입니다.
왜 중요한가: 규칙 기반 시스템의 어려움이 단순 구현이 아니라, 좋은 지식을 꺼내고 검증하고 최신 상태로 유지하는 일에 있다는 점을 보여 주기 때문입니다. 이 개념이 있어야 전문가 시스템이 왜 코드만 잘 짜면 되는 문제가 아니었는지, 그리고 유지보수가 왜 어려웠는지도 이해하게 됩니다. 또한 지식 획득을 이해해야 설명 가능한 규칙 체계도 입력 지식이 부실하거나 오래되면 쉽게 약해진다는 점을 함께 보게 됩니다.
함께 볼 개념: 전문가 시스템(expert system), 지식 기반(knowledge base), 지식 표현(knowledge representation)
뜻: 요청을 보낸 뒤 첫 응답이나 최종 결과를 받을 때까지 걸리는 시간입니다. 같은 작업량이라도 사용자는 얼마나 많은 일을 처리했는가보다 얼마나 오래 기다렸는가를 먼저 체감하므로, 체감 품질과 직접 연결된 시간 지표에 가깝습니다. 즉 지연 시간은 시스템 안의 계산량보다, 사용자 입장에서 답이 오기까지 얼마나 걸렸는가를 나타내는 시간입니다.
왜 중요한가: 모델 품질이 좋아도 너무 오래 기다리게 하면 사용 경험이 나빠지고, 검색·도구 호출·후처리까지 포함한 전체 대기 시간을 함께 봐야 서비스 품질을 제대로 읽을 수 있기 때문입니다. 이 개념이 있어야 단순 모델 응답 속도와 전체 작업 흐름의 지연을 구분해 읽을 수 있고, 처리량을 높이는 전략이 개별 요청 대기 시간에는 어떤 영향을 주는지도 함께 보게 됩니다. 결국 지연 시간을 이해해야 빠른 시스템이란 처리량만 높은 시스템이 아니라, 사용자가 덜 기다리게 만드는 시스템이라는 점도 읽게 됩니다.
함께 볼 개념: 비용(cost), 처리량(throughput), 스트리밍(streaming), 재시도(retry)
뜻: 투자, 성능, 고용, 정책 같은 변화 방향을 보여 주는 수치나 신호입니다. Part 7의 프로젝트 문맥에서는 오류율, 정확도, coverage, 응답 시간처럼 현재 비교에서 무엇을 먼저 읽을지 정한 관찰 숫자도 지표로 볼 수 있습니다.
왜 중요한가: 전망 자료를 읽을 때 수치 자체와 그 해석을 분리하게 해 주며, 방향 신호를 확정 결론으로 오해하지 않게 만들기 때문입니다. 이 개념이 있어야 지표가 현실 그 자체가 아니라 특정 현상을 간접적으로 읽게 해 주는 관측 신호라는 점을 이해하게 되고, 같은 지표라도 어떤 기간과 어떤 기준으로 읽었는지에 따라 해석이 달라질 수 있다는 점도 더 자연스럽게 붙잡게 됩니다. 또한 지표를 이해해야 Part 7의 요약표와 결과 해석 표가 단순 숫자 나열이 아니라, 어떤 신호를 기준선과 비교하고 어떤 신호를 다음 질문으로 넘길지 정하는 문서라는 점도 더 분명하게 읽게 됩니다.
함께 볼 개념: 미래 전망(forecast), 시나리오(scenario), 보고서(report)
중심 Section: P1-17.1
등장 Section: P1-17.2, P1-17.3, P7-1.1, P7-1.3, P7-7.4
뜻: 어떤 기술의 핵심 구조와 문제 설정으로 직접 이어지는 연구 흐름입니다. 단순히 같은 시기에 주목받았거나 분위기에 영향을 준 사례가 아니라, 현재 기술의 중심 아이디어가 어디서 실제로 이어졌는지를 가리키는 계보라고 볼 수 있습니다. 즉 직접 계보는 유명했던 배경 사례보다 핵심 구조를 물려준 조상에 더 가까운 말입니다.
왜 중요한가: LLM을 설명할 때 언어 모델링, Seq2Seq, Attention, Transformer를 중심에 두고 다른 딥러닝 사례와 역할을 구분하게 해 주기 때문입니다. 이 개념이 있어야 영향을 준 배경과 핵심 구조가 직접 이어진 조상을 섞지 않게 되고, 역사 설명이 사례 나열이 아니라 구조적 연결 설명이 되도록 잡아 줍니다. 예를 들어 AlexNet과 WaveNet은 딥러닝 확산의 중요한 주변 근거이지만, LLM의 직접 계보를 말할 때는 언어 모델링과 Transformer 계열이 더 중심에 와야 합니다. 결국 직접 계보를 이해해야 역사 설명에서 무엇이 유명했는가보다 무엇이 현재 구조를 실제로 만들었는가를 더 정확히 읽게 됩니다.
함께 볼 개념: 주변 근거(surrounding evidence), 언어 모델링(language modeling), 트랜스포머(Transformer)
뜻: 여러 행이나 여러 값을 평균, 합, 개수, 비율처럼 더 작은 요약값으로 바꾸는 과정입니다. 즉 원본 표를 그대로 보는 대신, 현재 질문에 맞는 대표값으로 압축하는 읽기 방식입니다. 한 건 한 건의 사례를 모두 설명하기보다, 묶음 전체가 어떤 경향을 보이는지 드러내는 중간 요약 단계라고 볼 수 있습니다.
왜 중요한가: 표 전체를 그대로 보는 것만으로는 패턴이 잘 보이지 않을 때, 무엇을 요약하면 현재 질문에 답할 수 있는지 판단하는 핵심 단계가 되기 때문입니다. 집계 감각이 있어야 한 행 읽기와 집단 경향 읽기를 구분할 수 있고, 평균 하나만 볼지, 개수와 비율을 함께 볼지에 따라 해석이 크게 달라질 수 있다는 점도 이해하게 됩니다. 예를 들어 고객 만족도 데이터를 볼 때 전체 평균만 보면 괜찮아 보여도, 채널별로 집계하면 특정 채널의 불만이 집중되어 있을 수 있습니다. 결국 집계를 이해해야 데이터가 많다와 현재 질문에 답하는 형태로 정리돼 있다를 같은 말로 보지 않게 됩니다.