뜻: 민감 정보나 비밀값의 전체 내용을 그대로 드러내지 않고, 일부를 가리거나 대체 표기로 바꾸어 노출 위험을 줄이는 처리 방식입니다. 예를 들어 전화번호 뒤 몇 자리를 가리거나, API 키를 전체 대신 앞뒤 일부만 남기는 식의 노출 축소가 여기에 해당합니다. 즉 마스킹은 정보를 완전히 삭제하는 일과 달리, 필요한 최소 식별 단서만 남기면서 위험한 부분은 감추는 절충형 보호 장치입니다.
왜 중요한가: 로그, 디버깅 기록, 평가 샘플은 나중에 다시 읽어야 하지만, 그렇다고 민감 정보와 비밀값을 원문 그대로 남기면 그 기록 자체가 새로운 보안 사고 경로가 될 수 있기 때문입니다. 이 개념이 있어야 기록을 남긴다와 위험한 값을 그대로 저장한다를 같은 것으로 보지 않게 되고, 추적 가능성과 정보 보호를 함께 설계해야 한다는 점을 더 구체적으로 이해하게 됩니다. 또한 마스킹을 이해해야 삭제, 비저장, 접근 제한 같은 다른 보호 전략과 어떻게 역할이 다른지도 읽게 되고, 어떤 값은 일부만 남겨도 충분하지만 어떤 값은 아예 저장하면 안 된다는 판단도 더 분명하게 하게 됩니다.
함께 볼 개념: 민감 정보(sensitive information), 비밀 정보(confidential information), 로그(log), 보안(security), 검토(review)
뜻: 노트북에서 설명 문장, 제목, 목록, 수식 같은 서술 내용을 적는 셀입니다. 코드를 실행하지는 않지만, 실험 맥락과 해석을 문서처럼 함께 남기는 기록 칸이라고 볼 수 있습니다. 즉 마크다운 셀은 계산 자체보다 무엇을 왜 하고 있는가를 설명하는 서술 층입니다.
왜 중요한가: 노트북이 코드만 실행하는 공간이 아니라, 실험 의도와 해석을 함께 남기는 계산 문서라는 점을 드러내기 때문입니다. 이 개념이 있어야 코드 셀만으로는 남지 않는 가설, 실험 목적, 결과 해석을 어디에 기록해야 하는지 이해하게 되고, 나중에 다시 읽을 때도 무엇을 왜 시도했는가를 복원할 수 있게 됩니다. 결국 마크다운 셀은 실행 결과를 꾸미는 장식이 아니라, 재현 가능한 실험 기록을 만드는 문서 구조의 핵심 요소입니다. 초심자에게는 코드만 남기면 실험이 남는 것이 아니라는 점을 익히게 하는 기본 장치이기도 합니다.
함께 볼 개념: 노트북(notebook), 코드 셀(code cell), 출력(output)
뜻: 언어 모델이나 임베딩을 학습하고 분석하기 위해 모아 둔 텍스트 자료의 집합입니다. 단순히 문서를 많이 모은 더미가 아니라, 어떤 언어 사용을 대표한다고 보고 학습 재료로 삼을지 선택한 텍스트 묶음이라고 볼 수 있습니다. 그래서 말뭉치는 양만이 아니라 도메인, 시기, 언어 스타일, 정제 방식까지 함께 가진 학습 기반입니다.
왜 중요한가: 언어 모델은 사전 뜻이 아니라 실제 사용된 문맥 분포를 바탕으로 확률과 표현을 배우므로, 어떤 말뭉치를 보았는지가 모델의 한계와 강점을 크게 좌우하기 때문입니다. 이 개념이 있어야 모델 성능 차이를 구조 차이만이 아니라 학습 자료의 범위, 편향, 최신성 차이로도 읽게 되고, 무엇을 배웠는가를 묻는 질문이 곧 무엇을 읽고 학습했는가를 묻는 질문과 연결된다는 점을 이해하게 됩니다. 예를 들어 뉴스 중심 말뭉치와 대화 중심 말뭉치는 어휘 분포와 문체, 최신성, 안전성 문제가 다르므로, 같은 구조의 모델도 전혀 다른 성향을 보일 수 있습니다.
함께 볼 개념: 언어 모델(language model), 데이터(data), 워드투벡(word2vec)
뜻: 함수를 정의할 때 입력 자리를 나타내기 위해 적는 이름입니다. 아직 실제 값이 들어오기 전, 이 함수는 이런 자리에 값을 받는다고 약속해 두는 이름표라고 볼 수 있습니다. 즉 매개변수는 호출 시점의 실제 값이 아니라, 그 값을 받아 둘 자리를 미리 정의한 이름입니다.
왜 중요한가: 실제로 넘겨지는 인자와 함수 안에서 사용할 입력 이름을 구분해야 함수의 입력 계약을 정확히 읽을 수 있기 때문입니다. 이 개념이 있어야 함수 정의를 볼 때 무엇을 받을 준비를 해 두었는가와 실제 호출에서 무엇이 들어왔는가를 분리하게 되고, 코드 예시를 읽을 때도 입력 규칙을 더 안정적으로 따라가게 됩니다. 또한 매개변수를 이해해야 모델 파라미터(parameter)와 함수 매개변수(parameter)가 전혀 다른 층위의 말이라는 점도 더 분명히 구분하게 됩니다.
함께 볼 개념: 인자(argument), 함수(function), 반환값(return value)
뜻: 어떤 기준 키를 특정 값에 연결해 두는 구조입니다. 프로그래밍에서는 키에서 값으로 이어지는 자료구조를, 더 넓게는 한 표현을 다른 표현에 대응시키는 관계를 가리킬 수 있습니다. 즉 숫자 ID를 이름으로 바꾸거나, 라벨 문자열을 정수 코드로 바꾸거나, 토큰을 벡터 인덱스로 잇는 일 모두가 넓게 보면 매핑입니다.
왜 중요한가: 딕셔너리, 라벨 변환, ID-메타데이터 연결은 겉모습이 달라도 모두 무엇이 무엇에 대응되는가라는 질문으로 읽을 수 있습니다. 이 감각이 있어야 자료구조 설명과 함수 설명을 서로 연결해 이해할 수 있습니다. 또한 매핑을 알아야 원본 값과 모델이 쓰기 좋은 표현이 왜 다를 수 있는지 더 자연스럽게 받아들이게 됩니다. 결국 매핑은 단순 사전 구조가 아니라, 한 표현 체계를 다른 표현 체계로 번역하는 가장 기초적인 연결 장치입니다.
뜻: 현재 작업이나 응답을 이해하기 위해 함께 제공하는 배경 정보, 대상 문서, 상황 설명의 묶음입니다. 단순 보조 설명이 아니라, 같은 지시문이 들어와도 어떤 자료와 어떤 상황 안에서 읽어야 하는지를 정해 주는 해석 조건이라고 볼 수 있습니다.
왜 중요한가: 같은 지시라도 어떤 독자, 어떤 자료, 어떤 범위를 함께 주는지에 따라 출력 방향이 크게 달라지므로, 프롬프트를 단순 질문이 아니라 조건 있는 입력으로 읽게 해 주기 때문입니다. 이 개념이 있어야 모델이 무엇을 하라는 문장 하나만 보고 답하는 것이 아니라, 함께 준 배경과 문서 조각을 바탕으로 해석 방향을 바꾼다는 점을 이해하게 되고, RAG나 긴 문서 요약에서 무엇을 맥락으로 넣을지 판단하는 기준도 잡게 됩니다. 결국 맥락은 답변의 장식 정보가 아니라, 모델이 무엇을 중요하게 읽을지를 바꾸는 해석 조건입니다. 또한 맥락을 잘못 넣으면 관련 없는 자료가 판단을 흔들 수 있으므로, 많이 넣는 것보다 무엇을 남기고 무엇을 빼는지가 더 중요하다는 점도 함께 읽어야 합니다.
함께 볼 개념: 프롬프트(prompt), 지시(instruction), 예시(example)
뜻: 데이터나 경험을 사용해 모델의 성능을 개선하는 접근입니다. 사람이 규칙을 낱낱이 직접 적기보다, 예시와 피드백을 바탕으로 더 나은 예측이나 판단 방식을 찾게 만드는 방법이라고 볼 수 있습니다. 즉 머신러닝은 규칙을 써 넣는 일보다 데이터를 통해 규칙을 조정하게 만드는 일에 더 가깝습니다.
왜 중요한가: 사람이 모든 규칙을 직접 쓰기 어려운 문제에서 중심 설명이 학습 기반으로 이동하는 이유를 이해하게 해 주기 때문입니다. 이 개념이 있어야 AI가 똑똑하다는 인상을 넘어서, 실제로는 데이터에서 반복 패턴을 조정해 가는 모델 개선 절차라는 점을 붙잡을 수 있습니다. 또한 머신러닝은 정답을 외운다보다 새 사례에도 통할 규칙을 찾는다는 문제 설정이라는 점을 분명히 해, 일반화와 평가 개념으로 자연스럽게 이어지게 합니다. 결국 머신러닝을 이해해야 AI를 마법 같은 답변기가 아니라 데이터 기반 모델 개선 방식으로 읽게 됩니다.
뜻: 같은 입력 토큰 관계를 한 번만 읽지 않고, 여러 head가 서로 다른 관련성 관점으로 나누어 읽은 뒤 그 결과를 다시 합치는 attention 방식입니다. 즉 한 시선으로만 무엇이 중요하지를 보는 대신, 여러 작은 시선을 병렬로 두어 서로 다른 연결 패턴을 동시에 포착하려는 구조라고 볼 수 있습니다. 그래서 같은 문장 안에서도 어떤 head는 가까운 문법 관계를, 다른 head는 멀리 떨어진 참조 관계를 더 강하게 읽을 수 있습니다.
왜 중요한가: 번역, 요약, 코드 이해처럼 한 종류의 관련성만으로는 부족한 문제에서, 서로 다른 관계 패턴을 함께 보존하는 Transformer 핵심 장치이기 때문입니다. 이 개념이 있어야 한 문장 안에서도 문법적 관계, 의미적 관련성, 장거리 참조 같은 서로 다른 연결을 동시에 볼 수 있다는 점을 이해하게 되고, self-attention이 하나의 시선이라면 multi-head는 여러 시선을 병렬로 둔 구조라는 점도 더 쉽게 붙잡게 됩니다. 또한 여러 head가 있다고 해서 자동으로 각각 인간이 해석 가능한 역할 하나씩만 맡는 것은 아니라는 점도 중요합니다. 즉 multi-head는 해석 가능한 규칙표보다, 다양한 관계를 담을 수 있게 표현 용량을 나누는 설계 장치로 읽는 편이 더 정확합니다.
함께 볼 개념: 셀프 어텐션(self-attention), 쿼리-키-값(query-key-value, QKV), 트랜스포머(Transformer)
뜻: 어떤 객체에 붙어 호출되는 함수 형태입니다. 같은 함수라도 객체와 함께 정의된 동작이라서, 보통 value.method()처럼 무엇에 대해 수행하는가가 함께 드러납니다. 즉 메서드는 독립된 계산 절차이면서도, 특정 객체가 제공하는 자기 관련 행동으로 읽어야 하는 호출 방식입니다.
왜 중요한가: function(x)와 value.method()는 겉보기엔 둘 다 호출이지만, 메서드는 특정 타입의 객체가 제공하는 동작이라는 점이 다릅니다. 이 차이를 이해해야 df.head(), model.fit(), text.lower() 같은 호출을 단순 문법이 아니라 객체가 가진 기능으로 읽을 수 있고, 어떤 값에서 어떤 동작을 기대할 수 있는지도 더 빨리 판단할 수 있습니다. 결국 메서드를 이해해야 코드에서 무슨 일을 하나뿐 아니라 누가 그 일을 제공하나까지 함께 읽게 됩니다.
뜻: 문서 본문 자체가 아니라 제목, 날짜, 출처, 권한, 문서 종류처럼 그 문서를 설명하는 부가 정보입니다. 내용 그 자체는 아니지만, 이 자료를 어떻게 읽고 다뤄야 하는가를 알려 주는 설명 표지라고 볼 수 있습니다. 예를 들어 같은 내용 요약이라도 작성 시점, 저자, 공개 범위, 원문 위치가 다르면 문서를 쓰는 방식과 신뢰 판단도 함께 달라집니다.
왜 중요한가: 벡터가 가까워 보여도 최신 문서인지, 접근 권한이 있는지, 어떤 자료 유형인지 함께 봐야 실제 검색 품질과 운영 품질이 올라가기 때문입니다. 이 개념이 있어야 검색이 본문 의미 비교만으로 끝나지 않고, 필터링과 정렬, 접근 제어가 함께 작동해야 한다는 점을 이해하게 됩니다. 또한 메타데이터를 알아야 비슷한 문서와 지금 써도 되는 문서를 구분하게 되고, 최신성 확인과 출처 추적도 더 체계적으로 연결됩니다.
함께 볼 개념: 벡터 데이터베이스(vector database), 필터링(filtering), 출처 추적(provenance)
중심 Section: P1-13.4
등장 Section: P1-13.2, P1-14.1, P6-11.2, P6-12.1, P6-12.2
뜻: 문제 유형, 데이터 상태, 설명 가능성, 계산 비용을 함께 보고 먼저 비교할 모델 후보를 좁히는 과정입니다. 한 번에 정답 모델을 맞히는 일이 아니라, 현재 과제에 맞는 후보군을 합리적으로 줄여 실험 순서를 세우는 판단 단계에 가깝습니다. 즉 모델 선택은 학습 버튼을 누르기 전부터 시작되는 설계 판단이며, 어떤 모델 계열을 왜 후보에 올렸는지 설명할 수 있어야 하는 과정입니다.
왜 중요한가: 유명한 알고리즘 이름을 고르는 일보다, 어떤 문제에서 어느 모델 서랍을 먼저 열어야 하는지 정하는 판단이 더 앞서기 때문입니다. 이 단계가 있어야 데이터 양이 적은데도 과하게 무거운 모델로 바로 가거나, 설명 가능성이 중요한데도 해석이 어려운 모델부터 쓰는 식의 어긋난 출발을 줄일 수 있습니다. 결국 모델 선택은 무엇을 학습시킬 수 있는가보다 지금 조건에서 무엇부터 시험하는 것이 타당한가를 정리하는 기초 판단입니다.
함께 볼 개념: 문제 정의(task definition), 기준선(baseline), 평가(evaluation)
중심 Section: P4-8.1
등장 Section: P4-3.2, P4-8.2, P4-9.1, P4-9.2, P4-9.3
뜻: AI 앱이 외부 도구, 리소스, 프롬프트와 공통 방식으로 연결되게 하려는 공개 프로토콜입니다. 핵심은 모델 자체를 바꾸는 기술이 아니라, 바깥 기능을 더 표준화된 방식으로 발견하고 연결하는 인터페이스 규칙이며, 서로 다른 시스템이 무엇을 제공하는지, 어떻게 요청하는지를 같은 틀로 맞추려는 약속에 가깝습니다. 즉 MCP는 모델이 더 똑똑해지는 기술보다 모델 주변 연결을 더 일관되게 만드는 규칙 쪽에 가깝습니다.
왜 중요한가: 에이전트나 AI 앱이 여러 외부 시스템을 제각각 붙이는 대신, 발견과 호출 방식을 더 일관되게 만들 수 있기 때문입니다. 이 표준화가 있어야 앱, 호스트, 클라이언트, 서버, 도구, 리소스의 경계를 더 명확히 설명할 수 있고, 연결 구조를 바꾸더라도 전체 오케스트레이션을 덜 제각각 설계하게 됩니다. 결국 MCP를 이해해야 에이전트 시스템의 핵심 문제가 모델 성능만이 아니라, 바깥 기능과 정보를 어떤 규칙으로 연결하느냐에도 있다는 점을 읽게 됩니다.
함께 볼 개념: 도구(tool), 에이전트(agent), 오케스트레이션(orchestration), 리소스(resource), 서버(server), 클라이언트(client)
뜻: 현실 전체를 그대로 복사한 것이 아니라 목적에 맞게 줄여 만든 계산용 모형입니다. AI 문맥에서는 특히 입력을 받아 예측, 분류, 생성, 판단 같은 출력을 만드는 학습된 계산 구조를 뜻하지만, 서비스 전체나 앱 전체와 같은 말은 아닙니다.
왜 중요한가: 모델을 사람처럼 모든 일을 알아서 처리하는 존재로 보지 않고, 무엇을 입력으로 받아 어떤 출력을 만들며 서비스 안에서 어디까지 맡는지 구분하는 출발점이 되기 때문입니다. 이 구분이 잡혀야 모델 자체의 한계와 시스템 설계의 책임을 섞지 않게 됩니다. 이 개념이 있어야 좋은 모델을 고른다는 말이 곧바로 좋은 제품이 된다는 뜻이 아니라는 점도 분명해지고, 입력 설계, 근거 연결, 검토 절차, 권한 통제가 왜 여전히 별도 과제로 남는지 더 자연스럽게 이해하게 됩니다. 다시 말해 모델은 시스템의 핵심 부품일 수는 있어도, 시스템 전체와 같은 말은 아니라는 점이 중요합니다.
함께 볼 개념: 입력(input), 출력(output), 시스템(system), 앱(application), 오케스트레이션(orchestration), 파라미터(parameter)
뜻: 우리가 알고 싶어 하는 전체 대상입니다. 실제로 손에 든 데이터 몇 건이 아니라, 그 데이터가 대표한다고 가정하는 더 넓은 전체 집합이라고 볼 수 있습니다. 즉 모집단은 지금 측정한 표본이 아니라, 그 표본이 대신 말해 주길 기대하는 바깥 전체입니다.
왜 중요한가: 표본이 무엇의 일부인지 분명히 해야 추정과 오차를 올바르게 읽을 수 있기 때문입니다. 이 개념이 있어야 손에 쥔 데이터셋이 전체 현실이 아니라 그 일부 관측이라는 점을 놓치지 않게 되고, 표본에서 얻은 평균과 분포를 왜 곧바로 전체 사실로 단정하면 안 되는지도 자연스럽게 이해하게 됩니다. 결국 모집단을 먼저 정해야 무엇에 대해 말하고 있는가가 분명해지고, 평가 결과를 어디까지 일반화할 수 있는지도 더 조심해서 읽게 됩니다. AI 데이터셋을 볼 때도 이 데이터가 어떤 현실 전체를 대표한다고 보는가를 먼저 묻는 습관과 연결됩니다.
뜻: 학습이나 최적화 과정이 실제로 줄이거나 키우려는 전체 기준입니다. 한 샘플의 오차만이 아니라, 여러 샘플의 평균 손실, 정규화 벌점, 제약 조건까지 묶어 결국 무엇을 더 좋다고 볼 것인가를 정한 전체 목표식이라고 볼 수 있습니다. 따라서 목적 함수는 모델이 따를 최종 채점표에 가깝고, 손실 함수는 그 안의 핵심 구성요소일 수 있습니다.
왜 중요한가: 모델은 막연히 잘 맞추는 쪽으로 움직이는 것이 아니라, 목적 함수가 정의한 방향으로만 조정되기 때문입니다. 이 개념이 있어야 손실 함수, 정규화, 제약 반영이 한데 묶여 실제 학습 목표를 만든다는 점을 이해하게 되고, 정확도가 높다는 평가와 학습 중 무엇을 직접 줄였는가가 항상 같은 말은 아니라는 점도 더 분명히 읽게 됩니다. 결국 목적 함수를 어떻게 설계하느냐에 따라 모델이 선호하는 해와 감수하는 오차 유형도 함께 달라집니다. 다시 말해 목적 함수는 모델이 무엇을 잘한 것으로 배울지를 가장 넓은 층위에서 정하는 규칙입니다.
함께 볼 개념: 손실 함수(loss function), 최적화(optimization), 평가 지표(metric)
뜻: 아직 완전히 확정된 정답 열은 아니더라도, 나중에 맞히고 싶은 결과로 삼을 수 있는지 검토하기 위해 따로 세워 보는 결과 후보 열입니다. 즉시 학습 라벨로 쓰기보다, 반복적으로 정의할 수 있는 예측 목표인지 먼저 시험하는 중간 후보라고 볼 수 있습니다. 즉 목표 라벨 후보는 바로 정답으로 쓴다보다 정답으로 발전시킬 수 있는가를 검토하는 잠정 결과 열입니다.
왜 중요한가: 비교 리포트, 검토 후보 큐, 운영 메모를 그대로 학습 문제로 올릴 수는 없으므로, 어떤 결과 열이 반복성, 정의 일관성, 근거 추적성을 갖추었는지 먼저 가르는 중간 구조가 필요하기 때문입니다. 이 단계가 있어야 운영 출력과 학습 타깃을 무리하게 같은 것으로 착각하지 않게 됩니다. 또한 목표 라벨 후보를 이해해야 좋아 보이는 출력과 학습 가능한 정답 정의가 다른 층위라는 점도 더 분명히 읽게 됩니다.
함께 볼 개념: 타깃(target), 출력 구조(output structure), 비교 리포트(comparison report), 라벨(label)
뜻: 해결하려는 일이나 도달하려는 결과를 한 문장 또는 한 작업 단위로 정리한 것입니다. 막연한 바람이 아니라, 무엇을 바꾸면 끝났다고 말할 수 있는지를 드러내는 작업 기준이라고 볼 수 있습니다. 같은 주제라도 AI를 공부한다는 넓은 바람과 개념사전 설명을 보강한다는 현재 목표는 범위와 완료 판정 기준이 다르며, 목표는 그 차이를 실제 작업 가능한 수준으로 좁혀 주는 표현입니다.
왜 중요한가: 에이전트 실행에서는 같은 요청도 무엇을 완료 상태로 볼지 먼저 분명히 해야 단계 분해, 도구 선택, 종료 판단이 흔들리지 않기 때문입니다. 목표가 흐리면 열심히 많은 단계를 수행해도 정작 사용자가 원한 결과와 어긋날 수 있으므로, 목표는 계획보다 먼저 경계를 세우는 역할을 합니다. 또한 목표는 문제 정의보다 한 단계 더 작업 지향적인 표현이라, 무슨 과업을 풀 것인가와 이번 실행에서 어디까지 끝낼 것인가를 나누어 사고하게 해 줍니다. 결국 목표가 있어야 같은 문제 정의 아래에서도 이번 실행의 종료선과 우선순위를 더 분명히 세울 수 있습니다.
함께 볼 개념: 에이전트(agent), 상태(state), 종료 조건(stop condition)
뜻: 연결이 어느 한쪽 방향으로만 향하지 않고 양쪽 관계로 읽히는 그래프입니다. 한 엣지가 A에서 B로 간다보다 A와 B가 서로 연결되어 있다를 뜻하는 구조라고 볼 수 있습니다. 즉 화살표 없는 선 하나가 두 노드 사이의 상호 관계나 인접 관계를 함께 표현하는 셈입니다.
왜 중요한가: 친구 관계처럼 A가 B와 연결되어 있다와 B가 A와 연결되어 있다를 따로 구분하지 않는 상호 연결을 표현할 때, 방향 그래프와 다른 해석 기준이 필요하기 때문입니다. 이 개념이 있어야 연결선 하나가 양쪽 관계를 동시에 뜻할 수 있다는 점을 이해하게 되고, 링크처럼 방향이 중요한 문제와 친분·인접성처럼 방향이 중요하지 않은 문제를 다른 구조로 읽게 됩니다. 그래프 문제를 읽을 때도 선이 있다는 사실만 볼 것이 아니라, 그 선이 방향 정보를 담는지 아닌지를 먼저 구분해야 해석이 달라진다는 점을 잡게 해 줍니다.
함께 볼 개념: 그래프(graph), 방향 그래프(directed graph), 엣지(edge)
뜻: 후보 가운데 하나를 임의로 고르거나, 표본을 정해진 패턴 없이 뽑는 선택 방식입니다. 핵심은 아무 생각 없이 대충 고른다가 아니라, 특정 후보를 미리 편애하지 않도록 선택 기회를 분산하는 절차라는 점에 있습니다. 즉 무작위는 결과의 성질이라기보다, 선택을 수행하는 방법 쪽에 더 가까운 말입니다.
왜 중요한가: 확률적 과정(stochastic process)이나 비결정성(nondeterministic)과 구분해, 언제 선택 방식을 말하고 언제 과정의 성질을 말하는지 분리하게 해 주기 때문입니다. 이 개념이 있어야 결과가 매번 같지 않다는 사실을 곧바로 규칙이 없다로 오해하지 않고, 탐험(exploration), 표본 추출(sampling), 초기화(initialization)처럼 일부 단계에서 의도적으로 무작위 선택을 넣는 이유도 이해하게 됩니다. 예를 들어 강화학습에서는 지금 가장 좋아 보이는 행동만 반복하면 새로운 전략을 못 찾을 수 있으므로, 일부러 무작위 선택을 섞어 더 넓은 행동 공간을 탐색합니다. 결국 무작위를 이해해야 예측 불가능하다와 편향을 줄이기 위해 일부러 고르게 뽑는다를 같은 말로 보지 않게 됩니다.
함께 볼 개념: 비결정적(nondeterministic), 확률(probability), 확률적 과정(stochastic process)
뜻: 모델 가중치를 업데이트하지 않고도, 프롬프트 안의 지시와 예시 문맥만으로 출력 행동이 달라지는 현상 또는 사용 방식입니다. 즉 모델 본체를 다시 학습시키지 않은 채, 이번 입력 안에 담긴 설명과 사례를 임시 작업 맥락으로 삼아 답변 방식을 바꾸는 접근이라고 볼 수 있습니다. 말하자면 모델을 다시 훈련한다보다 이번 입력 안에서 잠깐 적응하게 만든다에 가까운 방식입니다.
왜 중요한가: 오늘날 LLM 사용 경험에서 자연어 설명과 few-shot 예시가 왜 중요한지 보여 주며, fine-tuning과 다른 적용 방식을 구분하게 해 주기 때문입니다. 이 개념이 있어야 모델을 바꾼 것과 입력을 더 잘 설계한 것을 섞지 않게 되고, 프롬프트 설계가 실제로 어떤 범위까지 성능을 바꿀 수 있는지도 더 현실적으로 이해할 수 있습니다. 결국 문맥 내 학습을 이해해야 LLM 성능 개선이 항상 추가 학습을 뜻하는 것은 아니며, 입력 설계만으로도 행동이 크게 달라질 수 있다는 점을 읽게 됩니다.
함께 볼 개념: 사전학습(pretraining), 미세조정(fine-tuning), GPT
뜻: 모델이 한 번의 입력-출력 계산 동안 함께 유지하며 참고할 수 있는 최대 토큰 범위입니다. 쉽게 말해 이번 응답을 만들 때 모델이 한 번에 볼 수 있는 작업 메모의 크기에 해당합니다. 즉 문맥 창은 기억력이 무한한지 여부가 아니라, 한 번의 계산 안에 몇 토큰까지 실을 수 있는지를 정하는 한계입니다.
왜 중요한가: 긴 문서, 긴 대화, 검색 결과 결합에서 무엇을 한 번에 넣고 무엇을 잘라 내야 하는지, 그리고 비용과 지연 시간이 어디서 커지는지를 판단하는 직접 기준이 되기 때문입니다. 문맥 창이 크다고 해서 자동으로 이해가 깊어지는 것은 아니므로, 실제 실무에서는 얼마나 많이 넣을 수 있는가와 무엇을 우선 넣어야 하는가를 함께 판단해야 합니다. 또한 문맥 창을 이해해야 긴 입력 처리가 단순 스펙 경쟁이 아니라, 선택과 요약과 검색 전략이 함께 걸린 설계 문제라는 점도 읽게 됩니다.
함께 볼 개념: 토큰(token), 토큰화(tokenization), 검색 증강 생성(retrieval-augmented generation, RAG)
뜻: 같은 단어나 토큰이라도 주변 문맥에 따라 달라지는 내부 벡터 표현입니다. 즉 bank처럼 같은 표면형이라도 금융기관인지 강둑인지에 따라 모델 내부에서 다른 위치와 관계로 표현되는 방식이라고 이해할 수 있습니다. 다시 말해 문맥적 표현은 단어가 고정 뜻 하나를 갖는다고 보지 않고, 현재 문장 안에서의 역할까지 반영해 바뀌는 표현입니다.
왜 중요한가: 정적 임베딩을 넘어 실제 언어에서 같은 표면형이 다른 역할과 뜻을 가질 수 있음을 모델이 반영하는 핵심 전환이기 때문입니다. 이 개념이 있어야 LLM이 단어 목록을 외우는 것이 아니라, 주변 문장 안에서 역할을 다시 해석하며 표현을 만든다는 점을 더 분명히 이해할 수 있습니다. 또한 문맥적 표현을 이해해야 같은 단어인데 왜 다른 벡터가 나오지를 오류가 아니라 문장 해석의 자연스러운 결과로 읽게 됩니다.
뜻: 원고, 코드, 이미지, 설정을 다시 맞춰 같은 문서 결과를 다시 만들고 설명할 수 있는 성질입니다. 즉 한 번 우연히 만들어진 페이지가 아니라, 같은 입력과 절차를 다시 준비하면 비슷한 문서 산출물을 다시 얻을 수 있는 상태를 뜻합니다. 글 본문만이 아니라 그림 파일, 링크 경로, 빌드 설정, 배포 절차까지 함께 맞아야 비로소 문서 재현성이 확보됩니다.
왜 중요한가: 공개 문서가 어떤 근거와 어떤 생성 코드 위에 서 있는지 다시 확인할 수 있어야, 수정과 배포를 반복해도 결과의 맥락을 잃지 않기 때문입니다. 이 개념이 있어야 본문 수정, 자산 변경, 빌드 설정 변화가 최종 페이지에 어떻게 반영되었는지도 추적할 수 있습니다. 또한 문장은 같은데 사이트 결과가 달라졌다 같은 문제를 단순 오타가 아니라 자산·설정·배포 경로 문제로 나누어 해석하게 해 줍니다.
함께 볼 개념: 재현성(reproducibility), 배포(deployment), Git
뜻: 학습 내용이나 작업 과정을 구조화된 글과 기록으로 남기는 일입니다. 단순 메모를 많이 쌓는다는 뜻이 아니라, 무엇을 했다, 왜 그렇게 판단했다, 어떤 근거를 봤다, 다음에 무엇을 이어서 볼 수 있다를 나중에 다시 읽을 수 있는 형태로 정리하는 작업에 가깝습니다.
왜 중요한가: 안다고 느끼는 것과 실제로 설명하고 검증할 수 있는 것을 구분하게 해 주며, AI 초안을 점검하는 기반이 되기 때문입니다. 이 개념이 있어야 문서화가 단순 정리 습관이 아니라, 근거를 남기고 판단 과정을 다시 검토하며 다른 사람과 같은 기준으로 공유하게 만드는 검증 장치라는 점도 더 분명하게 읽게 됩니다. 특히 재학습에서는 그때는 이해한 것 같았는데 나중에 다시 설명이 안 된다는 일이 많아서, 문서화가 기억 보조 장치이면서 동시에 이해 수준을 드러내는 시험지가 됩니다.
함께 볼 개념: 개인 학습(personal learning), 근거 확인(evidence review), 기록(record)
중심 Section: P1-16.1
등장 Section: P1-16.2, P7-7.1, P7-7.2
문장·문단·문서 임베딩(sentence, paragraph, and document embedding)¶
뜻: 단어 하나가 아니라 문장, 문단, 문서 같은 더 긴 텍스트 단위를 하나의 벡터 표현으로 바꾸는 방식입니다. 즉 개별 단어 뜻을 따로 비교하기보다, 여러 문장이 함께 이루는 주제와 의미 흐름을 한 좌표 표현으로 압축하는 접근이라고 볼 수 있습니다. 그래서 이 임베딩은 이 문서에 어떤 단어가 있나보다 이 문서가 전체적으로 무슨 말을 하고 있나를 비교하기 위한 표현에 가깝습니다.
왜 중요한가: 실제 검색과 RAG에서는 질문과 비교할 대상이 긴 문서 조각인 경우가 많아, 단어 임베딩만이 아니라 더 큰 텍스트 단위의 표현이 필요하기 때문입니다. 이 개념이 있어야 검색이 낱말 일치만이 아니라 문장이나 문단 전체 의미 단위의 가까움을 비교하는 과정이라는 점을 이해하게 되고, 청크를 어떻게 나누느냐가 검색 품질에 직접 영향을 준다는 점도 더 분명히 읽게 됩니다. 예를 들어 너무 긴 문단을 한 벡터로 만들면 세부 주제가 섞일 수 있고, 너무 짧게 자르면 문맥이 끊어질 수 있으므로, 임베딩 단위 선택 자체가 검색 설계 문제라는 점도 함께 드러납니다.
함께 볼 개념: 임베딩(embedding), 청크(chunk), 벡터 공간(vector space)
뜻: 현실 목표를 모델이 실제로 풀 수 있는 입력, 출력, 데이터, 평가 기준의 형태로 좁혀 정하는 일입니다. 막연한 업무 목표를 계산 가능한 과업으로 번역하는 단계라고 볼 수 있습니다. Part 7의 프로젝트 문맥에서는 질문 한 문장, 입력 단위, 비교 기준을 고정해 이번 문서가 정확히 무엇을 풀려고 하는가를 먼저 닫는 작업이라고 이해하면 됩니다.
왜 중요한가: 같은 목표도 어떤 출력을 시키는지에 따라 필요한 데이터, 모델 후보, 평가 방식이 함께 달라지므로, 모델 선택보다 먼저 흔들리지 않는 과제 경계를 세워야 하기 때문입니다. 이 단계가 불분명하면 뒤의 데이터셋, 라벨, 평가 숫자도 의미를 잃기 쉽습니다. 이 개념이 있어야 문서를 잘 이해하게 하고 싶다 같은 넓은 바람을 분류할 것인가, 검색할 것인가, 요약할 것인가, 추천할 것인가 같은 구체 과업으로 나누어 생각하게 되고, 결국 무엇을 성공으로 볼지도 더 분명해집니다. 또한 문제 정의를 이해해야 Part 7의 분석 시작이 요약표나 비교표보다 앞서 무엇을 한 건의 입력으로 보고 어떤 질문에 답할 것인가를 먼저 고정하는 이유도 더 또렷하게 읽게 됩니다.
함께 볼 개념: 모델(model), 입력(input), 출력(output), 데이터셋(dataset), 평가(evaluation)
중심 Section: P1-4.4
등장 Section: P3-1.1, P3-2.2, P7-index, P7-1.1, P7-summary
뜻: 앞으로 어떤 변화가 일어날 수 있는지 근거를 바탕으로 말하는 문장이나 자료입니다. 중요한 점은 아직 일어나지 않은 일을 다루므로, 현재 데이터와 과거 추세, 가정한 조건, 해석자의 판단이 함께 섞여 있고 그만큼 불확실성도 같이 따라온다는 점입니다.
왜 중요한가: AI가 만든 그럴듯한 미래 이야기를 사실처럼 옮기지 않고, 누가 언제 어떤 근거로 말했는지 따져 보게 만들기 때문입니다. 이 개념이 있어야 현재 관측값, 과거 추세, 해석자의 가정이 한 문장 안에서 어떻게 섞여 있는지 분리해 읽게 되고, 전망 자료를 근거 없는 단정과 구분하는 기본 기준도 잡게 됩니다. 예를 들어 AI 일자리가 늘어날 것이다라는 문장만 보면 단정처럼 들리지만, 실제로는 어느 산업을 기준으로 했는지, 어떤 기간을 보는지, 자동화와 신규 수요를 어떻게 가정했는지 함께 확인해야 합니다.
함께 볼 개념: 시나리오(scenario), 지표(indicator), 예측(prediction)
뜻: 입력을 아주 조금 바꿨을 때 출력이 얼마나 변하는지 나타내는 순간 변화율입니다. 평균 변화율을 매우 작은 구간으로 좁혀 갔을 때의 한계라고 볼 수 있어, 지금 이 지점에서 얼마나 민감하게 변하는가를 읽는 도구입니다. 즉 미분은 함수 값을 한 점에서 멈춰 보는 대신, 그 점 주변에서 변화가 어느 방향으로 얼마나 급한지 묻는 방식입니다.
왜 중요한가: 손실이 어느 방향으로 얼마나 변하는지 읽고, 그래디언트와 학습 연결을 이해하는 출발점이 되기 때문입니다. 이 개념이 있어야 경사하강법이 단순 반복 계산이 아니라, 변화율 정보를 이용해 손실을 줄이는 방향을 찾는 과정이라는 점을 이해하게 됩니다. 또한 미분은 값이 얼마인가보다 지금 이 주변에서 어떻게 바뀌는가를 묻는 질문이라는 점을 분명히 해 주어, 함수 해석과 최적화 감각을 함께 붙잡게 합니다. 결국 미분을 이해해야 학습이 정답 값을 계산하는 일보다 변화 방향을 읽는 일과 더 가깝다는 점을 읽게 됩니다.
함께 볼 개념: 변화율(rate of change), 기울기(slope), 그래디언트(gradient)
뜻: 사전학습된 모델을 특정 과업이나 도메인 데이터에 맞게 추가로 조정하는 학습 단계입니다. 이미 넓게 배워 둔 일반 능력을 바탕으로, 특정 말투, 형식, 분류 기준, 업무 지식에 더 잘 맞도록 방향을 다시 맞추는 과정이라고 볼 수 있습니다. 즉 모델을 처음부터 다시 만드는 일이라기보다, 넓게 배운 기반 위에 특정 사용 목적의 습관을 덧입히는 적응 단계에 가깝습니다.
왜 중요한가: 큰 말뭉치에서 먼저 배운 범용 언어 패턴과, 실제 업무 과업에 맞는 적응 단계를 구분하게 해 주기 때문입니다. 이 구분이 있어야 프롬프트만으로 해결할 문제와, 데이터로 모델 자체를 다시 조정해야 할 문제를 나눠 판단할 수 있습니다. 또한 미세조정은 늘 성능만 올리는 마법 단계가 아니라, 어떤 데이터를 어떤 형식으로 넣느냐에 따라 편향과 과적합, 비용 문제가 함께 따라온다는 점도 중요합니다. 결국 미세조정은 모델을 바꾼다는 말의 가장 대표적인 실제 형태이면서, 그만큼 데이터 품질과 목적 정의가 더 엄격하게 요구되는 단계입니다.
함께 볼 개념: 사전학습(pretraining), 문맥 내 학습(in-context learning), GPT
중심 Section: P6-8.1
등장 Section: P1-11.3, P1-12.1, P6-8.2, P6-9.3, P6-9.5
뜻: 노출되면 개인, 조직, 거래, 보안 상태에 직접 피해를 줄 수 있어 입력, 저장, 출력에서 특별히 더 조심해서 다뤄야 하는 정보입니다. 개인정보가 대표 예지만, 비밀번호, API 키, 내부 문서, 계약서 초안, 의료 정보, 재무 정보처럼 꼭 개인 식별 정보가 아니어도 민감 정보가 될 수 있습니다. 즉 민감 정보는 법적으로 개인정보인가만이 아니라 새면 실제 피해가 큰가를 기준으로 함께 판단해야 하는 범주입니다.
왜 중요한가: AI 시스템은 프롬프트, 검색 문서, 로그, 평가 샘플, 디버깅 기록에 같은 정보를 여러 번 복제하기 쉬워, 한 번 들어온 민감 정보가 여러 경로로 재노출될 수 있기 때문입니다. 이 개념이 있어야 개인정보와 보안을 같은 말로 섞지 않게 되고, 개인 식별 정보는 아니지만 외부로 나가면 안 되는 정보도 따로 보호해야 한다는 점을 이해하게 됩니다. 또한 민감 정보를 이해해야 입력 금지 규칙, 최소 권한, 로그 마스킹, 사람 검토 같은 운영 장치가 왜 실제 피해 예방의 핵심인지도 더 구체적으로 읽게 됩니다.
함께 볼 개념: 개인정보(privacy), 보안(security), 로그(log), 권한(permission), 검토(review)