뜻: Transformer encoder를 바탕으로 입력 전체 문맥을 함께 보는 표현을 사전학습한 대표 언어 모델 계열입니다. 문장을 왼쪽에서 오른쪽으로만 읽기보다, 앞뒤 문맥을 함께 참고해 각 토큰의 의미 표현을 더 풍부하게 만드는 쪽에 강한 구조라고 볼 수 있습니다. 그래서 BERT는 문장을 다음에 무엇을 쓸까보다 지금 이 말이 전체 문맥에서 무슨 뜻일까에 더 가깝게 읽는 모델 계열입니다.
왜 중요한가: GPT와 같은 Transformer 계열이라도 구조와 학습 목표에 따라 쓰임이 달라진다는 점을 보여 주는 대표 비교 대상이기 때문입니다. 이 개념이 있어야 같은 Transformer라도 어떤 모델은 표현 이해와 분류에 강하고, 어떤 모델은 이어쓰기와 생성에 더 직접 연결된다는 차이를 읽을 수 있습니다. 예를 들어 감성 분류, 문장 관계 판단, 검색용 표현 추출처럼 입력을 잘 이해해야 하는 과업에서 왜 encoder 계열 설명이 자주 나오는지도 자연스럽게 이어집니다.
함께 볼 개념: 인코더(encoder), 사전학습(pretraining), 문맥적 표현(contextual representation)
뜻: 자주 함께 나타나는 문자 조각이나 부분 단위를 점점 더 큰 조각으로 묶어 서브워드 vocabulary를 만드는 대표 토크나이저 계열입니다. 처음에는 작은 문자 단위에서 시작해, 자주 붙어 다니는 조각을 점차 하나의 토큰처럼 합쳐 가는 방식이라고 볼 수 있습니다. 그래서 BPE는 단어를 사전에 통째로 다 넣어 둔다기보다, 자주 반복되는 부분 조각을 학습해 단어를 여러 토큰으로 나누는 기준을 만드는 방법에 가깝습니다.
왜 중요한가: 같은 문장도 어떤 조각을 자주 묶어 두었는지에 따라 토큰 수와 비용 감각이 달라질 수 있음을 보여 주는 가장 널리 알려진 출발점입니다. 이 개념이 있어야 토큰화가 단순 띄어쓰기 분할이 아니라, 자주 나오는 조각을 기준으로 계산 단위를 설계하는 문제라는 점을 이해할 수 있습니다. 예를 들어 희귀한 긴 단어는 여러 조각으로 나뉘고 자주 쓰이는 표현은 한 토큰에 더 가깝게 남을 수 있으므로, 사용자가 보는 문장 길이와 모델이 계산하는 토큰 길이는 다를 수 있습니다. 결국 BPE를 이해하면 왜 같은 문장인데 토큰 수가 예상과 다르지?라는 질문을 vocabulary 설계 문제로 읽게 됩니다.
함께 볼 개념: 토큰화(tokenization), WordPiece, SentencePiece
뜻: 이미지 안에서 물체가 차지하는 위치를 사각형 영역으로 표시한 표현입니다. 보통 왼쪽 위와 오른쪽 아래 좌표, 또는 중심점과 너비·높이처럼 어디서 시작해 얼마나 차지하는가를 숫자로 적는 방식입니다. 즉 고양이가 있다라는 말만 하는 것이 아니라, 고양이가 화면의 어느 구역에 있다를 구조적으로 적어 두는 위치 표현이라고 볼 수 있습니다. 따라서 바운딩 박스는 객체 검출에서 위치 정보를 가장 빠르게 기록하는 기본 단위입니다.
왜 중요한가: 객체 검출이 무엇이 있는가만이 아니라 어디에 있는가를 함께 다루는 문제라는 점을 가장 간단히 보여 주는 출력 형식이기 때문입니다. 이 개념이 있어야 이미지 분류와 객체 검출을 구분하게 되고, 예측 결과가 단일 라벨 하나가 아니라 좌표와 크기를 포함한 구조적 출력이라는 점도 이해하게 됩니다. 또한 바운딩 박스가 곧 물체의 정밀한 윤곽 전체를 뜻하는 것은 아니라는 점도 중요합니다. 즉 이 표현은 빠르고 단순한 위치 기술에는 강하지만, 픽셀 단위 경계가 필요한 분할(segmentation) 문제와는 다른 층위의 출력이라는 점을 함께 읽어야 합니다. 나아가 YOLO 같은 모델을 읽을 때도 무엇을 예측하는가를 라벨 하나가 아니라 박스 + 클래스 확률로 이해하게 만드는 핵심 손잡이입니다.
함께 볼 개념: 객체 검출(object detection), YOLO, 이미지 인식(image recognition)
뜻: 여러 값에 같은 처리 기준을 차례대로 적용하는 흐름입니다. 즉 같은 코드를 매번 다시 쓰지 않고, 항목만 바꿔 가며 같은 절차를 반복 실행하는 제어 구조라고 볼 수 있습니다. 그래서 반복은 값이 여러 개 있다는 사실을 작업을 여러 번 수행한다는 실행 흐름으로 바꾸는 가장 기본적인 다리입니다.
왜 중요한가: 데이터 묶음을 읽기만 하는 상태에서, 각 원소에 검사·변환·누적 같은 작업을 실제로 적용하는 실행 흐름으로 넘어가게 해 주기 때문입니다. 이 개념이 있어야 리스트와 딕셔너리 같은 자료구조가 단순 저장소가 아니라 처리 대상이라는 점을 이해하게 되고, 같은 로직을 여러 항목에 반복 적용하는 사고방식이 함수, 데이터 전처리, 학습 반복 설명으로도 이어지게 됩니다. 또한 반복은 무조건 느리고 낡은 방식이라는 뜻이 아니라, 언제는 직접 반복이 필요하고 언제는 벡터화나 내장 함수로 더 높은 단위 표현이 가능한지를 비교하는 기준이 되기도 합니다.
함께 볼 개념: 이터러블(iterable), 이터레이터(iterator), 리스트(list)
뜻: 함수가 계산을 마친 뒤 바깥으로 돌려주는 결과 값입니다. 화면에 보여 주는 출력과 같을 수도 있지만, 더 중요한 점은 다음 계산에서 다시 사용할 수 있는 값으로 돌려준다는 데 있습니다. 즉 반환값은 사람에게 보여 주는 정보라기보다 다음 코드가 이어서 사용할 재료라는 성격이 더 강합니다.
왜 중요한가: 초심자는 print된 화면 결과와 함수의 반환값을 자주 같은 것으로 오해합니다. 반환값 개념이 있어야 함수 호출 결과를 변수에 저장하고, 여러 계산을 연결하는 데이터 흐름을 읽을 수 있습니다. 이 개념이 있어야 보여 주기 위한 출력과 다음 계산으로 넘길 값을 구분하게 되고, 함수가 계산 블록으로 조립되는 이유도 더 자연스럽게 이해하게 됩니다. 또한 반환값을 이해해야 함수가 화면에 아무것도 출력하지 않아도 유용한 계산을 했을 수 있다는 점, 반대로 화면에 뭔가 보여 줘도 반환값은 없을 수 있다는 점도 구분하게 됩니다.
함께 볼 개념: 함수(function), 매개변수(parameter), 인자(argument)
뜻: 연결된 시스템이 어떤 도구, 리소스, 기능을 제공하는지 먼저 확인하는 단계입니다. 아직 무엇을 실행한다기보다 무엇을 실행할 수 있는가, 어떤 입력을 받는가, 어느 범위까지 허용되는가를 목록과 메타정보로 파악하는 준비 절차에 가깝습니다. 즉 발견은 실행 그 자체보다, 가능한 행동 공간을 먼저 드러내는 사전 탐색 단계입니다.
왜 중요한가: 도구 사용은 이름만 안다고 되는 일이 아니라, 실제로 무엇이 연결되어 있고 어떤 입력 형식과 권한 범위를 요구하는지 먼저 확인해야 안정적으로 호출할 수 있기 때문입니다. 이 개념이 있어야 바로 실행한다와 먼저 capabilities를 살핀다를 구분하게 되고, MCP나 에이전트 도구 사용에서 실패를 줄이는 사전 점검 단계의 의미도 이해하게 됩니다. 예를 들어 파일 읽기 도구가 있는지, 쓰기 권한도 있는지, 검색만 가능한지부터 알아야 뒤 단계의 계획이 현실적인지 판단할 수 있습니다. 또한 발견을 이해해야 실행 실패의 원인이 모델 추론 부족이 아니라, 처음부터 가능한 기능 목록을 잘못 가정한 데 있을 수도 있다는 점도 읽게 됩니다.
함께 볼 개념: 모델 컨텍스트 프로토콜(Model Context Protocol, MCP), 도구 호출(tool call), 리소스(resource)
뜻: 연결이 한쪽 방향으로 향해 있어 출발점과 도착점이 구분되는 그래프입니다. 즉 A에서 B로 간다와 B에서 A로 간다를 같은 연결로 보지 않고, 화살표 방향 자체를 데이터 의미의 일부로 다루는 구조입니다. 친구 관계처럼 서로 대칭일 필요가 없는 연결, 링크, 의존성, 팔로우 관계를 표현할 때 특히 잘 맞는 구조라고 볼 수 있습니다.
왜 중요한가: 링크, 팔로우, 의존 관계처럼 어느 쪽으로 이어지는지가 의미를 바꾸는 데이터를 읽는 기준이 되기 때문입니다. 이 개념이 있어야 연결되어 있다는 사실만으로 충분한 문제와, 누가 누구를 가리키는가까지 알아야 하는 문제를 구분할 수 있습니다. 또한 방향 그래프를 이해해야 같은 노드 집합이라도 방향이 붙는 순간 도달 가능성, 순환, 선후 관계처럼 새 질문들이 생긴다는 점도 함께 읽게 됩니다. 결국 방향 그래프는 연결의 존재뿐 아니라 연결의 흐름까지 데이터로 읽게 만드는 구조입니다.
함께 볼 개념: 무방향 그래프(undirected graph), 그래프(graph), 가중치(weight)
뜻: 값을 위치와 인덱스로 읽는 구조입니다. 프로그래밍 일반에서는 순서 있는 값 저장 구조를 넓게 가리킬 수 있고, 수치 계산 문맥에서는 같은 종류의 값이 축(axis)을 따라 놓인 계산용 묶음을 뜻하는 경우가 많습니다. 즉 배열은 여러 값을 담은 상자이면서 동시에 한꺼번에 계산할 수 있는 형태 있는 데이터라는 성격을 함께 가집니다.
왜 중요한가: 리스트가 값 묶음이라는 입문 구조라면, 배열은 위치와 모양을 가진 계산 구조라는 감각을 더 강하게 요구합니다. 이 차이를 알아야 shape, 축, 브로드캐스팅, 벡터화 같은 NumPy 설명이 자연스럽게 이어집니다. 또한 배열은 값들의 나열이면서 동시에 계산의 단위이므로, 저장 방식과 연산 방식이 함께 묶여 있다는 점도 이해하게 됩니다. 결국 배열을 이해해야 데이터가 몇 개 들어 있나를 넘어서 어떤 모양으로 배치되어 어떤 계산이 가능한가까지 함께 보게 됩니다.
함께 볼 개념: 테이블(table), 인덱스(index), 자료구조(data structure)
뜻: 한 배치 안의 평균과 분산을 참고해 활성값 분포를 다시 정리함으로써, 다음 층이 더 다루기 쉬운 범위의 값을 받게 하는 정규화 방식입니다. 쉽게 말해 각 층으로 들어가는 값의 스케일이 지나치게 치우치지 않게 중간에 다시 정돈해 주는 장치입니다. 즉 배치 정규화는 입력 전처리만이 아니라, 네트워크 안쪽 표현을 계속 정리해 주는 중간 안정화 단계입니다.
왜 중요한가: 깊은 네트워크에서 활성값 분포가 계속 흔들리면 학습이 불안정해질 수 있어, 학습 중 계산을 더 덜 흔들리게 만들고 mode 차이도 함께 이해하게 해 주기 때문입니다. 이 개념이 있어야 왜 학습 모드에서는 현재 배치 통계를 쓰고, 평가 모드에서는 누적 통계를 쓰는지가 자연스럽게 연결됩니다. 또한 배치 정규화를 이해해야 정규화가 입력 하나만 다듬는 작업이 아니라, 깊은 층 계산 흐름을 안정화하는 설계 선택이라는 점도 더 분명히 읽게 됩니다.
함께 볼 개념: 학습 모드(training mode), 평가 모드(evaluation mode), 수치 안정성(numerical stability)
뜻: 문맥에 따라 두 뜻으로 쓰입니다. 운영 문맥에서는 여러 요청이나 작업을 모아서 함께 처리하는 방식이고, 딥러닝 문맥에서는 여러 샘플을 한 번에 계산하기 위해 묶은 입력 단위입니다. 공통점은 둘 다 하나씩 따로 처리하지 않고 여러 개를 묶어 한 번에 다룬다는 운영 원리를 가진다는 점입니다.
왜 중요한가: 서비스 운영에서는 처리량과 비용 설계를 바꾸고, 딥러닝에서는 같은 연산을 여러 샘플에 병렬로 적용하는 기본 계산 단위가 되기 때문입니다. 특히 딥러닝에서는 배치 크기에 따라 메모리 사용, 그래디언트의 흔들림, 학습 속도가 함께 달라지므로, 배치는 단순 묶음이 아니라 계산 안정성과 자원 제약을 동시에 건드리는 설계 단위로 읽어야 합니다. 이 개념이 있어야 한 번에 몇 개를 같이 처리하는가가 운영 최적화 문제이면서 동시에 학습 절차 문제이기도 하다는 점을 자연스럽게 이해하게 됩니다.
함께 볼 개념: 처리량(throughput), 운영(operation), 텐서(tensor)
뜻: 배포가 실제로 어디까지 반영되었는지 빌드 상태, CI 실행, 공개 주소, 최신 본문 노출 여부를 단계별로 다시 확인하는 점검 절차입니다. 배포했다는 선언 한 줄로 닫지 않고, 로컬 빌드 성공과 공개 페이지 정상 동작을 따로 확인하는 운영 확인표라고 볼 수 있습니다. 즉 배포 점검은 배포 자체가 아니라, 배포 결과를 독자 시점에서 다시 읽는 후속 검증 단계입니다.
왜 중요한가: 정적 사이트 프로젝트에서는 workflow 성공, Pages 반영 완료, 독자가 최신 Version을 본다가 서로 다른 상태일 수 있어, 배포 뒤 확인 절차가 없으면 문제 위치가 금방 흐려지기 때문입니다. 이 개념이 있어야 빌드 성공과 공개 확인을 같은 말로 보지 않게 되고, 재확인 필요 항목을 다음 운영 행동으로 바로 연결하게 됩니다. 또한 배포 점검을 이해해야 배포 기록이 완료 보고서가 아니라, 상태 점검과 사건 기록으로 이어지는 운영 문서의 시작점이라는 점도 더 또렷하게 보게 됩니다.
함께 볼 개념: 배포(deployment), 상태 점검(status inspection), 사건 기록(incident record), 검토(review), 최신성(recency)
뜻: 작성과 점검을 마친 문서나 사이트 결과를 실제 공개 상태로 반영하는 일입니다. 로컬에서 잘 보이는 초안과, 외부 사용자가 실제로 보게 되는 결과를 연결하는 마지막 전환 단계라고 볼 수 있습니다. 즉 배포는 내 컴퓨터에서 확인했다를 공개 주소에서 독자가 본다로 바꾸는 상태 전환입니다. 말하자면 수정 작업의 끝이 아니라, 수정 결과를 실제 사용자 세계에 넘기는 절차입니다.
왜 중요한가: 배포는 단순 저장이 아니라 독자가 보는 결과를 바꾸는 행위이므로, 브랜치와 빌드 확인, 링크와 자산 점검을 함께 요구하기 때문입니다. 이 개념이 있어야 파일 수정 완료와 공개 결과 갱신 완료가 서로 다른 상태라는 점을 놓치지 않게 되고, 같은 수정이라도 어느 브랜치에 반영했는지에 따라 실제 공개 영향이 달라진다는 점도 함께 이해하게 됩니다. 결국 배포를 이해해야 작업 완료의 기준이 코드가 바뀌었다에서 사용자에게 실제 반영됐다까지 이어진다는 점을 읽게 됩니다.
함께 볼 개념: 브랜치(branch), 정적 배포(static deployment), 문서 재현성(document reproducibility)
뜻: 패키지 이름만이 아니라 특정 버전까지 함께 기록해 같은 환경을 다시 만들기 쉽게 하는 방법입니다. 무엇을 설치할까뿐 아니라 정확히 어떤 판을 설치할까까지 적어 두는 방식입니다. 즉 버전 고정은 설치 목록만 남기는 것이 아니라, 실행 조건을 가능한 한 같은 시점 상태로 묶어 두는 재현 장치입니다.
왜 중요한가: 같은 패키지라도 버전이 달라지면 코드 동작이나 결과가 바뀔 수 있어서 재현성을 높이는 기본 장치가 되기 때문입니다. 환경 차이로 생긴 오류를 줄이려면 코드보다 먼저 버전 차이를 의심해야 하는 경우도 많습니다. 이 개념이 있어야 패키지 이름이 같다와 실행 조건이 같다를 같은 말로 보지 않게 되고, 예제 문서가 나중에도 같은 결과를 내게 하려면 코드와 함께 버전 정보도 관리해야 한다는 점을 이해하게 됩니다. 결국 버전 고정은 같은 코드를 같은 환경에서 다시 실행하게 만드는 재현성 안전장치입니다.
함께 볼 개념: 의존성(dependency), 재현성(reproducibility), 리콰이어먼트 파일(requirements.txt)
뜻: 시간이 지나며 파일과 폴더가 어떻게 바뀌었는지 그 상태와 이유를 기록하고 다시 찾게 해 주는 방식입니다. 단순 백업과 달리, 어느 시점의 내용이 무엇 때문에 달라졌는지 이력과 비교 단위까지 함께 남기는 작업 방식에 가깝습니다. 즉 버전 관리는 파일 사본을 많이 남기는 일보다, 변경 역사와 판단 맥락을 추적 가능하게 만드는 체계입니다.
왜 중요한가: 단순 저장만으로는 설명되지 않는 변경 맥락을 남겨, 어떤 상태가 언제 왜 생겼는지 추적하게 해 주기 때문입니다. 문서 집필과 코드 작업에서는 특히 현재 파일 내용보다 어떤 판단으로 바뀌었는가가 중요하므로, 버전 관리가 있어야 수정 실험, 검토, 되돌리기, 배포 이력을 같은 흐름으로 읽을 수 있습니다. 또한 버전 관리를 이해해야 백업 파일 더미와 검토 가능한 이력 체계가 왜 다른지, 그리고 왜 협업이 이력 단위 위에서 가능해지는지도 더 분명히 읽게 됩니다.
뜻: 그래프 안의 여러 선, 점, 색이 각각 무엇을 뜻하는지 구분해 주는 설명 상자입니다. 축이 숫자 범위를 보여 준다면, 범례는 이 표식이 어떤 데이터 계열인가를 알려 주는 이름표 묶음이라고 볼 수 있습니다. 즉 범례는 그림의 시각 요소와 데이터 의미를 연결해 주는 해석 열쇠입니다.
왜 중요한가: train loss와 validation loss처럼 같은 축에 여러 선이나 색을 함께 올릴 때, 무엇이 무엇인지 분명하지 않으면 비교 해석이 바로 무너지기 때문입니다. 이 개념이 있어야 그래프를 볼 때 숫자 축만이 아니라 각 표식이 어떤 데이터 계열을 뜻하는가를 먼저 확인하게 되고, 같은 그림이라도 범례가 부정확하면 결론 전체가 흔들릴 수 있다는 점도 이해하게 됩니다. 결국 범례를 읽을 수 있어야 선이 두 개 있다를 넘어서 각 선이 무엇을 대표하는가를 정확히 해석하게 됩니다.
함께 볼 개념: 그래프(plot), 정확도(accuracy), 손실 곡선(loss curve)
뜻: 벡터들이 놓여 서로의 위치 관계를 비교할 수 있는 표현 공간입니다. 각 벡터를 좌표 하나처럼 두고, 거리와 방향을 통해 대상들 사이의 닮음과 차이를 읽는 추상적 좌표계라고 볼 수 있습니다. 즉 벡터 공간은 벡터를 숫자 묶음으로만 보지 않고 위치 관계를 가진 점처럼 읽게 만드는 틀입니다.
왜 중요한가: 임베딩을 숫자 목록이 아니라 서로 가까운 것과 먼 것을 비교할 수 있는 좌표계로 읽게 해 주기 때문입니다. 이 개념이 있어야 검색과 추천에서 가까움이 왜 중요한 신호가 되는지 이해하게 되고, 같은 벡터라도 절대값보다 다른 벡터와의 상대적 위치 관계가 더 중요할 수 있다는 점도 자연스럽게 받아들이게 됩니다. 결국 벡터 공간 개념이 있어야 비슷하다는 말을 막연한 직관이 아니라, 공간 안의 거리와 방향 관계로 읽게 됩니다. 다시 말해 벡터 공간은 의미 비교를 좌표 비교로 바꾸어 주는 공통 무대입니다.
함께 볼 개념: 벡터(vector), 임베딩(embedding), 유사도 검색(similarity search)
뜻: 임베딩 벡터를 저장하고, 검색 인덱스와 메타데이터, 필터링, 업데이트를 함께 관리하는 검색용 시스템입니다. 즉 단순히 벡터 몇 개를 보관하는 저장소가 아니라, 실제 검색 서비스에 필요한 조회와 운영 기능을 묶어 둔 인프라 계층이라고 볼 수 있습니다.
왜 중요한가: RAG 구현에서 중요한 것은 벡터 비교 알고리즘 하나가 아니라, 저장, 메타데이터 필터링, 권한, 갱신, 운영을 함께 다루는 전체 시스템이라는 점을 보여 주기 때문입니다. 이 개념이 있어야 가까운 벡터를 찾는다는 수학적 문제와 실제 서비스에서 어떤 문서를 안전하게, 빠르게, 최신 상태로 꺼내 쓸 것인가라는 운영 문제를 함께 읽게 됩니다. 즉 벡터 데이터베이스는 검색 알고리즘의 부속품이 아니라, 검색 품질과 운영 품질을 같이 떠받치는 계층이라는 감각을 만들어 줍니다. 결국 벡터 데이터베이스는 벡터 저장소보다 벡터 검색 서비스 인프라에 더 가깝습니다.
함께 볼 개념: 검색 인덱스(search index), 근사 최근접 이웃(ANN, approximate nearest neighbor), 메타데이터(metadata)
뜻: 순서가 있는 여러 값을 한 묶음으로 담은 표현입니다. 수학에서는 크기와 방향을 가진 대상으로 읽고, AI 문맥에서는 한 대상을 여러 숫자로 표현한 1차원 수치 묶음이라는 뜻으로 자주 씁니다. 즉 벡터는 여러 숫자를 나열한 목록이면서도, 하나의 대상을 표현하는 통합 단위로 읽어야 합니다.
왜 중요한가: 리스트와 비슷해 보여도 벡터는 단순 보관 구조보다 계산과 표현에 더 가깝기 때문입니다. 특징 벡터, 임베딩 벡터, 그래디언트 벡터처럼 무엇을 여러 차원 숫자로 나타냈는가를 읽는 기본 단위가 되고, 같은 차원 수를 가진 벡터끼리는 거리, 방향, 내적 같은 연산으로 비교할 수 있다는 점도 함께 중요합니다. 이 개념이 있어야 AI에서 많은 대상이 결국 숫자 배열이 아니라 비교와 계산이 가능한 표현으로 다뤄진다는 점을 이해하게 됩니다. 결국 벡터를 이해해야 숫자 여러 개를 분리된 값들이 아니라 하나의 표현으로 읽게 됩니다.
함께 볼 개념: 행렬(matrix), 차원(dimension), 표현(representation)
중심 Section: P2-3.1
등장 Section: P1-3.3, P1-4.3, P1-13.1, P2-3.2, P2-3.3, P2-4.3, P2-11.3
뜻: 반복 계산을 Python for 문 대신 배열 연산 하나로 표현하는 방식입니다. 사람 눈에는 하나씩 반복하지 않았는데 어떻게 전체 계산이 되지?처럼 보일 수 있지만, 실제로는 같은 계산 규칙을 배열의 각 위치나 각 축에 한꺼번에 적용하도록 계산 단위를 올려 적는 표현입니다.
왜 중요한가: 같은 계산을 배열 단위 문법으로 읽어야 NumPy와 이후 머신러닝 코드의 핵심 흐름을 빠르게 파악할 수 있기 때문입니다. 이 개념이 있어야 한 원소씩 처리한다는 사고에서 배열 전체에 같은 계산을 한 번에 적용한다는 사고로 넘어가게 되고, 속도 향상뿐 아니라 코드 구조가 더 짧고 명확해지는 이유도 함께 이해하게 됩니다. 예를 들어 모든 점수에 5점을 더하는 일을 반복문으로 하나씩 돌리는 대신 scores + 5처럼 적을 수 있다는 감각이 바로 벡터화의 출발점입니다. 결국 벡터화는 단순 최적화 기법이 아니라, 계산 단위를 원소에서 배열로 올려 읽는 표현 전환입니다.
뜻: 값을 가리키기 위해 붙인 이름입니다. 변수 자체가 값 그 자체라기보다, 현재 어떤 값을 참조하거나 담고 있는 이름표에 가깝습니다. 즉 변수는 데이터를 새로 만드는 것이 아니라, 계산 과정에서 값을 다시 부르고 넘기기 쉽게 붙여 두는 표식입니다.
왜 중요한가: x, loss, prediction 같은 이름이 무엇을 가리키는지 놓치면 수식과 코드를 함께 읽기 어렵습니다. 변수 감각이 있어야 같은 값이 어디서 만들어지고 어디로 전달되는지 추적할 수 있습니다. 이 개념이 있어야 이름표와 실제 데이터를 분리해 읽게 되고, 변수 재할당이나 중간 계산 저장이 왜 필요한지도 더 자연스럽게 이해하게 됩니다. 또한 변수를 이해해야 코드가 길어질수록 지금 이 이름이 무엇을 가리키는가를 놓치지 않고 따라갈 수 있습니다. 초심자에게는 이름이 바뀌었다와 값이 바뀌었다를 구분하는 출발점이기도 합니다.
뜻: 입력이 얼마나 바뀌었을 때 출력이 얼마나 바뀌는지 비교한 비율입니다. 단순히 값의 크기만 보는 것이 아니라, 입력을 조금 움직였을 때 결과가 얼마나 민감하게 따라 변하는지를 읽는 기준이라고 볼 수 있습니다. 즉 변화율은 얼마나 크다보다 얼마나 빠르게 달라진다를 묻는 방식입니다.
왜 중요한가: 기울기, 평균 변화율, 미분, 그래디언트를 같은 변화 질문 안에서 읽게 해 주기 때문입니다. 이 개념이 있어야 값이 얼마인가만이 아니라 값이 얼마나 빠르게 바뀌는가를 따로 읽게 되고, 손실 감소 속도나 함수의 민감도를 해석할 때도 같은 질문 틀을 유지하게 됩니다. 즉 변화율은 정적인 숫자 읽기에서, 변화하는 관계 읽기로 넘어가는 가장 기본적인 발판이며, 같은 함수값이라도 주변에서 얼마나 급하게 움직이는지까지 함께 해석하게 해 줍니다. 결국 변화율은 값 자체보다 변화하는 방식을 읽는 수학 언어의 출발점입니다.
뜻: 서로 비슷하거나 독립적인 여러 계산을 한 줄로 차례대로 하지 않고, 여러 계산 자원에 나누어 동시에 처리하는 방식입니다. 핵심은 무조건 빨리 돌린다가 아니라, 같은 종류의 계산을 한꺼번에 묶어 계산기 구조에 맞게 배치하는 데 있습니다. 그래서 병렬 처리는 알고리즘 아이디어와 하드웨어 활용 방식이 만나는 지점이라고 볼 수 있습니다.
왜 중요한가: 딥러닝 계산은 같은 연산을 많은 데이터 조각과 많은 파라미터에 반복 적용하는 경우가 많아, 한 번에 많이 처리할수록 유리한 구조라는 점을 읽어야 GPU와 텐서 연산의 장점이 함께 연결되기 때문입니다. 이 개념이 있어야 속도 차이를 단순한 기계 성능 차이로 보지 않고, 문제를 어떤 형태의 계산으로 바꾸었는지가 효율을 좌우한다는 점도 이해하게 됩니다. 예를 들어 샘플 하나씩 순서대로 처리하던 계산을 행렬 곱 한 번으로 바꾸면, 같은 수학이라도 실제 실행 시간과 자원 사용 패턴은 크게 달라질 수 있습니다.
함께 볼 개념: GPU(graphics processing unit), 배치(batch), 행렬 곱(matrix multiplication)
뜻: 검색된 문서나 외부 자료를 현재 입력 맥락에 덧붙여 모델이 더 많은 참고 정보를 보게 하는 단계입니다. 단순히 문서를 찾는 것으로 끝나지 않고, 찾은 내용을 지금 답변에 실제로 쓸 수 있는 입력 재료로 다시 배치하는 과정이라고 볼 수 있습니다. 즉 보강은 자료를 가져온다에서 한 걸음 더 나아가 그 자료를 현재 질문 맥락에 붙인다는 단계입니다.
왜 중요한가: RAG가 단순 검색으로 끝나지 않고, 검색 결과를 실제 생성 입력으로 연결하는 구조라는 점을 이해하게 해 주기 때문입니다. 이 개념이 있어야 찾아온다와 찾아온 것을 실제 답변 재료로 붙인다를 अलग개념으로 읽게 됩니다. 또한 어떤 문서를 얼마나 붙일지, 어떤 순서와 형식으로 배치할지가 답변 품질을 크게 바꿀 수 있으므로, 보강은 단순 덧붙이기가 아니라 맥락 설계 단계라는 점도 함께 읽어야 합니다.
함께 볼 개념: 검색 증강 생성(retrieval-augmented generation, RAG), 생성(generation), 프롬프트(prompt)
뜻: 도구나 기능이 망가져서 실패한 것이 아니라, 승인 미도착, 사람 응답 대기, 허용 범위 미충족처럼 외부 조건이 아직 열리지 않아 현재 실행을 더 진행하지 않고 멈춰 둔 상태입니다. 이미 확보한 관찰과 판단은 남아 있지만, 다음 변경 단계로 넘어가면 정책을 어기게 되므로 안전하게 멈춘 실행 상태라고 볼 수 있습니다. 즉 보류 상태는 아무것도 못 했다가 아니라 지금은 더 하면 안 된다를 기록한 운영 상태입니다.
왜 중요한가: blocked와 failure를 같은 실패로 묶어 버리면 문제 원인을 잘못 읽게 되고, 다음 행동도 재시도와 승인 요청을 구분하지 못하게 되기 때문입니다. 이 개념이 있어야 실행이 끝나지 않았더라도 왜 멈췄는지를 더 정확하게 남기게 되고, 승인 정책과 사람 응답 흐름이 실제 운영 기록 안에서 어떻게 드러나는지도 이해하게 됩니다. 또한 보류 상태를 이해해야 안전한 멈춤과 기능 고장을 같은 것으로 보지 않게 되고, 사용자 상태 보고와 회고 문장도 실패 대신 외부 조건 미충족이라는 더 정확한 표현으로 정리하게 됩니다.
함께 볼 개념: 승인 정책(approval policy), 승인(approval), 상태(state), 재시도(retry), 요청 실행 기록(run record)
뜻: 행동 결과가 목표에 얼마나 도움이 되었는지를 수치로 돌려주는 피드백 신호입니다. 즉 환경이 이 선택은 목표에 도움이 되었는가를 간단한 숫자로 요약해 돌려주는 평가라고 볼 수 있습니다.
왜 중요한가: 강화학습에서 학습 신호는 미리 붙은 라벨이 아니라 행동 이후의 결과 평가라는 점을 분명히 해 주기 때문입니다. 이 개념이 있어야 분류 문제의 정답 라벨과 강화학습의 피드백이 같은 종류가 아니라는 점을 이해하게 되고, 에이전트가 즉시 정답을 받는 대신 결과를 통해 행동 기준을 조정한다는 흐름도 자연스럽게 읽게 됩니다. 또한 보상을 이해해야 당장 점수가 높다와 장기적으로 더 좋은 결과를 낳는다가 다를 수 있다는 점, 그래서 보상 설계가 잘못되면 엉뚱한 행동을 학습할 수도 있다는 점도 읽게 됩니다. 결국 보상은 단순 점수판이 아니라, 에이전트 행동을 원하는 방향으로 끌어가는 설계 도구이기도 합니다.
함께 볼 개념: 강화학습(reinforcement learning), 정책(policy), 환경(environment)
중심 Section: P1-8.3
등장 Section: P4-index, P4-2.3, P4-19.1, P4-19.2, P4-19.3, P4-19.5, P4-summary
뜻: AI 시스템이 입력, 출력, 권한, 연결된 도구, 저장된 데이터 경로에서 악용되거나 손상되지 않도록 보호하는 조건입니다. 단순히 비밀번호를 잘 숨기는 문제를 넘어서, 프롬프트 인젝션, 과도한 권한, 민감 정보 유출, 잘못된 도구 실행처럼 시스템 전체가 공격이나 오용에 얼마나 취약한지를 함께 보는 운영 개념입니다. 즉 보안은 모델이 똑똑한가보다 이 시스템이 악의적 입력과 잘못된 실행에 얼마나 버틸 수 있는가를 묻는 질문에 가깝습니다.
왜 중요한가: 생성형 AI는 문서 요약에만 머무르지 않고 검색, 코드 실행, 파일 수정, 외부 API 호출과 연결되기 쉬워, 작은 입력 조작이 실제 권한 남용과 정보 유출로 이어질 수 있기 때문입니다. 이 개념이 있어야 품질 문제와 보안 문제를 섞지 않게 되고, 잘못된 답변과 위험한 실행이 서로 다른 층위의 실패라는 점을 이해하게 됩니다. 또한 보안을 이해해야 권한을 줄인다, 승인을 둔다, 로그를 남긴다, 민감 정보를 막는다 같은 장치들이 왜 별도 부가 기능이 아니라 기본 설계 조건인지도 더 분명하게 읽게 됩니다.
함께 볼 개념: 개인정보(privacy), 민감 정보(sensitive information), 권한(permission), 승인(approval), 로그(log)
뜻: 모델이 낸 확률 점수가 실제 빈도와 얼마나 잘 맞는지 점검하고 필요하면 맞추는 일입니다. 예를 들어 모델이 0.70이라고 말한 사례들을 모아 보았을 때, 실제로도 약 70% 정도가 맞는지 확인하는 작업이라고 이해할 수 있습니다. 핵심은 점수가 높다와 그 점수를 확률처럼 믿어도 된다를 같은 말로 보지 않는 데 있습니다.
왜 중요한가: 0.70 같은 점수를 곧바로 신뢰도로 읽지 않고, 그 숫자가 현실 빈도와 얼마나 맞는지 따로 확인하게 해 주기 때문입니다. 이 개념이 있어야 높은 점수와 믿을 만한 확률을 구분하게 되고, 같은 정확도를 가진 모델도 의사결정에 얼마나 안전하게 쓸 수 있는지는 또 다른 문제라는 점을 이해하게 됩니다. 특히 사람 검토 기준, 자동 승인 기준, 위험 알림처럼 점수를 행동으로 바꾸는 장면에서는 calibration이 운영 정책의 안전성과 직접 연결됩니다.
함께 볼 개념: 확률(probability), 분류(classification), 평가(evaluation)
중심 Section: P1-6.2
등장 Section: P1-6.3, P1-7.3, P4-6.4, P4-11.1, P4-15.3
뜻: 원본과 분리된 새 데이터 묶음을 만들어 이후 변경이 원본에 바로 반영되지 않게 하는 방식입니다. 핵심은 새 이름만 붙였는가가 아니라 실제로 새 객체를 만들었는가입니다. 즉 복사는 보기에는 비슷한 데이터를 하나 더 만든 것처럼 보여도, 실제 목적은 이후 수정 영향 범위를 끊어 내는 데 있습니다.
왜 중요한가: NumPy에서는 기본 슬라이싱, 팬시 인덱싱, 불리언 마스크가 원본과 다른 관계를 가질 수 있어, 실험용 배열을 안전하게 다루려면 언제 복사가 필요한지 판단해야 하기 때문입니다. 복사 여부를 놓치면 전처리 중 원본이 의도치 않게 오염될 수 있습니다. 또한 복사를 이해해야 메모리를 더 쓰더라도 왜 일부 단계에서는 독립 사본이 필요한지, 반대로 무조건 복사하면 비용이 커질 수 있다는 점도 함께 보게 됩니다. 결국 복사는 안전한 독립성과 메모리 비용 사이의 판단 문제이기도 합니다.
함께 볼 개념: shared view(원본 공유), 불리언 마스크(boolean mask), 팬시 인덱싱(fancy indexing)
뜻: 전체 상태 가운데 지금 보이는 일부 정보만 가지고 판단해야 하는 조건입니다. 세계 전체는 더 크지만, 현재 관찰 창에는 그 일부 신호만 들어오는 상황이라고 이해하면 됩니다. 즉 정보가 아예 없는 경우와 달리, 일부는 보이지만 전체는 가려져 있는 상태입니다.
왜 중요한가: 관측된 입력이 곧 전체 현실은 아니라는 점을 분리해 읽게 해 주어, 왜 메모리, 추가 관측, 추정, 사람 확인이 필요한지 설명해 주기 때문입니다. 이 개념이 있어야 지금 보이는 신호가 약해서 틀린가와 애초에 중요한 부분이 안 보이는가를 구분하게 되고, 에이전트·센서·대화 시스템에서 현재 문맥만으로 답을 확정하기 어려운 이유도 더 선명하게 이해하게 됩니다. 결국 부분 관측은 모델 성능 문제가 아니라 정보 조건의 한계일 수 있다는 점을 붙잡게 합니다. 예를 들어 자율주행 차량이 도로 전체가 아니라 현재 센서가 비추는 일부만 보고 있다면, 판단 오류는 규칙이 나빠서가 아니라 관찰 창 자체가 제한된 데서 나올 수 있습니다.
함께 볼 개념: 불완전한 정보(incomplete information), 잡음(noise), 탐색(search)
뜻: 입력 사례를 미리 정해 둔 범주나 라벨 가운데 하나로 나누는 문제 유형입니다. 결과가 새 문장을 만들어 내는 것이 아니라, 정해진 선택지 집합 안에서 어느 쪽에 넣을지를 판단하는 문제라고 볼 수 있습니다. 즉 분류의 핵심은 답을 자유롭게 만드는 것이 아니라, 이미 정의된 범주 체계 안에서 사례의 소속을 결정하는 데 있습니다.
왜 중요한가: 스팸 판별, 이상 상태 경고, 승인 보류처럼 많은 AI 실무 문제가 결국 어떤 범주를 고르는 질문으로 바뀐다는 점을 보여 주기 때문입니다. 또 같은 예측 문제라도 회귀, 군집화, 생성과 무엇이 다른지 구분하는 기준이 됩니다. 이 개념이 있어야 모델 출력이 연속값인지, 범주 선택인지에 따라 평가 방식과 후속 의사결정이 달라진다는 점도 읽게 됩니다. 또한 분류는 범주 정의가 먼저 있어야 하므로, 문제 설정 단계에서 무엇을 구분할지 정하는 일이 모델 선택만큼 중요하다는 점도 드러냅니다.
함께 볼 개념: 군집화(clustering), 예측(prediction), 라벨(label), 회귀(regression), 임계값(threshold)
뜻: 하나의 단어나 대상을 하나의 기호로만 두지 않고, 여러 수치 차원에 걸친 벡터로 표현하는 방식입니다. 한 차원이 한 의미를 전부 담당하는 식이라기보다, 여러 차원이 조금씩 역할을 나누어 하나의 개념 성질을 함께 담는 표현이라고 볼 수 있습니다. 그래서 의미가 한 칸에 고정된 번호표라기보다, 여러 좌표에 나뉘어 퍼져 있는 상태에 가깝습니다. 즉 분산 표현은 개념 하나 = 기호 하나보다 개념 하나 = 여러 좌표의 조합에 더 가까운 표현 방식입니다.
왜 중요한가: 하나의 개념 성질이 여러 차원에 나뉘어 담기므로, 처음 본 표현도 비슷한 문맥과 부분적으로 닮아 있으면 가까운 위치로 해석하게 만들기 때문입니다. 이 개념이 있어야 단어와 개체를 딱 하나의 번호표로 다루는 방식보다 훨씬 더 유연한 일반화가 가능해지는 이유를 이해하게 되고, 임베딩과 신경망 언어 모델이 왜 희소한 기호표보다 풍부한 연속 표현을 선호하는지도 읽게 됩니다. 예를 들어 비슷한 직업, 비슷한 문법 역할, 비슷한 사용 맥락이 여러 차원에 나뉘어 반영되면, 완전히 같은 단어가 아니어도 공간상 가까운 표현으로 처리될 수 있습니다. 또한 분산 표현을 이해해야 의미가 한 칸에 박힌 상징과, 여러 축에 퍼져 근접성으로 비교되는 현대 표현 방식을 더 분명히 구분하게 됩니다.
함께 볼 개념: 임베딩(embedding), 벡터(vector), 워드투벡(word2vec)
중심 Section: P1-11.1
등장 Section: P1-9.3, P1-13.1, P5-2.2, P6-3.1, P6-19.2
뜻: 값들이 평균 주변에서 얼마나 퍼져 있는지를 나타내는 값입니다. 같은 평균을 가진 데이터라도 값들이 중심 근처에 촘촘히 모여 있는지, 멀리 흩어져 있는지를 한 숫자로 요약한 퍼짐의 정도라고 볼 수 있습니다. 즉 분산은 대표값이 어디쯤인가와는 다른 질문으로, 그 주변에서 얼마나 흔들리는가를 수치로 붙잡는 도구입니다.
왜 중요한가: 평균이 같아도 데이터의 퍼짐과 안정성이 다를 수 있음을 드러내기 때문입니다. 이 개념이 있어야 대표값이 같다는 사실만으로 두 데이터가 비슷하다고 단정하지 않게 되고, 예측 오차나 성능 점수의 흔들림도 중심값뿐 아니라 퍼짐과 함께 읽어야 한다는 점을 이해하게 됩니다. 또한 분산을 이해해야 평균 하나만 보면 안정적으로 보이는 데이터와, 실제로는 큰 흔들림을 가진 데이터를 구분하게 됩니다. 결국 분산은 대표값의 위치만이 아니라 값들의 안정성을 함께 보게 만드는 핵심 지표입니다.
함께 볼 개념: 평균(mean), 표준편차(standard deviation), 분포(distribution)
뜻: 값들이 어디에 몰리고 얼마나 퍼져 있는지 보여 주는 전체 모양입니다. 단순히 무슨 값이 있다를 넘어서, 어떤 구간에 값이 많이 모이는지, 한쪽으로 치우쳤는지, 여러 봉우리가 있는지까지 함께 드러내는 데이터의 전체 모습이라고 볼 수 있습니다. 즉 분포는 개별 값 목록보다 값들이 전체적으로 어떤 형태를 이루는가를 읽는 관점이며, 중심과 퍼짐과 치우침을 한꺼번에 보게 합니다.
왜 중요한가: 데이터 묶음을 단순 목록이 아니라 중심과 퍼짐을 가진 구조로 읽게 해 주기 때문입니다. 이 개념이 있어야 평균 하나만으로는 놓치는 치우침, 이상값, 여러 집단의 섞임을 함께 보게 되고, 같은 모델 점수라도 어떤 사례들에서 흔들리는지 더 입체적으로 해석하게 됩니다. 또한 분포를 이해해야 대표값 하나가 비슷해 보여도 실제 데이터 모양은 크게 다를 수 있다는 점도 자연스럽게 받아들이게 되고, 그래프를 볼 때도 값 하나보다 전체 모양을 먼저 읽는 습관이 생깁니다.
뜻: 조건이 참인 위치만 남기기 위해 같은 길이의 참·거짓 배열을 사용해 값을 고르는 방식입니다. 숫자 인덱스를 직접 적는 대신, 이 조건을 만족하는가를 먼저 계산한 뒤 그 결과로 원소를 선택하는 조건 기반 선택 도구라고 볼 수 있습니다. 즉 불리언 마스크는 몇 번째를 고른다보다 어떤 조건을 만족한 것만 남긴다는 선택 방식에 가깝습니다.
왜 중요한가: 조건에 맞는 샘플만 골라 새 배열을 만들 때, 단순 슬라이싱과 다른 선택 방식이라는 점을 구분해야 원본 공유와 결과 shape를 올바르게 읽을 수 있기 때문입니다. 이 개념이 있어야 데이터 전처리에서 무엇을 남길지를 위치가 아니라 조건으로 읽는 사고방식이 자연스럽게 잡힙니다. 또한 불리언 마스크를 이해해야 조건 기반 선택이 결과 구조와 복사 동작까지 바꿀 수 있다는 점도 함께 읽게 됩니다.
함께 볼 개념: 필터링(filtering), 팬시 인덱싱(fancy indexing), 복사(copy)
뜻: 판단이나 선택에 필요한 상태 정보가 처음부터 모두 주어지지 않은 상황입니다. 규칙이나 목표가 있더라도, 결정을 위해 알아야 할 사실 일부가 애초에 제공되지 않은 조건이라고 볼 수 있습니다. 즉 문제는 있는데, 그 문제를 닫는 데 필요한 입력이 처음부터 비어 있는 상태입니다.
왜 중요한가: 규칙이 있어도 핵심 정보가 빠져 있으면 결과를 확정하기 어렵고, 확률·탐색·사람 검토 같은 보완 접근이 왜 필요한지 설명해 주기 때문입니다. 이 개념이 있어야 규칙이 부족한가와 정보가 부족한가를 구분해 읽게 되고, 같은 문제라도 더 많은 관측이 들어오면 판단 방식이 달라질 수 있다는 점도 자연스럽게 이해하게 됩니다. 예를 들어 고객 문의만 있고 주문 기록이 전혀 없으면, 문제는 규칙의 부재가 아니라 입력 사실의 부재일 수 있습니다. 이런 구분이 있어야 규칙을 더 쓰는 방향과 추가 관측이나 검색을 붙이는 방향을 다르게 선택하게 됩니다.
함께 볼 개념: 부분 관측(partial observability), 불확실성(uncertainty), 규칙 기반 시스템(rule-based system)
뜻: 현재 정보만으로 하나의 상태나 결과를 확정할 수 없고 여러 가능성을 함께 고려해야 하는 상태입니다. 모른다는 사실을 감추지 않고, 가능한 경우들과 그 가능성 크기를 함께 다뤄야 하는 판단 조건이라고 볼 수 있습니다. 즉 불확실성은 아직 정보가 부족하다는 상태를 체계적으로 다루기 위한 개념입니다.
왜 중요한가: 실제 문제에서는 모른다를 오류로만 보지 않고, 어느 정도 확신할 수 있는지와 어떤 경우를 더 조심해야 하는지 함께 판단해야 하기 때문입니다. 이 개념이 있어야 예측 결과를 단일 답 하나로만 읽지 않고 확률, 신뢰도, 위험, 추가 확인 필요성을 함께 보게 되고, 사람 검토와 자동화 경계를 정하는 기준도 더 자연스럽게 세우게 됩니다. AI 시스템 운영에서도 불확실성을 읽을 수 있어야 자동 응답으로 넘길지, 사람 검토를 붙일지, 추가 정보를 먼저 요청할지를 나누게 됩니다.
함께 볼 개념: 확률(probability), 불완전한 정보(incomplete information), 잡음(noise)
뜻: 같은 저장소 안에서 작업 흐름을 분리해 진행할 수 있게 해 주는 이름 붙은 이력선입니다. 파일을 따로 복사해 두는 것과 비슷해 보이지만, 실제로는 같은 프로젝트 안에서 서로 다른 변경 역사와 공개 준비 상태를 나누는 장치에 가깝습니다. 즉 브랜치는 같은 프로젝트의 다른 시간선처럼, 작업 목적에 따라 이력 흐름을 나누어 두는 방법입니다.
왜 중요한가: 작성 중인 문서와 배포 가능한 문서를 분리하고, 실험적 변경과 공개 기준 반영을 섞지 않게 만드는 운영 기준이 되기 때문입니다. 이 개념이 있어야 작업 중인 상태와 독자에게 보여 줄 상태를 한 저장소 안에서 분리해 다루는 이유를 자연스럽게 이해할 수 있습니다. 또한 브랜치를 이해해야 같은 파일을 다루더라도 어느 브랜치에 있는지가 곧 공개 범위와 작업 목적을 바꾼다는 점도 더 분명히 읽게 됩니다.
함께 볼 개념: 커밋(commit), 배포(deployment), 작업 흐름(workflow)
뜻: shape가 호환되는 작은 배열이나 스칼라를 더 큰 배열 계산에 맞춰 적용하는 NumPy 계산 규칙입니다. 같은 값을 무작정 복사해 늘리는 것이라기보다, 모양이 맞는 방향으로 값이 퍼져 적용된다는 계산 해석 규칙이라고 이해하면 됩니다. 즉 실제로 거대한 복사본을 손으로 만드는 직관보다는, 계산기가 축의 길이를 맞춰 읽는 방식이라고 보는 편이 더 정확합니다.
왜 중요한가: 배열 전체에 같은 보정값을 더하거나 특징별 연산을 한 번에 적용할 때, 반복문 없이도 어떤 계산이 일어나는지 읽는 기준이 되기 때문입니다. 이 개념이 있어야 배열 계산 코드가 짧게 적혀 있어도 실제로 어떤 축을 따라 값이 퍼져 적용되는지 해석할 수 있습니다. 예를 들어 (3, 4) 배열에 (4,) 벡터를 더하면 각 행에 같은 4개 값이 적용되고, (3, 1) 벡터를 더하면 각 열보다 각 행 쪽 보정처럼 읽히게 됩니다. 결국 브로드캐스팅은 왜 계산은 되는데 내가 기대한 축과 다르게 적용되지?라는 질문에 답하는 핵심 shape 해석 규칙입니다.
뜻: 같은 입력이나 상태에서도 결과가 하나로 고정되지 않을 수 있는 성질입니다. 하나의 규칙 경로만 있는 것이 아니라, 여러 다음 상태나 결과 가능성이 열려 있는 조건이라고 볼 수 있습니다. 즉 비결정적이라는 말은 반드시 하나의 다음 결과로 닫히지 않는다는 구조를 가리키며, 곧바로 무작위 선택을 뜻하는 것은 아닙니다.
왜 중요한가: 규칙이 모자라서 여러 경로가 가능한 경우, 무작위 요소가 들어간 경우, 외부 상태에 따라 실행이 달라지는 경우를 한데 섞지 않고 읽는 출발점이 되기 때문입니다. 이 개념이 있어야 정답이 하나로 결정되지 않는다는 말이 언제는 탐색 문제를 뜻하고 언제는 확률적 생성이나 시스템 실행 차이를 뜻하는지 더 조심해서 구분하게 됩니다. 또한 비결정적을 이해해야 결과가 여러 개일 수 있다와 그중 하나를 무작위로 고른다를 다른 층위로 읽게 됩니다.
함께 볼 개념: 무작위(random), 확률적 과정(stochastic process), 불확실성(uncertainty)
뜻: 기준점(baseline)과 현재 값, 기준 모델과 개선 모델, 이전 설정과 새 설정을 실제로 나란히 놓았을 때 드러난 차이 그 자체입니다. 단순히 숫자 둘을 적어 둔 상태가 아니라, 무엇이 얼마나 달라졌는가를 같은 입력과 같은 기준 위에서 다시 읽을 수 있게 만든 비교의 결론이라고 볼 수 있습니다. 즉 비교 결과는 계산 출력 여러 개 중에서도, 차이 해석의 출발점이 되는 정리된 변화 기록입니다.
왜 중요한가: 기준선과 점수는 있어도 그 둘을 같은 조건 위에서 묶어 읽지 않으면 좋아졌다는 말이 쉽게 인상평으로 흐르기 때문입니다. 이 개념이 있어야 비교표, 실행 요약, 틀린 사례 목록을 따로 보지 않고 어떤 샘플과 어떤 지표에서 차이가 났는가를 한 흐름으로 다시 읽게 됩니다. 또한 비교 결과를 이해해야 Part 7의 프로젝트 문서가 계산 로그 모음이 아니라, 다음 질문과 개선 계획이 기대는 변화 기록이라는 점도 더 분명하게 읽게 됩니다.
함께 볼 개념: 비교표(comparison table), 기준선(baseline), 실행 요약(execution summary), 다음 질문(next question), 평가(evaluation)
뜻: 최근 상태와 기준선의 차이를 정리해 사람이 먼저 볼 대상과 검토 우선순위를 읽게 하는 출력 구조입니다. 예측 점수 하나를 내는 대신, 무엇이 평소와 달라졌는가를 사람이 먼저 해석할 수 있게 만드는 비교형 산출물이라고 볼 수 있습니다. 즉 비교 리포트는 자동 판정 결과라기보다, 사람이 다음 질문을 던질 수 있게 차이를 정리한 검토용 출력입니다.
왜 중요한가: 모든 운영 문제를 곧바로 예측 문제로 바꾸지 않고, 현재 데이터와 라벨 상태에 맞는 산출물을 선택하게 해 주기 때문입니다. 데이터가 아직 충분히 정답화되지 않은 단계에서 특히 유용한 중간 결과 형식이기도 합니다. 이 개념이 있어야 모델이 바로 결정하게 할 것인가와 사람이 차이를 먼저 읽게 할 것인가를 구분하게 되고, 운영 초기에는 비교 리포트가 더 현실적인 출력 구조일 수 있다는 점도 자연스럽게 이해하게 됩니다.
함께 볼 개념: 기준선(baseline), 검토(review), 타깃(target), 출력 구조(output structure)
뜻: 기준점(baseline), 모델, 설정, 샘플, 기간처럼 둘 이상 대상을 같은 기준 열 위에 나란히 놓고 차이를 읽게 만드는 표입니다. 단순 결과 표가 아니라, 무엇과 무엇을 어떤 축으로 비교했는가를 독자가 다시 추적할 수 있게 만든 해석 도구라고 볼 수 있습니다. 즉 비교표는 숫자를 모아 적는 칸이 아니라, 차이를 읽는 기준을 문서 안에 고정하는 구조입니다.
왜 중요한가: 좋아졌다는 말은 항상 어떤 기준선과 어떤 비교 단위 위에서만 해석될 수 있는데, 그 기준이 표로 남지 않으면 회고와 개선 문장이 쉽게 인상평으로 흐르기 때문입니다. 이 개념이 있어야 전체 평균과 샘플별 차이, 기준 모델과 변경 모델, 선택된 후보와 탈락 후보를 같은 문서 안에서 분리해 읽게 되고, 오류 사례와 다음 질문도 실제 비교 장면 위에서 다시 붙잡게 됩니다. 또한 비교표를 이해해야 Part 7의 분석 프로젝트가 점수 한 줄 요약이 아니라, 차이를 다시 검토하고 다음 실험으로 넘기는 기록 구조라는 점도 더 선명하게 읽게 됩니다.
함께 볼 개념: 기준선(baseline), 오류 사례(error case), 회고(retrospective), 검토(review), 평가 지표(evaluation metric)
중심 Section: P7-2.1
등장 Section: P7-index, P7-1.1, P7-1.3, P7-2.2, P7-5.1, P7-summary
뜻: 법적 개인정보는 아니더라도 외부로 노출되면 조직, 고객, 계약, 운영에 실질적 피해를 줄 수 있어 보호해야 하는 내부 정보입니다. 계약서 초안, 미공개 코드, 내부 회의록, 고객 명단, 비밀키(secret), 제품 출시 전 계획처럼 조직 바깥으로 나가면 안 되는 정보가 여기에 해당합니다. 즉 비밀 정보는 개인을 식별하는가보다 업무상 비공개로 유지해야 하는가를 더 강하게 묻는 범주입니다.
왜 중요한가: 생성형 AI 입력과 로그는 개인 정보뿐 아니라 조직의 내부 정보도 쉽게 복제하고 재노출할 수 있어, 개인정보 보호만으로는 실제 위험을 다 설명하지 못하기 때문입니다. 이 개념이 있어야 개인정보는 아니니 넣어도 된다는 식의 오해를 줄이게 되고, 회사 문서와 비밀키, 내부 운영 정보가 왜 별도 보호 대상인지 더 분명하게 읽게 됩니다. 또한 비밀 정보를 이해해야 민감 정보, 보안, 권한 관리가 왜 함께 설계되어야 하는지, 그리고 AI 초안 생성 편의가 곧바로 내부 자료 공유 허용을 뜻하지 않는다는 점도 더 분명히 보게 됩니다.
함께 볼 개념: 민감 정보(sensitive information), 보안(security), 개인정보(privacy), 로그(log), 권한(permission)
뜻: 외부 서비스 인증, 서명, 암호화, 내부 시스템 접근을 위해 노출 없이 보관해야 하는 비밀값입니다. API key처럼 요청 자격을 증명하는 값도 여기에 포함되며, 어떤 경우에는 사용자 계정 비밀번호와 달리 사람이 직접 읽고 입력하기보다 시스템이 대신 보관하고 호출에 붙이는 형태로 쓰이기도 합니다. 즉 비밀키는 설정값 하나가 아니라, 새면 곧바로 권한 오남용으로 이어질 수 있는 고위험 실행 자산입니다.
왜 중요한가: 문서, 로그, 코드 예제, 환경 변수 화면에 비밀키가 그대로 드러나면 AI 보조 작업 과정 자체가 즉시 보안 사고 경로가 될 수 있기 때문입니다. 이 개념이 있어야 비밀 정보를 일반 내부 자료와 같은 수준으로만 보지 않게 되고, 잠깐 테스트용으로 붙여 둔 값도 실제 운영 피해를 만들 수 있다는 점을 이해하게 됩니다. 또한 비밀키를 이해해야 인증 정보, 마스킹, 최소 권한, 실행 범위 제한이 왜 함께 설계되어야 하는지도 더 구체적으로 읽게 됩니다.
함께 볼 개념: 인증 정보(credential), 비밀 정보(confidential information), 민감 정보(sensitive information), 환경 변수(environment variable), 보안(security)
뜻: 데이터가 한 줄의 순서로만 이어지지 않고, 계층이나 관계처럼 여러 갈래로 연결되는 구조입니다. 앞뒤 한 방향으로만 훑는 대신, 가지를 타고 내려가거나 연결선을 따라 이동해야 하는 구조라고 이해하면 됩니다. 즉 저장 방식보다 어떤 관계를 기본으로 드러내는가가 더 중요한 자료구조 범주입니다.
왜 중요한가: 트리와 그래프를 리스트나 배열 같은 선형 구조와 구분해 읽어야 질문에 맞는 구조 선택이 가능해지기 때문입니다. 이 개념이 있어야 데이터를 앞에서부터 순서대로 훑는 문제와 부모-자식 관계나 연결을 따라가야 하는 문제로 나누어 보게 되고, 같은 저장 대상이라도 어떤 질문을 자주 던질지에 따라 구조 선택이 달라진다는 점도 이해하게 됩니다. 결국 비선형 구조를 이해해야 데이터가 많다보다 데이터가 어떻게 연결되어 있나가 더 중요한 문제를 따로 식별하게 됩니다.
함께 볼 개념: 선형 구조(linear structure), 트리(tree), 그래프(graph)
뜻: 모델 호출, 도구 실행, 저장, 네트워크, 평가처럼 서비스를 유지하는 데 드는 자원과 지출의 크기입니다. 돈만이 아니라 시간, 계산량, 인프라 사용량, 사람 검토 자원까지 함께 포함하는 운영 부담의 총합으로 읽을 수 있고, 한 번 가능하다와 계속 감당 가능하다를 가르는 기준에 가깝습니다. 따라서 비용은 결제 금액만이 아니라 이 경로를 계속 돌릴 때 얼마나 무거운가를 묻는 운영 단위라고 볼 수 있습니다.
왜 중요한가: AI 기능은 한 번 잘 동작하는지보다 그 기능을 반복해서 감당 가능한 비용으로 운영할 수 있는지가 실제 서비스 지속 가능성을 결정하기 때문입니다. 이 개념이 있어야 같은 품질 개선도 언제는 받아들일 만하고 언제는 너무 비싼 선택인지, 운영 판단의 기준을 세울 수 있고, 자동화가 사람 검토를 얼마나 대체하거나 오히려 늘리는지도 함께 따져 보게 됩니다. 결국 비용은 성능을 얼마나 올렸는가만이 아니라 그 성능을 어떤 부담으로 샀는가를 묻는 운영 질문이기도 합니다. 예를 들어 더 큰 모델, 더 많은 검색 단계, 더 잦은 재시도는 품질을 올릴 수 있지만 비용과 지연 시간을 함께 키울 수 있으므로, 실제 채택 판단은 품질 점수 하나로 닫히지 않습니다.
함께 볼 개념: 지연 시간(latency), 처리량(throughput), 운영(operation), 품질(quality), 자동 평가(automatic evaluation)
중심 Section: P1-14.6
등장 Section: P1-7.1, P1-14.5, P1-16.3, P6-16.2, P6-17.1
뜻: 이미지를 작은 패치 토큰으로 나눈 뒤, 각 패치 사이 관계를 self-attention으로 읽어 표현을 만드는 비전 모델 계열입니다. 즉 문장에서 단어 조각을 토큰으로 다루듯, ViT는 이미지도 작은 조각들의 시퀀스로 바꾸어 읽습니다. 그래서 핵심 직관은 이미지를 한 장의 격자로 직접 다루기보다 관계 있는 패치들의 집합으로 다시 표현하는 데 있습니다.
왜 중요한가: CNN이 가까운 픽셀 묶음에서 점차 큰 패턴을 읽는 방식과 달리, ViT는 처음부터 이미지를 패치들의 시퀀스처럼 다룬다는 점이 핵심 대비가 되기 때문입니다. 이 개념이 있어야 Transformer가 언어 밖으로 확장될 때 무엇이 토큰 역할을 하는지 이해하게 되고, 이미지 분류에서도 지역 특징과 전역 관계를 읽는 방식이 어떻게 달라지는지 더 자연스럽게 비교하게 됩니다. 특히 이미지에서도 attention이 통하는 이유는 무엇인가라는 질문에 대해, 픽셀 자체가 아니라 패치 표현 사이 관계를 읽는 구조라고 설명할 수 있게 됩니다.
함께 볼 개념: 합성곱 신경망(CNN, convolutional neural network), 어텐션(Attention), 패치(patch)
뜻: 사람이 미리 붙인 라벨 없이 데이터 안의 구조나 묶음, 표현을 찾으려는 학습 방식입니다. 즉 정답이 무엇인가를 바로 맞히는 대신, 사례들이 어떻게 비슷하고 어떻게 갈라지는지 먼저 읽으려는 문제 설정이라고 볼 수 있습니다. 다시 말해 비지도학습은 답을 외우는 학습보다, 데이터 안에 숨어 있는 질서를 드러내는 학습에 더 가깝습니다.
왜 중요한가: 지도학습처럼 정답 라벨을 맞히는 문제와 달리, 데이터 자체의 관계를 발견하는 질문이 따로 있다는 점을 보여 주기 때문입니다. 이 개념이 있어야 학습이 반드시 정답 맞히기만 뜻하는 것은 아니라는 점을 이해하게 되고, 군집화·차원 축소·표현 학습처럼 데이터 구조를 먼저 읽는 문제들이 별도 축으로 존재한다는 점도 자연스럽게 이어집니다. 예를 들어 고객 데이터에 라벨이 없어도 비슷한 행동 패턴끼리 먼저 묶어 보면, 이후 어떤 집단을 먼저 해석하거나 검토할지 새로운 질문이 생길 수 있습니다. 결국 비지도학습을 이해해야 라벨이 없으니 아무것도 못 한다가 아니라 라벨 없이도 먼저 볼 수 있는 구조가 있다는 관점으로 넘어가게 됩니다.
함께 볼 개념: 구조(structure), 군집화(clustering), 차원 축소(dimensionality reduction)
중심 Section: P4-2.2
등장 Section: P1-8.2, P4-17.1, P4-17.2, P4-18.1, P4-18.2
뜻: 모델 파라미터 밖에 따로 저장되어 검색으로 접근할 수 있는 외부 문서나 자료 저장소입니다. 모델이 가중치 안에 압축해 기억한 정보와 달리, 필요할 때 다시 찾아 읽을 수 있도록 바깥에 남겨 둔 메모리 층이라고 볼 수 있습니다. 즉 비파라메트릭 메모리는 모델이 몸속에 기억한 것이 아니라 밖에 두고 필요할 때 꺼내 보는 것에 가깝습니다.
왜 중요한가: RAG가 모델 내부 기억만 쓰는 것이 아니라, 나중에 추가·수정할 수 있는 바깥 자료를 함께 연결한다는 점을 이해하게 해 주기 때문입니다. 이 개념이 있어야 최신 문서 교체와 출처 추적이 왜 파라미터 수정 없이 가능해지는지도 설명할 수 있습니다. 예를 들어 회사 정책 문서가 바뀌었을 때 모델 전체를 다시 학습하지 않고도 검색 저장소의 문서만 교체해 최신 답변 재료를 바꿀 수 있다면, 그 바깥 저장소가 바로 비파라메트릭 메모리 역할을 하는 셈입니다. 결국 이 개념을 이해해야 모델이 안다와 모델이 찾아 읽는다를 분리해 설명하게 되고, 최신성·출처성·수정 용이성이 왜 RAG 구조의 핵심 장점인지도 더 분명히 읽게 됩니다.
함께 볼 개념: 파라메트릭 메모리(parametric memory), 검색 증강 생성(retrieval-augmented generation, RAG), 검색(search)