Part 6. LLM과 생성형 AI¶

Section ID: P6-index Version: v2026.07.24

Part 6은 Part 5에서 본 딥러닝 구조를 생성형 AI 사용 장면으로 옮겨 읽는 구간입니다. 여기서 출발점은 토큰이나 Transformer 세부 구현이 아니라, 사람이 실제로 받게 되는 생성형 AI 산출물입니다. 먼저 생성형 AI가 무엇을 만들어 내는지, 왜 LLM(large language model)을 대표 경로로 삼는지, 생성이 완성 답을 한 번에 꺼내는 일이 아니라 후보 분포와 선택을 반복하는 흐름이라는 감각을 잡습니다.

그다음 텍스트가 토큰(token), token ID, 임베딩(embedding)으로 바뀌어 계산 가능한 입력이 되는 과정을 봅니다. Transformer와 GPT 계열 구조는 이 입력을 바탕으로 다음 후보를 만드는 흐름으로 읽습니다. 이후 사전학습(pretraining), 파인튜닝(fine-tuning), 지시 튜닝(instruction tuning), 정렬(alignment)을 통해 응답 습관이 어떻게 만들어지는지 확인합니다.

중반 이후에는 모델 안쪽 설명을 실제 사용 구조로 확장합니다. 프롬프트(prompt), RAG(retrieval-augmented generation), 벡터 데이터베이스(vector database), 도구 사용(tool use), 에이전트(agent), MCP(Model Context Protocol), 하네스(harness)는 서로 떨어진 유행어가 아니라 생성 결과를 더 검토 가능하게 만들기 위한 보강 구조로 읽습니다. 마지막으로 LLM 평가, 자동 평가와 사람 평가, 서비스 운영 제약, 실패 대응, 작은 생성형 AI 기능의 실행 기록을 통해 자연스러운 답변과 검토 가능한 서비스 결과를 구분합니다. 발전사와 BERT 계열은 본류를 읽은 뒤 GPT 중심 설명을 과장하지 않기 위한 배경 지도와 비교 축으로 둡니다.

생성형 AI를 이해하기 위한 Part 6의 기준¶

생성형 AI가 만드는 산출물은 분류나 수치 예측과 어떻게 다른가?
왜 생성형 AI 전체가 아니라 LLM을 중심 사례로 읽는가?
LLM의 생성은 왜 후보 분포와 선택 반복으로 읽어야 하는가?
토큰, 임베딩, Transformer, GPT, next-token prediction은 어떤 순서로 연결되는가?
프롬프트만으로 되는 일과 RAG, 벡터 데이터베이스, 도구 사용, 에이전트가 필요한 일은 무엇이 다른가?
MCP와 하네스는 왜 모델 능력보다 연결 형식, 실행 기록, 재현성 문제에 가까운가?
생성 결과가 자연스럽다는 것과 평가·운영·실패 대응까지 가능한 결과라는 것은 왜 다른가?

이 Part에서 다루는 범위¶

이 Part는 LLM을 생성형 AI 전체와 동일시하지 않습니다. 다만 텍스트 생성, 대화 인터페이스, RAG, 도구 사용, 에이전트처럼 독자가 가장 자주 만나는 생성형 AI 흐름을 설명하기 위해 LLM을 중심 사례로 삼습니다.

또한 이 Part는 대규모 모델을 직접 학습시키는 구현서가 아닙니다. 대신 요청이 어떤 입력 단위로 바뀌고, 모델이 어떤 방식으로 후보를 만들며, 외부 근거와 도구가 언제 필요해지고, 결과를 어떻게 평가하고 기록해야 하는지를 봅니다. 실제 프로젝트의 구현 세부는 Part 7에서 다루며, Part 6에서는 그 프로젝트를 이해하기 위한 판단 기준을 준비합니다.

Module별 읽는 축¶

범위	중심 질문	남겨야 할 감각
Module 1. 생성형 AI와 LLM의 위치	생성형 AI 산출물을 왜 검토 대상으로 먼저 보아야 하는가	LLM은 생성형 AI를 읽기 위한 대표 경로이지 전체와 같은 말이 아니다
Module 2. 텍스트 생성의 입력 단위와 표현	텍스트는 어떻게 계산 가능한 입력과 비교 가능한 표현이 되는가	토큰, token ID, 임베딩은 서로 다른 층위의 값이다
Module 3. 다음 후보를 만드는 LLM 구조	Transformer와 GPT 계열은 다음 후보를 어떻게 만든다고 읽어야 하는가	긴 답변도 다음 후보 선택이 누적된 결과다
Module 4. 응답 습관을 만드는 학습과 조정	사전학습, 파인튜닝, 지시 튜닝, 정렬은 무엇을 다르게 바꾸는가	많이 배운 것과 원하는 방식으로 답하는 것은 다르다
Module 5. 프롬프트와 근거 보강	프롬프트만으로 부족할 때 무엇을 밖에서 붙이는가	최신성, 근거성, 검색 실패는 프롬프트 문장만으로 해결되지 않는다
Module 6. 도구와 에이전트 실행 구조	모델 밖 실행과 여러 단계 작업은 어떻게 연결되는가	도구, 에이전트, MCP, 하네스는 연결과 관찰의 문제를 드러낸다
Module 7. 검토 가능한 서비스 상태	좋은 문장과 서비스 가능한 답변은 무엇이 다른가	평가, 비용, 지연 시간, 실패 대응, 실행 기록이 함께 남아야 한다
Module 8. 배경 지도와 비교	GPT 중심 본류를 어떻게 과장하지 않고 읽을 것인가	발전사와 BERT 계열은 직접 계보와 비교 축을 나눠 보게 한다

생성형 AI를 읽는 흐름¶

생성형 AI 산출물
-> LLM 대표 경로
-> 후보 분포와 선택 반복
-> 토큰과 임베딩
-> 다음 후보를 만드는 LLM 구조
-> 응답 습관을 만드는 학습과 조정
-> 프롬프트와 근거 보강
-> 도구와 에이전트 실행 구조
-> 검토 가능한 서비스 상태
-> 배경 지도와 비교

Part 6을 마치면 생성형 AI를 그럴듯한 답변을 만드는 모델로만 보지 않고, 요청, 입력 표현, 후보 생성, 근거 보강, 도구 실행, 평가, 운영 기록이 함께 묶인 시스템으로 읽을 준비가 되어야 합니다. 이 기준이 Part 7의 작은 프로젝트에서 무엇을 만들고 무엇을 기록해야 하는지 판단하는 출발점입니다.