뜻: 학습 과정에서 조정되는 모델 내부 값입니다. 가중치와 편향처럼 모델 안에 저장되어, 같은 입력이 들어왔을 때 어떤 계산 경로와 출력을 만들지 결정하는 값이며, 함수의 매개변수(parameter)와는 다른 층위의 용법입니다. 즉 파라미터는 모델이 안쪽에 기억하고 있는 조정값에 더 가깝습니다.
왜 중요한가: 같은 입력에 대한 출력이 어떻게 달라지는지를 결정하는 내부 기준이기 때문입니다. 이 구분이 있어야 파라미터 수, 미세조정, 모델 안에 학습된 지식 같은 표현을 입력 인자 개념과 섞지 않게 됩니다. 예를 들어 temperature는 사용자가 바깥에서 조절하는 설정값이지만, 가중치(weight)와 편향(bias)은 학습으로 모델 안에 저장된 파라미터입니다. 결국 파라미터를 이해해야 무엇이 모델 안에 학습되어 남는가와 무엇이 바깥에서 설정되는가를 더 정확히 나누어 읽게 됩니다.
함께 볼 개념: 모델(model), 모델 훈련(model training), 표현(representation), 하이퍼파라미터(hyperparameter)
뜻: 입력이 여러 개일 때 그중 하나만 바꿨다고 보고 계산한 변화율입니다. 나머지 변수는 잠시 고정해 둔 채, 특정 방향으로만 얼마나 민감하게 값이 바뀌는지를 읽는 도구라고 볼 수 있습니다. 즉 여러 변수가 얽힌 문제를 지금은 이 변수 하나의 영향만 본다는 방식으로 나누어 보는 셈입니다. 한꺼번에 모든 변화를 보지 않고, 변수별 책임을 따로 읽는 미분 방식이라고 이해하면 됩니다.
왜 중요한가: 여러 파라미터가 있는 손실 함수에서 각 방향의 민감도를 따로 읽어야 그래디언트를 이해할 수 있습니다. 이 개념이 있어야 전체 변화와 특정 파라미터 하나의 영향을 구분하고, 역전파가 왜 파라미터별 업데이트 신호를 줄 수 있는지 이해하게 됩니다. 또한 다변수 문제에서도 변화율을 포기하는 것이 아니라, 방향별 기여를 쪼개어 보고 다시 모아 학습 방향을 정한다는 점이 더 분명해집니다. 결국 편미분은 어느 파라미터를 조금 바꾸면 손실이 어느 쪽으로 얼마나 달라지는가를 읽는 기본 문법이 됩니다.
함께 볼 개념: 미분(derivative), 그래디언트(gradient), 파라미터(parameter)
뜻: AI 시스템이 특정 사람, 집단, 상황에 반복적으로 더 불리하거나 왜곡된 결과를 내는 문제입니다. 단발성 실수라기보다, 어떤 조건에서 비슷한 방향의 불균형이 계속 나타나는 구조적 문제에 더 가깝습니다. 따라서 편향은 단순히 틀린 예측이 있다는 말이 아니라, 실패가 누구에게 어떤 방향으로 더 자주 몰리는가를 묻는 질문입니다.
왜 중요한가: 편향은 나쁜 의도만의 문제가 아니라 데이터 수집, 라벨 기준, 특징 선택, 평가 방식, 사용 맥락에서 함께 생길 수 있어, 모델 성능이 높아 보여도 실제 피해를 만들 수 있기 때문입니다. 이 개념이 있어야 전체 평균 성능이 좋다는 사실만으로 시스템을 안전하다고 보지 않게 되고, 누구에게 어떤 실패가 더 집중되는지 따로 살펴봐야 한다는 점도 분명해집니다. 또한 편향을 이해해야 오류율 비교, 집단별 사례 검토, 운영 맥락 점검 없이 모두에게 비슷하게 잘 작동한다고 단정하는 위험도 더 분명히 읽게 됩니다.
함께 볼 개념: AI 시스템 안전성(safety), AI 책임성(accountability), 인간 감독(human oversight)
뜻: 같은 구조나 값을 평균, 차이, 비율, 기울기, 토큰처럼 다른 표현으로 바꾸는 과정입니다. 원래 값의 의미를 버리는 것이 아니라, 현재 질문에서 비교하기 쉬운 형태로 다시 표현하는 일입니다.
왜 중요한가: 특징 설계에서 무엇을 계산해 만들 것인가와 그중 무엇을 남길 것인가는 다른 판단이기 때문입니다. 변수변환을 이해하면 요약 표의 값을 그대로 쓰는 단계와, 그 값을 변화·수준·안정성 같은 구조 표현으로 바꾸는 단계를 구분할 수 있습니다. 이 구분이 있어야 특징 선택도 단순 열 삭제가 아니라, 이미 만든 후보 표현 중 현재 질문에 맞는 단서를 고르는 일로 읽힙니다.
함께 볼 개념: 특징(feature), 특징 선택(feature selection), 요약 표(summary table), 중간 표현(intermediate representation)
뜻: 모델이 얼마나 잘했는지, 또는 어떤 종류의 오류를 얼마나 냈는지 숫자로 요약해 보여 주는 기준입니다. 정확도처럼 한 숫자일 수도 있고, 정밀도와 재현율처럼 서로 다른 오류 성격을 따로 보여 주는 여러 숫자 묶음일 수도 있습니다. 즉 평가 지표는 성능이 좋다를 막연히 말하는 대신, 어떤 기준에서 얼마나 좋거나 나쁜지를 수치로 드러내는 언어입니다.
왜 중요한가: 같은 점수라도 무엇을 잘했다고 보는지 먼저 정하지 않으면 모델 비교와 업무 판단이 함께 흔들리기 때문입니다. 이 개념이 있어야 높은 점수 자체보다 그 점수가 무엇을 반영하고 무엇을 놓치는지를 함께 읽게 됩니다. 또한 하나의 지표가 좋아졌더라도 다른 실패 유형이 가려질 수 있어, 문제 성격에 따라 여러 지표를 함께 보는 이유도 더 자연스럽게 이해하게 됩니다. 특히 평가 지표를 이해해야 모델 훈련 목표, 사용자 경험, 업무 비용이 항상 같은 숫자로 요약되지는 않는다는 점도 읽게 됩니다.
함께 볼 개념: 평가 지표(metric), 정확도(accuracy), 재현율(recall)
뜻: 실제값과 예측값의 차이를 제곱한 뒤 여러 샘플에 대해 평균낸 값입니다. 예측이 얼마나 틀렸는지를 하나의 숫자로 요약하되, 큰 오차에는 더 큰 벌점을 주는 방식이라고 볼 수 있습니다. 즉 작은 여러 실수보다 드문 큰 실수를 더 무겁게 보는 오차 요약 방식입니다.
왜 중요한가: 여러 예측의 오차를 하나의 숫자로 요약해 손실 함수와 평가 지표가 어떻게 연결되는지 보여 줍니다. 특히 제곱을 쓰기 때문에 큰 실수를 더 민감하게 반영한다는 점을 이해해야, 같은 평균 오차처럼 보여도 왜 MSE가 다른 판단을 줄 수 있는지 읽을 수 있습니다. 또한 MSE를 이해해야 큰 실패를 특히 피하고 싶은 문제와 전반적으로 고르게 맞히고 싶은 문제에서 왜 같은 회귀라도 다른 오차 기준을 택할 수 있는지 구분하게 됩니다. 결국 MSE는 얼마나 자주 틀리는가보다 얼마나 크게 틀리는가에 더 민감한 기준이라는 점이 핵심입니다.
함께 볼 개념: 오차(error), 손실 함수(loss function), 평균(mean)
중심 Section: P2-6.2
등장 Section: P2-2.2, P2-6.2, P2-15.1, P5-4.2, P4-10.2
뜻: 여러 값을 더한 뒤 개수로 나눈 대표 중심값입니다. 개별 값이 제각각일 때도 전체가 대략 어느 수준에 모여 있는지 한 숫자로 압축해 보여 주는 가장 기본적인 요약치라고 볼 수 있습니다. 즉 평균은 여러 결과를 하나의 대표값으로 접어 비교하기 쉽게 만드는 가장 익숙한 중심 요약 방식입니다.
왜 중요한가: 데이터 묶음과 손실 값을 하나의 대표 숫자로 요약할 때 가장 자주 쓰이기 때문입니다. 이 개념이 있어야 배치 손실, 평균 제곱 오차, 평균 정확도처럼 여러 사례 결과를 왜 하나의 비교 가능한 숫자로 바꾸는지 자연스럽게 읽을 수 있습니다. 또한 평균은 중심을 보여 주지만 퍼짐과 이상치를 숨길 수도 있어, 대표값 하나만 보고 분포 전체를 다 안다고 착각하지 않게 만드는 출발점이기도 합니다. 결국 평균을 이해해야 대표 숫자 하나가 유용하면서도 불완전하다는 점을 함께 읽게 됩니다.
함께 볼 개념: 분포(distribution), 분산(variance), 이상값(outlier)
뜻: 모집단 가운데 실제로 관측하고 손에 넣은 일부 데이터입니다. 즉 현실 전체를 다 보지 못할 때, 그 전체를 대신해 현재 손에 쥔 관측 묶음이라고 볼 수 있습니다. 말하자면 표본은 현실 전체의 일부 조각이지만, 분석에서는 종종 그 전체를 대신해 해석되는 자료입니다.
왜 중요한가: 실제 분석과 모델 학습은 보통 현실 전체가 아니라 손에 들어온 일부 표본 위에서 이루어지므로, 지금 본 데이터가 전체를 얼마나 잘 대표하는지 항상 함께 따져야 하기 때문입니다. 이 개념이 있어야 데이터셋 점수와 실제 환경 성능을 같은 것으로 보지 않게 되고, 표본이 치우치면 추정과 일반화도 함께 흔들릴 수 있다는 점을 더 자연스럽게 이해하게 됩니다. 또한 표본을 이해해야 현재 가진 데이터에서 잘 된다와 현실 전체에서도 잘 된다 사이에 항상 대표성 점검이 하나 더 필요하다는 점도 분명해집니다.
함께 볼 개념: 모집단(population), 추정(estimation), 표본 편향(sampling bias)
뜻: 가능한 모든 결과를 모아 둔 전체 집합입니다. 동전 던지기라면 앞면과 뒷면 전체가 되고, 시험 점수 문제라면 나올 수 있는 모든 점수 범위가 이 틀에 해당합니다. 즉 표본공간은 무엇이 가능한 경우 전체인가를 정해 두는 확률 문제의 바깥 테두리입니다.
왜 중요한가: 사건과 결과를 어떤 전체 틀 안에서 볼지 먼저 정해야 확률 계산이 흔들리지 않기 때문입니다. 무엇을 가능한 전체 경우로 둘지 정하지 않으면, 어떤 일이 얼마나 자주 일어나는가도 일관되게 정의할 수 없습니다. 이 개념이 있어야 사건은 표본공간의 일부이고, 확률은 그 일부가 전체에서 차지하는 비중을 읽는 일이라는 구조가 더 선명해지고, 문제 정의를 바꾸면 표본공간도 함께 달라질 수 있다는 점도 자연스럽게 이해하게 됩니다. 결국 표본공간을 이해해야 확률은 낱개 결과만이 아니라 어떤 전체를 기준으로 보느냐에 따라 달라진다는 점을 읽게 됩니다.
함께 볼 개념: 결과(outcome), 확률 사건(event), 확률(probability)
뜻: 분산의 제곱근으로, 데이터가 평균 주변에서 얼마나 퍼져 있는지를 원래 데이터 단위에 더 가깝게 읽게 해 주는 값입니다. 키 데이터라면 cm, 점수 데이터라면 점수 단위 감각으로 다시 퍼짐을 해석하게 만드는 지표라고 볼 수 있습니다. 즉 평균에서 보통 얼마나 떨어져 있는가를 직관적으로 읽게 해 주는 퍼짐 요약값입니다.
왜 중요한가: 분산만으로는 제곱 단위가 되어 직관이 약해질 수 있습니다. 표준편차는 퍼짐을 원래 단위 감각으로 다시 보여 주기 때문에, 평균은 비슷한데 데이터 흩어짐은 다른 경우를 읽고 비교하는 데 더 직접적인 손잡이가 됩니다. 이 개념이 있어야 평균 하나만으로는 보이지 않는 변동성 차이를 함께 읽게 되고, 안정적인 집합과 불안정한 집합을 더 분명히 구분할 수 있습니다. 또한 표준편차를 이해해야 값이 큰가와 흔들림이 큰가를 다른 개념으로 읽게 되어, 평균 비교만으로는 놓치는 데이터 성격을 더 잘 붙잡게 됩니다.
함께 볼 개념: 분산(variance), 분포(distribution), 신뢰구간(confidence interval)
뜻: 모델이 입력을 더 유용한 내부 표현으로 바꾸는 방식을 데이터에서 함께 학습하는 접근입니다. 사람이 규칙과 특징을 미리 다 설계하기보다, 학습 과정에서 어떤 표현이 현재 과제에 도움이 되는지 모델이 스스로 찾아가게 하는 관점입니다. 즉 좋은 특징을 사람이 골라 준다보다 좋은 내부 좌표계를 모델이 데이터에서 배운다는 쪽에 더 가깝습니다. 다시 말해 표현 학습은 답만 맞히는 것이 아니라, 답을 더 쉽게 맞히게 하는 내부 표현까지 함께 만드는 학습입니다.
왜 중요한가: 사람이 특징을 직접 설계하는 흐름과 딥러닝의 차이를 이해하게 해 줍니다. 이 개념이 있어야 딥러닝의 강점이 단순히 층이 많다가 아니라, 과제에 맞는 내부 표현을 함께 만들어 간다는 데 있다는 점을 더 정확히 읽을 수 있습니다. 또한 같은 원본 데이터라도 어떤 표현이 학습되었는지에 따라 이후 분류기나 생성기가 다루는 문제 자체가 쉬워지거나 어려워질 수 있어, 성능 차이를 마지막 출력층만의 차이로 보지 않게 됩니다. 결국 표현 학습은 딥러닝이 왜 입력 전처리 도구가 아니라, 문제를 다시 보이게 만드는 표현 기계로 읽히는지 설명하는 핵심 관점입니다. 또한 표현 학습을 이해해야 좋은 모델이란 출력층이 강한 모델만이 아니라 중간 표현을 잘 만드는 모델일 수도 있다는 점을 함께 보게 됩니다.
함께 볼 개념: 딥러닝(deep learning), 특징(feature), 표현(representation)
중심 Section: P1-3.3
등장 Section: P1-2.3, P1-5.1, P1-9.1, P3-6.3, P5-2.2, P5-10.1, P5-10.2, P6-3.3
뜻: 입력을 모델이 다룰 수 있게 바꾼 내부 형태입니다. 원본 데이터 그 자체라기보다, 현재 문제에 유용한 차이와 관계가 더 잘 드러나도록 재구성된 계산용 모습이라고 볼 수 있습니다. 즉 표현은 세상을 그대로 복사한 모습보다 현재 과제를 위해 다시 정리된 내부 좌표계에 가깝습니다. 다시 말해 표현은 입력의 외형보다, 모델이 실제로 계산에 쓰기 좋게 바꾼 내부 버전입니다.
왜 중요한가: 딥러닝과 표현 학습을 이해하려면 사람이 읽는 입력과 모델이 계산하는 내부 형태를 구분해야 합니다. 특징이 입력 단서라는 말이라면 표현은 그 단서가 모델 안에서 어떤 구조로 다시 조직되었는가를 보여 주는 쪽에 더 가깝습니다. 또한 표현을 이해해야 같은 이미지, 같은 문장도 모델 안에서는 전혀 다른 계산 가능 형태로 바뀌어 다뤄진다는 점, 그리고 좋은 표현이 있으면 이후 분류나 생성 문제가 더 쉬워질 수 있다는 점도 함께 읽게 됩니다. 결국 표현을 이해해야 입력 자체가 중요하다와 입력을 어떤 내부 구조로 바꾸었는가가 중요하다를 분리해 보게 됩니다.
함께 볼 개념: 특징(feature), 벡터(vector), 임베딩(embedding), 표현 학습(representation learning)
뜻: 프롬프트 안에서 작업, 맥락, 예시, 제약, 출력 형식 같은 역할을 구분해 나눠 쓰는 방식입니다. 한 덩어리 문장으로 모두 밀어 넣기보다, 각 정보가 어떤 역할을 하는지 드러나게 배치하는 입력 설계라고 볼 수 있습니다. 즉 프롬프트 구조화는 문장을 예쁘게 다듬는 일보다, 입력 내부의 역할 경계를 보이게 만드는 설계에 더 가깝습니다.
왜 중요한가: 긴 요청에서 무엇이 지시이고 무엇이 참고 정보인지 분리해야 재현성과 검토성이 올라가고, 모델도 입력 역할을 더 안정적으로 해석할 가능성이 커집니다. 이 개념이 있어야 프롬프트 품질이 좋은 표현 한 줄의 문제가 아니라 역할이 보이게 구조를 나누는 문제라는 점을 이해할 수 있습니다. 또한 프롬프트 구조화를 이해해야 같은 내용을 담더라도 배치 순서와 역할 분리가 달라지면 결과 안정성이 달라질 수 있다는 점도 읽게 됩니다.
함께 볼 개념: 프롬프트(prompt), 입력 맥락(input context), 프롬프트 엔지니어링(prompt engineering)
뜻: 입력 지시, 맥락, 예시, 형식을 설계해 현재 모델 반응을 관찰하고 원하는 방향으로 더 안정적으로 조정하려는 실천적 작업입니다. 단순히 문장을 예쁘게 쓰는 일이 아니라, 실패 유형을 보고 입력 구조를 다시 설계하는 반복 실험에 가깝습니다. 즉 프롬프트 엔지니어링은 좋은 문장 감각보다 실패 원인을 보고 입력 조건을 체계적으로 바꾸는 실험 과정으로 보는 편이 더 정확합니다.
왜 중요한가: 모델 내부를 다시 학습시키지 않고도 가장 빠르게 실험하고 수정할 수 있는 첫 번째 실무 손잡이입니다. 동시에 이 개념이 있어야 프롬프트만으로 줄일 수 있는 문제와 검색, 도구 사용, 모델 교체가 필요한 문제를 구분하는 출발점을 잡을 수 있습니다. 또한 프롬프트 엔지니어링을 이해해야 결과가 좋아졌을 때 그것이 표현 수정 덕분인지, 예시 추가 덕분인지, 맥락 정리나 후보 평가 루프 덕분인지 분리해서 관찰하게 되고, 같은 실수를 반복하지 않는 입력 설계 지식도 축적하게 됩니다.
함께 볼 개념: 프롬프트(prompt), 프롬프트 구조화(prompt structuring), 지시 튜닝(instruction tuning)
뜻: 사용자 입력이나 외부 문서 안에 숨은 지시가 원래 시스템 지시를 흔들거나 우회해, 모델이나 AI 에이전트가 의도하지 않은 행동을 하게 만드는 공격입니다. 핵심은 문서 내용처럼 보이는 텍스트가 사실은 행동 규칙을 바꾸는 입력으로 작동할 수 있다는 점입니다. 즉 프롬프트 인젝션은 단순 장난 문구가 아니라, 명령과 자료의 경계를 무너뜨려 시스템 행동을 바꾸려는 입력 공격으로 읽어야 합니다.
왜 중요한가: 검색, 브라우징, 파일 읽기, 도구 사용이 붙은 AI 시스템에서는 외부 문서가 단순 참고자료가 아니라 실제 행동 결정 입력이 되기 쉬워, 숨은 지시 하나가 권한 남용과 정보 유출로 이어질 수 있기 때문입니다. 이 개념이 있어야 모델이 문서를 읽었다와 문서가 모델 행동을 바꿨다를 구분하게 되고, 보안 문제를 단순 품질 저하와 다른 층위의 위험으로 읽게 됩니다. 또한 프롬프트 인젝션을 이해해야 왜 최소 권한, 승인, 실행 범위 제한, 추적 기록이 함께 필요해지는지, 그리고 모델이 더 똑똑해지는 것만으로는 보안 문제가 자동으로 닫히지 않는다는 점도 더 분명하게 보게 됩니다.
함께 볼 개념: 보안(security), 최소 권한(least privilege), 도구 실행 권한(permission), 검색 증강 생성(retrieval-augmented generation, RAG), 에이전트 도구 사용(tool use)
뜻: 현재 응답을 만들기 위해 모델에 주는 입력 전체입니다. 한 줄 질문만이 아니라, 지시, 맥락, 예시, 제약, 출력 형식까지 포함한 현재 작업 조건 묶음으로 보는 편이 더 정확합니다. 즉 프롬프트는 질문 문장 하나보다, 이번 계산에서 모델이 어떤 역할과 자료와 형식을 참고해야 하는지 정해 주는 입력 설계물에 가깝습니다.
왜 중요한가: 사용자가 모델을 직접 다시 학습시키지 않고도, 지시와 맥락, 예시, 제약, 출력 형식을 입력으로 배치해 현재 출력 조건을 조정하는 기본 수단입니다. 이 개념이 있어야 모델 자체를 바꾸는 일과 현재 응답 조건을 바꾸는 일을 구분해 이해할 수 있습니다. 또한 프롬프트를 이해해야 같은 모델이라도 어떤 자료를 함께 넣고 어떤 형식을 요구하느냐에 따라 응답 방향이 크게 달라질 수 있다는 점, 그리고 그 변화가 곧 모델 내부 지식 갱신을 뜻하는 것은 아니라는 점도 분명해집니다.
함께 볼 개념: 프롬프트 구조화(prompt structuring), 입력 맥락(input context), 문맥 내 학습(in-context learning)
중심 Section: P1-12.1
등장 Section: P1-5.2, P1-12.1, P1-12.2, P1-12.3, P6-2.4, P6-10.1, P6-10.3, P7-5.1
뜻: 저작권 맥락에서 보호 대상이 될 수 있는 구체적 문장, 그림, 도표, 코드, 구성 같은 창작적 표현입니다. 여기서 표현(expression)은 프로그래밍의 식(expression)이나 모델 내부 표현(representation)이 아니라, 아이디어나 사실이 실제 저작물 형태로 드러난 결과를 뜻합니다.
왜 중요한가: 저작권은 일반적으로 주제나 아이디어 자체보다 구체적 표현을 중심으로 검토합니다. 이 개념을 구분해야 어떤 자료의 주제를 참고하는 일과 문장·도표·목차 배열을 가져오는 일을 같은 사용으로 보지 않게 됩니다.
함께 볼 개념: 저작권(copyright), 인용(quotation), 출처 표시(attribution)