P3-6.3 사람이 만든 특징과 모델이 학습하는 표현은 어떻게 구분되는가¶

Section ID: P3-6.3 Version: v2026.09.19

수작업 특징을 만들지 않고 원시 측정의 순서를 보존해 모델에 줄 수도 있습니다. 반드시 정해야 하는 것은 무엇을 한 샘플로 보고, 어느 시점까지의 어떤 자료로 무엇을 판단할지입니다. 입력 경계를 정하는 일은 필요하지만, 평균·기울기·토큰을 모두 만드는 것은 선택입니다.

같은 원시값에서 두 입력 경로가 갈린다¶

자체 가상 사례로 완료된 동작 한 번의 센서 관측 네 개가 [1, 3, 3, 1]이라고 하겠습니다. 일정 간격으로 측정했고, 동작 종료 시점에 이 네 값으로 이후 점검 필요 여부를 예측한다고 정합니다. 두 경로는 같은 자료와 같은 예측 시점을 사용합니다.

구분	요약 특징을 주는 경로	순서를 보존한 값을 주는 경로
사람이 정한 입력	평균 2, 마지막−처음 0	[1, 3, 3, 1]의 순서와 측정 간격
모델에 남는 정보	전체 수준과 양 끝 차이	가운데에서 높아지는 위치별 값
학습의 예	주어진 두 특징과 결과의 관계를 학습	시퀀스를 처리하는 신경망이 위치 간 패턴을 구별하는 내부 값을 학습
사람이 추가로 정할 것	요약 규칙·단위·결측 처리	길이·순서·간격·결측 처리와 입력 형식

두 번째 경로에서 평균이나 토큰을 먼저 계산할 필요는 없습니다. 그렇다고 파일을 아무 형식으로 넣어도 되는 것은 아닙니다. 값의 단위와 순서, 유효한 관측 범위를 정하고 모델이 받는 배열 형식으로 준비해야 합니다. 두 경로를 결합해 시퀀스와 요약 특징을 함께 주는 설계도 가능합니다.

[3, 1, 1, 3]도 평균은 2, 마지막−처음은 0입니다. 선택한 두 요약 특징만 받는 모델은 두 동작을 입력으로 구별할 수 없습니다. 순서를 보존한 입력은 서로 다르므로 구별할 정보가 남지만, 모델이 실제로 유용하게 학습할지는 자료·학습 목표·모델에 따라 확인해야 합니다. 입력에 정보가 있다는 것과 성능이 좋다는 것은 다른 판단입니다.

사람이 정한 계산과 학습된 계산을 구별한다¶

평균 공식이나 UP/FLAT/DOWN의 고정 경계는 사람이 명시한 규칙입니다. 반면 표현 학습에서는 학습 과정이 조정하는 매개변수로 입력을 다른 내부 값으로 바꿉니다. 사람은 학습 목표와 모델 구조 등을 정하지만, 각 내부 값에 반드시 “후반 하강” 같은 이름을 직접 붙이지는 않습니다. 학습된 값의 의미가 사람이 만든 특징처럼 바로 해석된다는 보장도 없습니다.

모든 모델이 새로운 내부 표현을 학습하는 것은 아닙니다. 주어진 특징으로 결과와의 관계를 학습하는 모델도 있습니다. 또 내부 표현을 학습하는 모델에 수작업 특징을 넣는 것도 가능합니다. 따라서 입력을 누가 요약했는지와 모델이 무엇을 학습하는지는 별도로 봅니다.

앞 절의 “중간 표현”은 사람이 규칙을 정한 세그먼트·토큰을 가리켰습니다. 다른 문맥에서는 신경망 안의 학습된 값도 중간 표현이라 부릅니다. 같은 이름이라도 고정 규칙으로 만든 입력인지, 학습으로 조정된 내부 값인지를 확인해야 합니다. 내부 표현을 학습하는 구체 원리는 뒤의 딥러닝 Part에서 다룹니다.

이미지와 문서도 입력 경계가 필요하다¶

자료	사람이 정해야 할 경계의 예	가능한 입력 경로
센서 동작	완료 동작인지 현재까지의 30초인지, 어떤 센서인지	요약 특징 또는 순서 있는 측정값
이미지	사진 한 장인지 잘라 낸 영역인지, 촬영 시점과 대상은 무엇인지	색상 요약 또는 준비된 픽셀 배열
문서	문서 한 건인지 문단인지, 어느 버전까지 읽는지	단어 수 요약 또는 순서를 가진 텍스트 토큰

문서의 텍스트 토큰은 모델 입력을 위한 언어 처리 단위이며, 앞 절의 기울기 토큰과 같은 규칙은 아닙니다. 어떤 경로에서도 예측 시점 뒤에 생긴 결과를 입력에 섞어서는 안 됩니다. 모델이 내부 표현을 학습한다고 해서 누락된 기록이나 입력 전에 버린 세부를 원래 사실대로 복원할 수 있는 것도 아닙니다.

두 경로에서 사람이 맡는 판단¶

flowchart TD
    Q["문제·샘플·예측 시점·입력 범위"] --> R["같은 원시 측정"]
    R --> A["요약 특징 선택"]
    A --> B["주어진 특징과 결과의 관계 학습"]
    R --> C["순서 있는 값 준비"]
    C --> D["신경망 내부 표현 학습"]

“딥러닝을 쓰려면 평균을 만들고, 그것을 토큰으로 바꾼 뒤 신경망에 넣어야 한다”를 고쳐 보세요. 답은 “샘플과 예측 시점·입력 범위를 먼저 정한 뒤, 요약 특징·순서 있는 원시값·필요한 토큰 가운데 목적에 맞는 입력을 고른다”입니다. 수작업 요약을 생략해도 입력 명세는 생략할 수 없습니다.

두 배열을 평균 2 하나로 줄였다면 더 큰 신경망이 원래 순서를 알아낼 수 있을까요? 주어진 입력만으로는 어느 배열이었는지 결정할 수 없습니다. 필요한 순서 정보는 입력을 설계할 때 보존해야 합니다.

체크리스트¶

필수 입력 경계와 선택적인 수작업 요약을 구분하는가?
같은 원시값을 두 입력 경로로 표현하고 각 경로에서 잃는 정보를 설명하는가?
고정 계산 규칙과 학습된 내부 계산을 구분하는가?
이미지 한 장과 문서 한 건에서도 입력 범위를 정할 수 있는가?

출처와 참고 자료¶

Google for Developers, Machine Learning Glossary. feature·feature engineering·representation의 용어 정의를 참고했습니다. 두 배열과 입력 경로는 자체 설명 사례입니다. / 2026-09-19