P7-2.2 회고와 다음 질문 만들기¶

# scikit-learn 1-NN 모델에서 정규화 전후의 최근접 샘플과 예측 변화를 비교하는 예제입니다.
import csv
from pathlib import Path

import numpy as np
from sklearn.neighbors import KNeighborsClassifier
from sklearn.pipeline import Pipeline
from sklearn.preprocessing import StandardScaler

data_path = Path("docs/assets/part-07/chapter-02/p7-2-churn-dataset.csv")
rows = list(csv.DictReader(data_path.open(encoding="utf-8")))

for row in rows:
    row["미해결 문의 수"] = int(row["unresolved_tickets"])
    row["최근 접속 후 경과 일수"] = int(row["days_since_login"])
    row["최근 30일 사용 시간"] = int(row["usage_minutes_30d"])
    row["정답"] = int(row["label"])
    row["샘플"] = row["sample_id"]

train_rows = [row for row in rows if row["split"] == "train"]
test_rows = [row for row in rows if row["split"] == "test"]

feature_columns = ["미해결 문의 수", "최근 접속 후 경과 일수", "최근 30일 사용 시간"]

X_train = np.array([
    [row[column] for column in feature_columns]
    for row in train_rows
], dtype=float)
y_train = np.array([row["정답"] for row in train_rows])

X_test = np.array([
    [row[column] for column in feature_columns]
    for row in test_rows
], dtype=float)
y_test = np.array([row["정답"] for row in test_rows])

raw_model = KNeighborsClassifier(n_neighbors=1)
raw_model.fit(X_train, y_train)

# 조작 변수: StandardScaler를 다른 전처리기로 바꾸면 최근접 이웃 선택이 어떻게 달라지는지 비교할 수 있습니다.
scaled_model = Pipeline([
    ("scaler", StandardScaler()),
    ("knn", KNeighborsClassifier(n_neighbors=1)),
])
scaled_model.fit(X_train, y_train)

raw_knn_pred = raw_model.predict(X_test)
raw_neighbor_indices = raw_model.kneighbors(X_test, return_distance=False).ravel()
raw_nearest_ids = [train_rows[index]["샘플"] for index in raw_neighbor_indices]

scaled_knn_pred = scaled_model.predict(X_test)
scaled_test = scaled_model.named_steps["scaler"].transform(X_test)
scaled_neighbor_indices = scaled_model.named_steps["knn"].kneighbors(
    scaled_test,
    return_distance=False,
).ravel()
scaled_nearest_ids = [train_rows[index]["샘플"] for index in scaled_neighbor_indices]

train_mean = scaled_model.named_steps["scaler"].mean_
train_std = scaled_model.named_steps["scaler"].scale_

comparison_rows = []
for index, row in enumerate(test_rows):
    comparison_rows.append({
        "평가 샘플": row["샘플"],
        "실제 정답": row["정답"],
        "정규화 전 예측": int(raw_knn_pred[index]),
        "정규화 후 예측": int(scaled_knn_pred[index]),
        "정규화 전 정답 여부": "예" if raw_knn_pred[index] == y_test[index] else "아니오",
        "정규화 후 정답 여부": "예" if scaled_knn_pred[index] == y_test[index] else "아니오",
        "예측 변화 여부": "예" if raw_knn_pred[index] != scaled_knn_pred[index] else "아니오",
        "정규화 전 최근접 학습 샘플": raw_nearest_ids[index],
        "정규화 후 최근접 학습 샘플": scaled_nearest_ids[index],
    })

project_comparison = {
    "정규화 전 정확도": round(float((raw_knn_pred == y_test).mean()), 3),
    "정규화 후 정확도": round(float((scaled_knn_pred == y_test).mean()), 3),
    "예측 변화 샘플 수": sum(row["예측 변화 여부"] == "예" for row in comparison_rows),
    "정규화 전 실패 샘플": [
        row["평가 샘플"] for row in comparison_rows if row["정규화 전 정답 여부"] == "아니오"
    ],
    "정규화 후 실패 샘플": [
        row["평가 샘플"] for row in comparison_rows if row["정규화 후 정답 여부"] == "아니오"
    ],
}

print("학습 평균 =", np.round(train_mean, 2).tolist())
print("학습 표준편차 =", np.round(train_std, 2).tolist())
print("비교 요약 =", project_comparison)
print("읽은 파일 =", str(data_path))
print("샘플별 비교 =")
for row in comparison_rows:
    print(row)

학습 평균 = [3.83, 12.83, 3158.33]
학습 표준편차 = [2.34, 8.52, 570.76]
비교 요약 = {'정규화 전 정확도': 0.667, '정규화 후 정확도': 1.0, '예측 변화 샘플 수': 2, '정규화 전 실패 샘플': ['평가-02', '평가-04'], '정규화 후 실패 샘플': []}
읽은 파일 = docs/assets/part-07/chapter-02/p7-2-churn-dataset.csv
샘플별 비교 =
{'평가 샘플': '평가-01', '실제 정답': 0, '정규화 전 예측': 0, '정규화 후 예측': 0, '정규화 전 정답 여부': '예', '정규화 후 정답 여부': '예', '예측 변화 여부': '아니오', '정규화 전 최근접 학습 샘플': '학습-03', '정규화 후 최근접 학습 샘플': '학습-03'}
{'평가 샘플': '평가-02', '실제 정답': 1, '정규화 전 예측': 0, '정규화 후 예측': 1, '정규화 전 정답 여부': '아니오', '정규화 후 정답 여부': '예', '예측 변화 여부': '예', '정규화 전 최근접 학습 샘플': '학습-02', '정규화 후 최근접 학습 샘플': '학습-08'}
{'평가 샘플': '평가-03', '실제 정답': 1, '정규화 전 예측': 1, '정규화 후 예측': 1, '정규화 전 정답 여부': '예', '정규화 후 정답 여부': '예', '예측 변화 여부': '아니오', '정규화 전 최근접 학습 샘플': '학습-09', '정규화 후 최근접 학습 샘플': '학습-09'}
{'평가 샘플': '평가-04', '실제 정답': 0, '정규화 전 예측': 1, '정규화 후 예측': 0, '정규화 전 정답 여부': '아니오', '정규화 후 정답 여부': '예', '예측 변화 여부': '예', '정규화 전 최근접 학습 샘플': '학습-11', '정규화 후 최근접 학습 샘플': '학습-04'}
{'평가 샘플': '평가-05', '실제 정답': 1, '정규화 전 예측': 1, '정규화 후 예측': 1, '정규화 전 정답 여부': '예', '정규화 후 정답 여부': '예', '예측 변화 여부': '아니오', '정규화 전 최근접 학습 샘플': '학습-11', '정규화 후 최근접 학습 샘플': '학습-11'}
{'평가 샘플': '평가-06', '실제 정답': 0, '정규화 전 예측': 0, '정규화 후 예측': 0, '정규화 전 정답 여부': '예', '정규화 후 정답 여부': '예', '예측 변화 여부': '아니오', '정규화 전 최근접 학습 샘플': '학습-05', '정규화 후 최근접 학습 샘플': '학습-06'}

비교 기준:
정규화 전 결과:
정규화 후 결과:
예측이 바뀐 샘플:
최근접 이웃 변화:
개선으로 볼 근거:
아직 단정하지 않을 한계:
다음 반복 질문: