Capacity 판별 — "모델 탓인가, 문제지 탓인가" (Δ_cap + RESET)

대질문: Stage 1이 0.79에 멈췄다 — 모델의 표현력 한계인가, 입력의 정보 한계인가? 같은 성능표를 두고 처방이 정반대로 갈리는 질문.

교과서: model misspecification과 검출기 RESET

Wooldridge 가정 체계의 MLR.1 = "모델 형태가 옳다". 선형 모델 + 비선형 데이터 = model misspecification. 표준 검출 도구가 Ramsey RESET — 적합값의 거듭제곱을 회귀에 추가:

$y = X\beta + \gamma_2 \hat{y}^2 + \gamma_3 \hat{y}^3 + u, \qquad H_0: \gamma_2 = \gamma_3 = 0$

$\hat{y}^k$ 가 유의 = "예측의 비선형 함수가 추가 설명력을 가짐" = 비선형 구조를 놓치고 있음. 한계: 존재 검출기일 뿐 — 그 비선형의 정체도, 현재 feature로 잡을 수 있는지도 말해주지 않는다.

실측: RESET p ≈ 0 — 비선형 존재. 그러나 이것만으론 처방 결정 불가.

자체 휴리스틱: Δ_cap — 계산기 교체 실험

(표준 출처 없음을 명시. 발상의 뿌리: bias-variance 프레임의 "misspecification vs information limit" 구분 + ablation 관행)

feature·split·전처리 고정, 모델만 표현력 스펙트럼의 양 끝으로 교체:

$\Delta_{cap} = \max(R^2_{RF},\ R^2_{HGB}) - R^2_{Linear} \qquad (\text{임계 } 0.01)$

파인만 비유 — 수학 시험 60점: 계산기 탓인지 문제지 탓인지, 최고급 계산기로 바꿔 다시 풀어본다. 90점으로 뛰면 계산기 탓(capacity), 여전히 60점이면 출제 범위 밖 문제는 어떤 계산기도 못 푼다(정보 한계).

전제: "표현력의 상한을 시험했다"는 보증 — 4 family(선형/kernel/bagging/boosting) 설계가 이를 보장. 약한 모델끼리면 Δ ≈ 0이 "둘 다 약해서"일 수 있다.

2×2 판별표와 실측

RESET	Δ_cap	해석
유의	큼	비선형이 있고 현재 feature로 잡힌다 → 비선형 모델 전환
유의	≈ 0	비선형이 있지만 어떤 모델도 못 잡는다 → 새 feature 필요 ⭐
비유의	≈ 0	선형으로 충분

실측: Linear 0.7906 → 비선형 최고(RF) 0.7917, Δ_cap = +0.0012 < 0.01 + RESET p≈0 → 둘째 행. 비선형성은 존재하나(정체 = 시간 패턴) OneHot뿐인 입력으론 어떤 표현력도 활용 불가 → Stage 2(feature 확장)가 유일한 길. 딥러닝 투입 같은 "모델 키우기" 헛수고를 구조적으로 배제한 한 줄의 비교.

사후 검증 — 판별 논리의 역방향 작동

Stage 2에서 같은 비교: Δ_cap = 0.9856 − 0.9681 = +0.0175. 시계열 feature가 생기자 비선형 우위가 비로소 나타남. Stage 1(+0.0012) 대비 메시지: 비선형성의 가치는 모델이 아니라 feature가 활성화한다 — "HGB 꼴찌 → best 역전"의 다른 단면이자, ④ 축 Q3 결론("용량이 아니라 정보")의 Stage 1 선행판. 같은 질문이 Stage 1과 3에서 다른 도구로 같은 답을 받았다.

history

Stage 1 결과 0.79 — 두 해석이 갈리고 처방이 정반대
RESET → p ≈ 0, 비선형 존재 확인 (정체·가용성은 미답)
Δ_cap 설계 — 동일 조건, 모델만 교체 (4 family = 상한 보증)
실측 +0.0012 < 0.01 → "문제지 탓" 판정 → Stage 2 직행
Stage 2에서 +0.0175 재측정 — 역방향 검증

예상 질문

"0.01 임계의 근거?" → 자체 휴리스틱(명시) — "1%p 미만은 split 미세 변동 수준". 실측 +0.0012가 임계의 1/8이라 민감도 낮고, Stage 2의 +0.0175(임계의 1.75배)가 변별력을 사후 입증.
"RESET이 유의한데 왜 비선형 모델이 못 잡나?" → 검출된 비선형의 정체가 시간 구조. 입력에 시간이 없으면(같은 입력 → 같은 출력) 어떤 모델도 접근 불가. "비선형이 있다"와 "현재 입력에서 표현 가능하다"는 다른 명제 — 그 간극이 Δ_cap이 재는 것.
"잔차 진단 종합검진과의 관계?" → Stage 1 잔차의 4종 검사: ACF 0.70(시간 몰림 중증) / Q-Q 정상(log 효과) / RESET 유의(휘어짐) / BP 유의(크기 쏠림) — 병명별 처방 중 1순위가 시간(Stage 2)이었고, Δ_cap이 그 우선순위를 "모델 교체로는 안 됨"으로 확정.

Capacity 판별 — 모델 탓인가 문제지 탓인가 (Δ_cap + RESET)