통계 · ML · 수학 도서 로드맵

전체 지도를 한눈에 보면 이렇게 생겼다.

Level 0  직관          Naked Statistics, Think Stats
Level 1  통계 기초      Statistics(Freedman), ISLP, Think Stats
Level 2  ML 실용        Hands-On ML, FPP3, A Course in ML
Level 3  수학 기반      Blitzstein, Strang, Wasserman, MML
Level 4  깊이/참조      ESL, PRML(Bishop), Probabilistic ML(Murphy)
수학 심화              Convex Opt, Information Theory, Real Analysis

Level 0 — 직관 (수식 없음)

Naked Statistics (Charles Wheelan)

• 수식 없이 통계적 사고의 감각만 잡는 책. 읽기 편한 입문서.
• 추천 이유: 공부 시작 전 or 지치면 읽는 용도

Level 1 — 통계 기초

Think Stats (Allen Downey) — 무료 온라인

• 다루는 수학: 확률분포, PDF/CDF, 상관관계, 가설검정, 회귀
• 특징: Python 코드로 분포를 직접 만들면서 수식과 연결. "수식을 코드로 번역"하는 방식.
• 추천 이유: 지금 Python 익숙한 상태에서 통계 직관 잡기 최적. 여기서 시작 권장.

Statistics (Freedman, Pisani, Purves)

• 다루는 수학: 기술통계, 확률, 기댓값, 표준오차, 검정
• 특징: 수식보다 개념 중심. "이 숫자가 무엇을 의미하는가"를 끊임없이 질문하는 방식.
• 추천 이유: 통계적 사고 자체를 기르는 데 가장 좋다고 꼽히는 교재

An Introduction to Statistical Learning with Python (ISLP) — 무료 PDF

• 다루는 수학: 회귀, 분류, 리샘플링, 선형 모델 선택/정규화, 트리, SVM, 딥러닝, 비지도학습
• 특징: 수식과 직관의 균형이 좋음. sklearn 모델들의 통계적 배경이 여기 있음. 챕터별 Python 실습 포함.
• 링크: https://www.statlearning.com / PDF: https://hastie.su.domains/ISLP/ISLP_website.pdf.download.html
• 추천 이유: Géron(실용) + Bishop(이론) 사이의 가교. 통계 기반 쌓은 후 바로 이걸 읽으면 sklearn 모델이 재해석됨.

Level 2 — ML 실용

Hands-On Machine Learning with Scikit-Learn, Keras & TensorFlow (Aurélien Géron) — 수업 main

• 다루는 수학: 최소한의 수식, 직관과 코드 중심
• 특징: sklearn → TensorFlow 순서로 실습 위주. 문제 유형별 모델 선택 기준 잘 정리.
• 추천 이유: 수업 따라가면서 전체 모델 지형도 잡기

A Course in Machine Learning (Hal Daume III) — 무료 온라인

• 다루는 수학: 수식 + 직관 균형. Bishop보다 접근하기 쉬움.
• 특징: ML 알고리즘을 수식으로 유도하되 설명이 친절함. Bishop 전 준비 단계로 좋음.
• 링크: http://ciml.info

Forecasting: Principles and Practice, 3rd ed (FPP3) (Hyndman & Athanasopoulos) — 무료 온라인

• 다루는 수학: 시계열 분해, 지수평활, ARIMA, 예측 구간, 교차 검증
• 특징: 시계열 특화. 이번 프로젝트(계절성, Time Series CV, 예측 구간)의 이론적 배경 전부 여기 있음.
• 링크: https://otexts.com/fpp3

Level 3 — 수학 기반

Introduction to Probability (Blitzstein & Hwang) — 무료 강의

• 다루는 수학: 확률공간, 조건부 확률, 베이즈 정리, 확률변수, 기댓값/분산, 정규/포아송/베타/감마 분포, 중심극한정리, MLE 기초
• 특징: Harvard Stat110 강의 교재. 수식 엄밀 + 스토리텔링 방식. 유튜브 강의 무료 공개.
• ML 연결: Naive Bayes, MLE, 베이지안 추론의 수학적 기반
• 추천 이유: 확률론의 표준 입문서. Bishop 읽기 전 필수.

Introduction to Linear Algebra (Gilbert Strang) — 무료 강의

• 다루는 수학: 벡터 공간, 행렬 연산, 선형변환, 고유값/고유벡터, SVD, 최소제곱법
• 특징: MIT 18.06 강의 교재. 기하학적 직관과 수식을 함께 설명. 유튜브 강의 무료 공개.
• ML 연결: Linear Regression 정규방정식, PCA, 행렬 분해 기반 모델 전부

All of Statistics (Larry Wasserman) — 무료 PDF

• 다루는 수학: 점추정, 신뢰구간, 가설검정, MLE, 베이즈 추정, 회귀, 분류, 비모수 통계
• 특징: 통계와 ML을 연결하는 가교. 수식 중심이지만 ML 응용까지 다룸.
• ML 연결: sklearn 모델들의 통계적 기반 전체

Mathematics for Machine Learning (MML) (Deisenroth, Faisal, Ong) — 무료 PDF

• 다루는 수학: 선형대수, 해석기하학, 행렬 분해, 확률론, 연속최적화
• 특징: 이미 공부 중. ML 알고리즘을 수학적으로 유도하는 구조.
• ML 연결: PCA, 선형회귀, SVM, 가우시안 프로세스의 수학적 유도

Level 4 — 깊이 / 참조

The Elements of Statistical Learning (ESL) (Hastie, Tibshirani, Friedman) — 무료 PDF

• 다루는 수학: 회귀, 분류, 커널 방법, 앙상블, 고차원 통계
• 특징: 통계학 관점에서 ML 알고리즘 서술. 수식이 많고 깊이 있음. ISLP의 상위 버전.
• 추천 이유: sklearn 각 모델이 통계학에서 어떻게 유도되는지 알고 싶을 때

Pattern Recognition and Machine Learning (PRML) (Christopher M. Bishop) — 수업 supplementary

• 다루는 수학: 베이즈 정리, MLE/MAP, 가우시안 분포, 선형 모델, 커널 방법, 그래픽 모델, EM 알고리즘
• 특징: 베이지안 관점에서 ML 전체를 수학적으로 서술. 수식 매우 엄밀.
• 추천 이유: Gaussian NB 등 확률론 기반 모델의 수학적 기원이 여기 있음. 확률론 기초 후 읽을 것.

Probabilistic Machine Learning (Kevin Murphy) — 수업 reference

• 특징: PRML보다 더 최신, 더 방대. 깊이 있는 레퍼런스 용도.

수학 심화 (필요할 때 참조)

Convex Optimization (Boyd & Vandenberghe) — 무료 PDF

• 다루는 수학: 볼록 집합/함수, 라그랑지안, KKT 조건, 경사하강법, 쌍대 이론
• ML 연결: 모든 최적화 기반 모델(SVM, 경사하강법, 정규화)의 수학적 기반
• 링크: https://web.stanford.edu/~boyd/cvxbook/

Information Theory, Inference, and Learning Algorithms (David MacKay) — 무료 PDF

• 다루는 수학: 엔트로피, KL-divergence, 베이즈 추론, 신경망
• ML 연결: Cross Entropy 손실함수, KL-divergence, VAE의 수학적 기반

Understanding Analysis (Stephen Abbott)

• 다루는 수학: 실수 체계, 수열, 연속성, 미분, 급수
• 추천 이유: 선형대수/확률론의 더 깊은 수학적 기반이 필요할 때. 해석학 입문서 중 가장 읽기 쉬움.

전체 권장 진행 순서

① Think Stats            → 통계 직관 + Python 연결
② ISLP                   → 통계 × ML 가교, sklearn 재해석
③ Géron (수업 병행)       → 모델 전체 그림 + 실습
④ FPP3 (시계열 필요 시)   → 계절성, 예측 구간
⑤ Blitzstein             → 확률론 수식 기반
⑥ Strang                 → 선형대수 수식 기반
⑦ Daume III              → ML 수식 유도 입문
⑧ Bishop (PRML)          → 수식 기반 ML 재해석 (수업 supplementary)
⑨ ESL / Murphy           → 깊이 있는 참조
⑩ Boyd / MacKay          → 최적화 / 정보이론 심화 (필요 시)