跳到主要内容

第 2 章 统计学习

对应原书 Chapter 2: Statistical Learning。

本章定位​

本章是全书的概念地基，回答“我们到底在学习什么”“怎样评估模型好坏”“为什么训练表现好不等于未来表现好”。

阅读前问题​

  • 为什么要估计 ff？
  • 参数方法和非参数方法各有什么代价？
  • 为什么模型可解释性和预测精度经常存在张力？
  • 偏差-方差权衡如何解释过拟合？

章节骨架​

  • 什么是统计学习
  • 为什么估计 ff
  • 如何估计 ff
  • 预测精度与模型可解释性的权衡
  • 监督学习与无监督学习
  • 回归问题与分类问题
  • 模型准确性评估
  • Python 入门实验

核心概念​

  • Y=f(X)+ϵY = f(X) + \epsilon
  • 可约误差与不可约误差
  • 参数模型与非参数模型
  • 训练误差与测试误差
  • 偏差、方差、过拟合
  • 分类误差率与贝叶斯分类器

公式与推导​

重点补充：

  • 均方误差 MSE
  • 训练误差与测试误差
  • 偏差-方差分解
  • 分类误差率
  • 贝叶斯错误率

图表与直觉​

图片放在：

assets/images/ch02/

建议补充：

  • 模型灵活度与误差的关系图
  • 偏差-方差权衡示意图
  • 可解释性与预测精度坐标图

Python 实验​

记录 Python 基础、NumPy、绘图、数据加载和索引。

习题与思考​

  • 为什么测试误差通常先下降后上升？
  • 举例说明一个可解释性比预测精度更重要的场景。
  • 举例说明一个预测精度比可解释性更重要的场景。

与前后章节联系​

本章提供所有后续模型的评价标准。第 3 章开始进入第一个具体监督学习模型：线性回归。

待补充​

  • 补全偏差-方差分解推导。
  • 整理 Python 入门 Lab 的关键代码。
  • 补一张概念关系图。