跳到主要内容

第 10 章 深度学习

对应原书 Chapter 10: Deep Learning。

本章定位​

本章介绍神经网络和深度学习的基本思想，重点关注多层网络、卷积神经网络、文本分类和循环神经网络。

阅读前问题​

  • 神经网络相对线性模型多了什么表达能力？
  • 激活函数为什么重要？
  • CNN 为什么适合图像？
  • RNN 为什么适合序列？
  • 深度学习的优势和风险分别是什么？

章节骨架​

  • 单层神经网络
  • 多层神经网络
  • 卷积神经网络
  • 文档分类
  • 循环神经网络
  • 深度学习实验

核心概念​

  • 神经元
  • 权重与偏置
  • 激活函数
  • 隐藏层
  • 反向传播
  • 卷积层
  • 池化层
  • 词嵌入
  • 序列模型
  • 过拟合与正则化

公式与推导​

重点补充：

  • 单层网络表示
  • 多层网络函数复合
  • 卷积操作直觉
  • 损失函数与优化目标

图表与直觉​

图片放在：

assets/images/ch10/

建议补充：

  • 单层神经网络结构图
  • 多层神经网络结构图
  • CNN 卷积与池化示意图
  • RNN 序列展开图

Python 实验​

记录：

  • 神经网络分类或回归
  • CNN 图像任务
  • 文档分类
  • RNN 序列任务
  • 训练过程中的损失与准确率曲线

习题与思考​

  • 深度学习为什么通常需要更多数据？
  • 深度模型的可解释性问题在哪里？
  • 如何判断一个任务是否值得使用深度学习？

与前后章节联系​

本章是监督学习模型复杂度的高峰。第 11 章将转向特殊输出形式：生存时间和删失数据。

待补充​

  • 整理常见层类型。
  • 补充训练过程中的过拟合识别方法。
  • 复现实验并保存训练曲线。