主题
课程大纲与学习路线
《深度学习》课程以邱锡鹏《神经网络与深度学习》为教材，配合本站的 15 章课件和讲义，系统介绍深度学习的基础理论、典型模型与前沿方法。下面的安排供教学和自学参考，任课教师可按学时调整。
课程目标
完成本课程后，学生应能够：
- 理解机器学习的基本概念（模型、学习准则、优化算法），掌握线性模型；
- 掌握前馈网络、卷积网络、循环网络、注意力与 Transformer 等基础模型的原理，能推导反向传播；
- 掌握网络优化与正则化的常用技巧，能独立训练和调试深度模型；
- 了解概率图模型、深度生成模型、深度强化学习和序列生成模型等进阶内容；
- 能用 PyTorch 等框架实现常见模型，并阅读相关领域的论文。
先修知识
| 领域 | 需要掌握的内容 | 参考 |
|---|---|---|
| 线性代数 | 向量、矩阵运算，特征值与特征向量，矩阵求导 | 教材附录 A、B |
| 微积分 | 偏导数、链式法则、梯度 | 教材附录 B |
| 概率统计 | 条件概率、贝叶斯公式、期望与方差、常见分布、最大似然 | 教材附录 D |
| 优化 | 凸函数、梯度下降、拉格朗日乘数法 | 教材附录 C |
| 编程 | Python、NumPy；PyTorch 基础 | nndl-practice |
学习路线
flowchart TB
A["① 机器学习基础<br/>1 绪论 → 2 机器学习概述 → 3 线性模型"] --> B["4 前馈神经网络"]
B --> C5["5 卷积神经网络"]
B --> C6["6 循环神经网络"]
B --> C7["7 网络优化与正则化"]
B --> C9["9 无监督学习"]
B --> C10["10 模型独立的学习方式"]
C6 --> C8["8 注意力机制与外部记忆"]
C8 --> C15["15 序列生成模型"]
C7 --> C14["14 深度强化学习"]
C9 --> C11["11 概率图模型"]
C11 --> C12["12 深度信念网络"]
C11 --> C13["13 深度生成模型"]
classDef p1 fill:#e0e7ff,stroke:#4f46e5,color:#1e1b4b
classDef p2 fill:#ede9fe,stroke:#7c3aed,color:#2e1065
classDef p3 fill:#fce7f3,stroke:#db2777,color:#500724
class A p1
class B,C5,C6,C7,C8,C9,C10 p2
class C11,C12,C13,C14,C15 p3
蓝色：第一部分 · 机器学习基础；紫色：第二部分 · 基础模型；粉色：第三部分 · 进阶模型。
- 核心路线（必修）：第 1–8 章。这是理解现代深度学习（包括大模型）所需的最小知识集合。
- 概率路线：第 9 → 11 → 12 → 13 章，适合对生成模型、贝叶斯方法感兴趣的同学。
- 应用路线：第 8 → 15 章（NLP / 大模型），第 7 → 14 章（强化学习 / 决策）。
教学进度（16 周参考）
| 周次 | 内容 | 章节 | 建议学时 | 实践 / 作业 |
|---|---|---|---|---|
| 第 1 周 | 绪论：AI、表示学习、深度学习发展史 | 第 1 章 | 2 | 环境配置，PyTorch 入门 |
| 第 2 周 | 机器学习三要素、线性回归、偏差-方差 | 第 2 章 | 3 | 线性回归（手写梯度下降） |
| 第 3 周 | Logistic / Softmax 回归、感知器、SVM | 第 3 章 | 3 | Softmax 分类 |
| 第 4 周 | 前馈网络、反向传播、自动微分 | 第 4 章 | 3 | 手写 MLP 与反向传播 |
| 第 5 周 | 卷积网络（一）：卷积、汇聚、LeNet | 第 5 章 | 3 | — |
| 第 6 周 | 卷积网络（二）：AlexNet、Inception、ResNet | 第 5 章 | 2 | CNN 图像分类（作业 1） |
| 第 7 周 | 循环网络、BPTT、LSTM / GRU、图网络 | 第 6 章 | 3 | 字符级语言模型 |
| 第 8 周 | 网络优化：优化算法、初始化、归一化 | 第 7 章 | 3 | 优化器对比实验 |
| 第 9 周 | 正则化；期中复习 | 第 7 章 | 2 | 期中测验 |
| 第 10 周 | 注意力机制、自注意力、Transformer、外部记忆 | 第 8 章 | 3 | Transformer 翻译 / 分类（作业 2） |
| 第 11 周 | 无监督学习；模型独立的学习方式 | 第 9 章、第 10 章 | 3 | 自编码器 / 迁移学习 |
| 第 12 周 | 概率图模型：表示、学习（EM） | 第 11 章 | 3 | GMM 与 EM |
| 第 13 周 | 概率图模型：推断与采样；深度信念网络 | 第 11 章、第 12 章 | 3 | RBM（选做） |
| 第 14 周 | 深度生成模型：VAE、GAN | 第 13 章 | 3 | VAE / DCGAN（作业 3） |
| 第 15 周 | 深度强化学习：值函数、DQN、策略梯度 | 第 14 章 | 3 | CartPole DQN |
| 第 16 周 | 序列生成模型；课程总结 | 第 15 章 | 3 | 课程项目展示 |
学时较少（如 32 学时）时，可以略去第 10、12 章，并把第 11 章压缩为 EM 与采样两个专题；学时较多时，可以增加一周的大模型专题（参见第二版第 13 章）。
考核方式（模板）
| 项目 | 占比 | 说明 |
|---|---|---|
| 平时作业 | 30% | 3 次编程作业 + 每章思考题 |
| 期中测验 | 15% | 第 1–7 章 |
| 课程项目 | 25% | 2–3 人一组，选题、报告与展示 |
| 期末考试 | 30% | 闭卷，覆盖全部必修内容 |
以上安排供参考，具体以任课教师（北京师范大学 唐志清）课堂通知为准。