学习资源

教材与官方资源

📘 nndl.ai 教材官网邱锡鹏《神经网络与深度学习》官方网站：在线阅读、课件、勘误与最新动态。📕 第二版电子书 PDF2026 年第二版，新增大语言模型与智能体、图神经网络等内容，章节顺序有调整。📗 第一版电子书 PDF与本站课件和讲义的章节编号一致（2020 年版）。🧑‍💻 nndl-practice 实践教程官方配套的动手实践：用代码实现书中的模型与算法，原“习题”仓库已迁移至此。🗂️ nndl/nndl 仓库教材源文件与历史版本，可以 Star 关注更新。🐞 勘误与讨论发现教材错误或有疑问，可以在 GitHub Issues 中反馈与检索。

版本说明

本站课件按教材第一版的 15 章组织。nndl.ai 目前提供的是第二版，章节编号有所不同，各章讲义末尾的“延伸阅读”都注明了第二版中对应的章节，章节总览也有完整对照。

本站课件下载

每章课件都可以在章节页面在线浏览，也可以下载 PDF（由原始 PPTX 课件转换）。

章	课件	章	课件
1 绪论	PDF	9 无监督学习	PDF
2 机器学习概述	PDF	10 模型独立的学习方式	PDF
3 线性模型	PDF	11 概率图模型	PDF
4 前馈神经网络	PDF	12 深度信念网络	PDF
5 卷积神经网络	PDF	13 深度生成模型	PDF
6 循环神经网络	PDF	14 深度强化学习	PDF
7 网络优化与正则化	PDF	15 序列生成模型	PDF
8 注意力机制与外部记忆	PDF

推荐公开课

课程	讲者 / 机构	特点
CS231n: Deep Learning for Computer Vision	Stanford	卷积网络与视觉，作业质量很高
CS224n: NLP with Deep Learning	Stanford	词向量、RNN、Transformer 与预训练模型
MIT 6.S191: Introduction to Deep Learning	MIT	入门友好，每年更新
机器学习 / 深度学习课程	李宏毅（台湾大学）	中文授课，生动易懂
动手学深度学习	李沐等	可运行的中文教材与视频，PyTorch 实现

参考书

• Goodfellow I, Bengio Y, Courville A. Deep Learning. MIT Press, 2016.（在线阅读）
• Bishop C M. Pattern Recognition and Machine Learning. Springer, 2006.（第 11 章概率图模型的重要参考）
• 周志华.《机器学习》. 清华大学出版社, 2016.
• 李航.《统计学习方法》（第 2 版）. 清华大学出版社, 2019.
• Sutton R S, Barto A G. Reinforcement Learning: An Introduction (2nd ed.). MIT Press, 2018.（在线阅读）
• 张奇, 桂韬, 郑锐, 黄萱菁.《大规模语言模型：从理论到实践》. 电子工业出版社, 2024.

框架与工具

• PyTorch：本课程实践推荐框架；官方教程。
• TensorFlow Playground：在浏览器中直观观察网络结构、正则化对决策边界的影响（第 7 章课件中的示例）。
• Gymnasium：强化学习环境（第 14 章）。
• Hugging Face Transformers：预训练模型库（第 8、15 章）。
• 本站交互演示：激活函数、优化器、卷积。

各章经典论文

章	论文
4	Rumelhart D E, Hinton G E, Williams R J. Learning representations by back-propagating errors. Nature, 1986.
5	Krizhevsky A, et al. ImageNet classification with deep convolutional neural networks. NeurIPS, 2012；He K, et al. Deep residual learning for image recognition. CVPR, 2016.
6	Hochreiter S, Schmidhuber J. Long short-term memory. Neural Computation, 1997.
7	Kingma D P, Ba J. Adam. ICLR, 2015；Ioffe S, Szegedy C. Batch normalization. ICML, 2015；Srivastava N, et al. Dropout. JMLR, 2014.
8	Bahdanau D, et al. Neural machine translation by jointly learning to align and translate. ICLR, 2015；Vaswani A, et al. Attention is all you need. NeurIPS, 2017.
9	Vincent P, et al. Extracting and composing robust features with denoising autoencoders. ICML, 2008.
10	Finn C, et al. Model-agnostic meta-learning. ICML, 2017.
12	Hinton G E, et al. A fast learning algorithm for deep belief nets. Neural Computation, 2006.
13	Kingma D P, Welling M. Auto-encoding variational Bayes. ICLR, 2014；Goodfellow I, et al. Generative adversarial nets. NeurIPS, 2014；Arjovsky M, et al. Wasserstein GAN. ICML, 2017.
14	Mnih V, et al. Human-level control through deep reinforcement learning. Nature, 2015；Silver D, et al. Mastering the game of Go. Nature, 2016.
15	Bengio Y, et al. A neural probabilistic language model. JMLR, 2003；Sutskever I, et al. Sequence to sequence learning with neural networks. NeurIPS, 2014.