我读过的 AI 书和课程:一句话结论清单
不写长评,只写三件事:讲了什么、适合谁、我读到哪。避免后来的人踩我踩过的"选错入门材料"。
入门这一年多,材料选错了几次,浪费的时间不比学成的少。这份清单按"我实际用完的程度"排序,每条三行:讲什么、适合谁、我读到哪。
一、书
《动手学深度学习》(Dive into Deep Learning,d2l.ai) 讲什么:从线性回归一路到 Transformer,每节配可运行代码。 适合谁:想真正理解而不是只会调包的人。数学门槛不高,但要求你肯一行行跑。 我读到哪:前 10 章细读并跑完代码,Transformer 那章反复看了三遍,后面 NLP 部分当参考书查。 一句话:如果只推荐一本入门,我推这本。免费、中文、代码能跑,这三点同时满足的不多。
《统计学习方法》(李航) 讲什么:SVM、决策树、HMM、EM、提升方法等经典模型的数学推导。 适合谁:想补"深度学习之前机器学习在干什么"的人。 我读到哪:支持向量机和 EM 两章精读,其余查阅。 注意:它不讲神经网络。我一开始指望用它入门深度学习,方向错了,白啃两周。
《大规模语言模型:从理论到实践》 讲什么:预训练、对齐、量化、评测、推理加速的体系化整理。 适合谁:已经会调包、想搞清训练与部署全流程的人。 我读到哪:训练与评测部分精读,量化章节配合实际部署反复对照。 一句话:作为"把散落知识串成一条线"的书很好,作为第一本入门会偏难。
《深度学习》(花书) 讲什么:数学基础、经典模型、优化。 适合谁:当字典用。 我读到哪:只精读了线性代数和概率两章。 注意:我最初拿它入门,这是这份清单里最浪费时间的一个决定。它不是教材,是参考书。
二、课程与视频
3Blue1Brown 的神经网络系列 讲什么:反向传播、梯度、注意力的几何直觉,全程动画。 适合谁:所有人,尤其是被公式劝退的人。 时长:每集十几分钟,一个下午刷完。 一句话:它不能替你学会任何能写代码的东西,但它建立的直觉后面很难被替换掉。
Andrej Karpathy 的 "Let's build GPT / Zero to Hero" 系列 讲什么:从零手写一个 GPT,tokenizer、attention、训练循环全部自己实现。 适合谁:会 Python、想彻底搞懂 Transformer 的人。 我读到哪:跟完到能独立默写一个最小 GPT(不算调优部分)。 一句话:这个系列是我从"知道"到"明白"的分界点,代价是最花时间的一个,我大概花了三个周末。
Hugging Face LLM Course 讲什么:transformers 生态实操——分词器、微调、数据集、部署。 适合谁:准备动手做具体任务的人。 我读到哪:前 7 节做完,后面按需。 一句话:偏实操手册,配合项目读效果最好,纯刷课容易忘。
CS231n / CS229(公开课) 讲什么:计算机视觉与经典机器学习。 适合谁:想系统性补基础、时间充裕的人。 我读到哪:只挑了相关讲座看,没跟完作业。 诚实说明:没跟完作业我就不宣称"学过",这里只算"看过部分内容"。
三、论文(我重读过两次以上的)
| 论文 | 为什么值得读原文 |
|---|---|
| Attention Is All You Need | 架构原文比任何二手解读都准确,图要自己画一遍 |
| GPT-3: Language Models are Few-Shot Learners | "上下文学习"这个能力到底指什么,读实验部分最清楚 |
| InstructGPT | 理解对齐流程(SFT → 奖励模型 → PPO)的最短路径 |
| Chinchilla | 纠正"参数量越大越好"的直觉,算力分配比规模重要 |
| LLaMA 系列技术报告 | 数据配比、量化与部署的工程细节比论文正文更有价值 |
| LoRA | 低秩适配的数学形式很短,读懂之后再看各家微调教程会快很多 |
读法上我吃过一个亏:一开始试图每篇从头读到尾。后来改成先读摘要和图 → 再读方法与实验设置 → 只在需要复现时读附录,效率差别很大。二手解读不是不能看,但它替你做的简化,恰好通常是关键处。
四、我的一点点方法
- 一次只跟一条主线。同时开三门课的结果是三门都停在第一章。
- 读完必须留下能跑的东西。跟完一个章节不写代码,两周后归零。我现在的规矩是每读一节就提交一份可运行笔记。
- 建一份"我还没搞懂"的清单。它比进度更能说明学到哪了。我这份清单目前还有三十多条,最靠前的三个:长上下文的注意力实际行为、约束解码的实现细节、多模态对齐训练的数据构造。
- 允许跳过。花书我跳过了大半,没有任何损失,因为它对我当前的问题没有答案。
内容标识:本文为本人阅读记录,逐条结论由我自己写;书目信息以出版社与开课方页面为准。
本文出处:http://honeysss.cn/post/books-and-courses.html 转载请注明出处。