AI Infra 学习手册
从 Python、大模型原理、CUDA 到推理系统，一条线学到大模型推理岗
十五本互相衔接的手册，共 327 章，配有自测题、可运行的代码、练习与参考答案
知识库
十五本手册，外加面试题库、练习题、学习路线图与求职冲刺计划
Python 进阶手册
写给有基础的人：从“能写出来”到写得地道、写得稳
C++ 进阶手册
面向 AI Infra 的现代 C++：读懂推理基础库，写出正确、高效、经得起 sanitizer 检查的系统代码
计算机基础手册
推理工程师需要的操作系统、体系结构、网络、分布式与算法，每一章都从推理系统里的真实现象讲起
数学基础手册
读模型和推理系统时用到的数学，单独成书、用到再查：每个结论都在真实的 Qwen3-0.6B 上测量
大模型原理手册
推理优化的前置知识：从语言模型、Transformer 一路讲到推理服务
PyTorch 速成
八章把 PyTorch 用熟：张量与形状、autograd、模型与训练循环、调试与提速
CUDA 进阶手册
从 GPU 架构到手写高性能算子，面向 AI Infra 与推理优化岗位
从零训练一个小模型
在自己的电脑上从一个空目录开始，训出一个会写《三国演义》的小语言模型
分布式训练手册
推理岗也要懂的训练侧并行：从显存账本出发，把 DDP、ZeRO、张量 / 流水线 / 上下文 / 专家并行逐个从零实现，并与单卡逐项对齐
推理系统手册
从零写一个推理引擎，读懂 vLLM 与 SGLang，掌握分布式推理与性能工程
手写 Transformer
从一个 main.py 开始，一章一个文件，把 Qwen3.5 的混合架构手写出来，每一步都和 Hugging Face 对答案
手写 mini-sglang
从 126 行的最小引擎开始，按官方的模块划分一章一个文件地搭成完整的推理引擎，每一步都能跑，输出与 HF 逐 token 对齐
图像与视频生成推理
扩散 / 流匹配模型的推理与服务：pipeline 解剖、算力与显存账、少步、缓存、量化、多卡并行、视频推理与生成服务的调度
SGLang 设计演进
把 19000 多个提交当一手史料：每个设计在什么问题下、由哪个提交引入、替换了什么、后来怎么演变；从论文和初始提交一路读到今天
SGLang-Omni 源码导读
全模态、TTS、ASR 模型的多阶段推理运行时：Coordinator、Stage 与调度器、怎么嵌入 SGLang、stage 之间怎么搬数据；精读 Qwen3-TTS、Qwen3-Omni 与 Rust router，最后落到自己找问题、提 MR
推理岗面试题库
85 道高频题的答题要点、手撕代码、10 道系统设计的完整参考答案和 4 套模拟面试卷；大模型与 CUDA 各有专门的题库
练习题
十五本手册配套的 292 道编程题：在浏览器里写代码、一键判题；CUDA 题用 GPU 模拟器检查合并访存和 bank conflict，也能在 macOS、WSL2 上本地判题
Playground
不绑定题目，在浏览器里直接写 Python、马上运行：numpy、matplotlib，还有 CUDA 模拟器和 Triton 模拟器；带代码补全，代码能用链接分享
学习卡
从十五本手册各章的自测题、练习和面试题库里抽出的 2183 张学习卡：按间隔重复安排复习，答不上来的明天再见；可以按手册筛选，也能导出到 Anki
学习路线图
把十五本手册的 327 章按 17 周排好（与冲刺计划逐周对应）：必学、推荐、选学一目了然，按框架、优化、平台方向标出重点，还能记录进度
17 周冲刺计划
面向推理系统岗的求职计划：能力模型、三类岗位的侧重、逐周学习与练习、前沿专题、作品与开源贡献、系统设计和面试节奏
学习顺序
每一站都为下一站打基础，手册之间有交叉链接；最后用面试题库和作品集收尾
Python 进阶
把语言用熟：数据模型、类型、测试、并发与性能分析
大模型原理
弄懂模型在算什么，以及每项推理优化作用在哪一步
从零训练一个小模型
在自己的电脑上把语料、分词器、模型和训练循环亲手走一遍
CUDA 进阶
让 GPU 算得快：内存层次、经典算子、FlashAttention
C++ 进阶
RAII、内存池、内存序、无锁队列：读懂并写出推理基础库的 C++
推理系统
从零写推理引擎，读懂 vLLM / SGLang，分布式与性能工程
分布式训练
DDP、ZeRO、TP / PP / CP / EP 与 RL 训练系统：训练侧的并行和推理侧一一对应
手写 mini-sglang
把所有概念落到一个完整的代码库上，做成作品集
计算机基础
操作系统、体系结构、网络与算法：学到哪一站需要就补哪一章，面试前集中复习