- 01_main-chapter-code 包含了主章节的代码
- 02_alternative_weight_loading 包含了从其他地方加载GPT模型权重的代码,以防止OpenAI服务器上模型权重不可用
- 03_bonus_pretraining_on_gutenberg 包含了对古腾堡语料库(gutenberg)进行长期预训练的代码
- 04_learning_rate_schedulers 包含了实现了更复杂的训练函数,包括学习率调度器和梯度裁剪的代码
- 05_bonus_hparam_tuning 包含了超参数调优脚本