LLMs-from-scratch——Implementing a ChatGPT-like LLM in PyTorch from scratch, step by step

这本 24.1K Star 的开源 LLM 教程/书籍也太好了！🤯

一边书籍已经被知名的 Manning 出版社出版，一边还在持续的跟进业界进展并加入到书籍中，最近又更新了如何《从 0 开始学习 LLM 对齐》的 DPO 课程！

现在就可以学习！😆

Build a Large Language Model (From Scratch)
https://github.com/rasbt/LLMs-from-scratch

https://github.com/rasbt/LLMs-from-scratch/blob/main/ch07/04_preference-tuning-with-dpo/dpo-from-scratch.ipynb