這是一門免費課程,幫助學習者從數學和 Python 基礎出發,逐步學會構建、訓練和部署大語言模型。課程分為三部分:可選的基礎知識、面向模型構建的 LLM Scientist,以及面向應用開發與部署的 LLM Engineer。
Scientist 部分涵蓋模型架構、預訓練、監督微調、偏好對齊、評估和量化。Engineer 部分涵蓋模型執行、向量儲存、檢索增強生成、智慧體、推理最佳化、部署和安全。各主題連結到 Colab 筆記本和作者撰寫的文章,倉庫還列出了評估、模型合併等工具類筆記本。
這是一門免費課程,幫助學習者從數學和 Python 基礎出發,逐步學會構建、訓練和部署大語言模型。課程分為三部分:可選的基礎知識、面向模型構建的 LLM Scientist,以及面向應用開發與部署的 LLM Engineer。
Scientist 部分涵蓋模型架構、預訓練、監督微調、偏好對齊、評估和量化。Engineer 部分涵蓋模型執行、向量儲存、檢索增強生成、智慧體、推理最佳化、部署和安全。各主題連結到 Colab 筆記本和作者撰寫的文章,倉庫還列出了評估、模型合併等工具類筆記本。