开源推荐 morning

GitHub 热门项目: happy-llm

2026-07-10 1 阅读约6分钟阅读 GitHub Trending

字号:

GitHub 项目：happy-llm 仓库地址：https://github.com/datawhalechina/happy-llm 星级：31933 | 作者：数据鲸中国项目描述：📚从零开始构建大模型 =================================================== 自述文件内容：

快乐法学硕士

[中文](./README.md) | [英文](./README_en.md)

📚在线阅读地址

📚从零开始构建大模型

深入理解LLM核心原理，能够实现你的第一个大模型

--- ## 🎯 项目介绍 > *很多小伙伴在欣赏Datawhale开源项目：[self-llm开源大模型种植指南](https://github.com/datawhalechina/self-llm)后，感觉犹未尽，想要深入了解大语言模型的原理和过程。于是我们（Datawhale）推出《Happy-LLM》项目，旨在帮助大家决定深入理解大语言模型的原理和过程训练。* 本项目是一个**系统性的 LLM 学习教程**，将从 NLP 的基本研究方法出发，根据 LLM 的思路及原理逐层深入，依次为读者剖析 LLM 的架构基础和训练过程。同时，我们会结合目前 LLM 领域最主流的代码框架，演练如何亲手搭建、训练一个 LLM，期以实现授之以鱼，更授之以渔。希望大家能从这本书开始走入 LLM 的浩瀚世界，探索 LLM 的无尽可能。 ### ✨ 你将收获什么？ - 📚 **Datawhale 开源免费** 完全免费的学习本项目所有内容 - 🔍 **深入理解** Transformer 架构和注意力机制 - 📚 **掌握** 预训练语言模型的基本原理 - 🧠 **了解** 现有大模型的基本结构 - 🏗️ **动手实现** 一个完整的 LLaMA2 模型 - ⚙️ **掌握训练** 从预训练到微调的全流程 - 🚀 **实战应用** RAG、Agent 等前沿技术 ## 📖 内容导航 | 章节 | 关键内容 | 状态 | | --- | --- | --- | | [学习与环境准备](./docs/学习与环境准备.md) | 分章依赖、硬件建议与实践入口 | ✅ | | [前言](./docs/前言.md) | 本项目的缘起、背景及读者建议 | ✅ | | [第一章 NLP 基础概念](./docs/chapter1/第一章%20NLP基础概念.md) | 什么是 NLP、发展历程、任务分类、文本表示演进 | ✅ | | [第二章 Transformer 架构](./docs/chapter2/第二章%20Transformer架构.md) | 注意力机制、Encoder-Decoder、手把手搭建 Transformer | ✅ | | [第三章预训练语言模型](./docs/chapter3/第三章%20预训练语言模型.md) | Encoder-only、Encoder-Decoder、Decoder-Only 模型对比 | ✅ | | [第四章大语言模型](./docs/chapter4/第四章%20大语言模型.md) | LLM 定义、训练策略、涌现能力分析 | ✅ | | [第五章动手搭建大模型](./docs/chapter5/第五章%20动手搭建大模型.md) | 实现 LLaMA2、训练 Tokenizer、预训练小型 LLM | ✅ | | [第六章大模型训练实践](./docs/chapter6/第六章%20大模型训练流程实践.md) | 预训练、有监督微调、LoRA/QLoRA 高效微调 | ✅ | | [第七章大模型应用](./docs/chapter7/第七章%20大模型应用.md) | 模型评测、RAG 检索增强、Agent 智能体 | ✅ | | [Extra Chapter LLM Blog](./Extra-Chapter/) | 优秀的大模型学习笔记/Blog ，欢迎大家来 PR ！| 🚧 | > 第六章正文已覆盖 Pretrain、SFT 与 PEFT 等核心训练流程，建议结合 [第六章实践说明](./docs/chapter6/readme.md) 和 [学习与环境准备](./docs/学习与环境准备.md) 一起阅读；偏好对齐可继续参考 [第六章补充专题](./doc

分享文章：

这篇文章对您有帮助吗？

订阅66必读

每日精选科技资讯，直达你的邮箱

← 返回开源推荐