解码大模型：原理与实战

本书基于作者在美国硅谷的企业级应用项目及培训经验，面向有Python基础的大模型相关从业者与学习者，重点介绍企业级大模型应用开发、大模型微调技术，可作高等院校教材与自学读物。

本书是一本面向开发人员的大模型及生成式AI实战指南，基于作者在美国硅谷企业级应用项目经验及企业培训经验编著而成。本书重点介绍企业级大模型应用开发、模型调优及部署运维等技能。全书共10章，内容涵盖生成式AI概述、大模型提示词深度解析、LangGraph+CrewAI案例、生成式AI应用开发项目实战、大模型指令微调与PEFT技术、RLHF与DPO模型对齐、大模型应用开发案例实战、为何Sora是通往AGI道路的里程碑、解码Sora架构原理、Sora关键技术解密等，书中的每个知识点都有相应的实现代码和实例。随书附赠源码，获取方式见封底。
本书的核心读者是有Python基础的大模型爱好者，主要面向广大从事大模型应用开发、机器学习、数据挖掘或深度学习的专业人员，相关专业的在校师生及相关领域的科研人员。

前言
第1章 生成式AI概述/
1.1生成式AI主线及落脚点/
1.1.1生成式AI开发流程/
1.1.2生成式AI关键要素/
1.2生成式AI的深度探索/
1.2.1生成式AI提示词七大关键/
1.2.2生成式AI参照物的解析/
1.2.3生成式AI核心组件的剖析/
1.2.4生成式AI工程实践的全生命周期管理/
1.2.5生成式AI核心内容的解读/
第2章 大模型提示词深度解析/
2.1生成式AI的文本、符号和模式/
2.1.1提示词中的符号提取/
2.1.2提示词中的模式提取/
2.1.3文本处理和提取技术/
2.2思维链推理剖析/
2.3思维链提示实战/
2.4ReAct技术原理/
第3章 LangGraph+CrewAI案例/
3.1生成式AI自动回复邮件项目简介/
3.2生成式AI自动回复邮件项目代码架构/
3.3LangGraph构建循环图/
3.3.1图代码解析/
3.3.2边代码解析/
3.3.3节点代码解析/
3.4CrewAI构建分布式对话机器人/
3.4.1EmailFilterCrew代码解析/
3.4.2EmailFilterAgents代码解析/
3.4.3CreateDraftTool代码解析/
3.4.4EmailFilterTasks代码解析/
3.4.5EmailsState代码解析/
第4章 生成式AI应用开发项目实战/
4.1生成式AI应用开发/
4.1.1生成式AI应用开发简介/
4.1.2生成式AI框架LangChain/
4.1.3生成式AI智能体架构/
4.1.4生成式AI增强检索RAG/
4.2生成式AI在教育领域的应用/
4.2.1生成式AI教育系统代码目录架构/
4.2.2生成式AI教育系统代码详细解析/
4.3基于生成式AI的托福辅导案例详解/
第5章 大模型指令微调与PEFT技术/
5.1生成式AI指令微调原理和方法/
5.1.1生成式AI指令微调简介/
5.1.2指令微调代码解析/
5.1.3指令微调在LLaMA 3中的应用/
5.2PEFT与红队工程应用/
5.2.1PEFT高效微调简介/
5.2.2PEFT原理解密/
5.2.3红队工程及安全/
5.2.4红队工程代码解析/
5.2.5宪法AI开发应用/
第6章 RLHF与DPO模型对齐/
6.1大模型微调概述与实践案例/
6.1.1大模型微调简介/
6.1.2指令微调解析/
6.1.3指令微调数据集转换/
6.1.4基于AWS微调 LLaMA实战/
6.2KL散度解析/
6.2.1KL散度简介/
6.2.2KL散度与大模型幻觉/
6.2.3KL散度数学原理解析/
6.3基于人类反馈强化学习（RLHF）解析/
6.3.1GPT模型训练流程/
6.3.2RLHF解析/
6.3.3RLHF代码解析/
6.3.4RLHF全流程指南/
6.3.5RLHF目标函数解析/
6.3.6RLHF项目实战/
6.4直接偏好优化算法（DPO）解析/
6.4.1DPO算法解析/
6.4.2DPO代码解析/
6.4.3DPO项目案例实战/
6.4.4KTO算法解析/
6.4.5REFT算法解析/
第7章 大模型应用开发案例实战/
7.1基于思维链提示的内隐情感分析/
7.1.1系统概述/
7.1.2相关工作/
7.1.3SAoT框架/
7.1.4案例实践/
7.1.5结论及致谢/
7.2基于大语言模型的数学推理多工具集成应用/
7.2.1系统概述/
7.2.2相关工作/
7.2.3技术方案/
7.2.4案例实践/
7.2.5结论及展望/
第8章 为何Sora是通往AGI道路的里程碑/
8.1从大语言模型(LLM)到大视觉模型(LVM)的关键转变/
8.1.1LLM和LVM之间的关系及转变的意义/
8.1.2揭示LVM在实现通用人工智能(AGI)中的作用/
8.2Visual Data和Text Data的成功融合案例/
8.3Sora如何依据文本指令生成具有三维一致性的视频内容/
8.4解析Sora根据图像或视频生成高保真内容的技术路径/
8.4.1Sora的推理流程/
8.4.2Sora的训练流程/
8.5探讨Sora在不同应用场景中的实践价值及其面临的挑战/
8.5.1Sora在不同应用场景中的实践价值/
8.5.2Sora面临的挑战/
第9章 解码Sora架构原理/
9.1Sora技术演进路径及能力根源/
9.1.1Sora与神经网络原理解析/
9.1.2Sora与扩散Transformers抽象/
9.2DiT是如何帮助Sora实现一致、逼真、富有想象力的视频内容的/
9.3为何选用Transformer作为Diffusion的核心网络/
9.3.1稳定扩散模型解析/
9.3.2CLIP模型解析/
9.3.3Sora使用Transformer代替U-Net/
9.3.4扩散模型加噪去噪流程解析/
9.4DiT的Patchification原理及流程/
9.5Conditional Diffusion过程及其在内容生成过程中的作用/
9.5.1视频与文本指令对齐/
9.5.2RoPE位置编码解析/
第10章 Sora关键技术解密/
10.1Sora如何利用Transformer和Diffusion技术理解物体间的互动/
10.1.1Transformer加法操作解密/
10.1.2Transformer通信通道本质解析/
10.2为何时空块是Sora技术的核心/
10.2.1Transformer嵌入式向量解密/
10.2.2Transformer注意力作用解析/
10.3时空潜在块详解/
10.3.1Sora双核驱动机制解密/
10.3.2Sora是一个相互作用的网络/
参考文献/