书目详细信息
： 大模型轻量化:模型压缩与训练加速
书目信息 机读格式(MARC)
| ISBN/价格： | 978-7-302-68600-2:CNY129.00 |
|---|---|
| 作品语种： | chi |
| 出版国别： | CN 110000 |
| 题名责任者项： | 大模型轻量化/.梁志远著 |
| 出版发行项： | 北京:,清华大学出版社:,2025 |
| 载体形态项： | 384页:;+图:;+24cm |
| 提要文摘： | 本书分为三部分共10章, 首先聚焦大模型的背景与面临的问题, 讲解了Transformer和MoE架构的基本原理; 随后重点讲解模型压缩、训练加速和推理优化等核心技术, 包括量化、蒸馏和剪枝等, 并通过实际案例验证其效用; 后续则详述端侧学习与计算引擎优化策略, 尤其是动态Batch和异构执行的工程实现。最后针对高性能算子库与手工算子开发, 分别以cuDNN、NEON、CUDA等实际案例为导向, 揭示算子优化的细节; 结尾以最新的国产开源模型DeepSeek-V3为例, 展现从训练到推理的综合优化方案。 |
| 题名主题： | 人工智能 |
| 中图分类： | TP18 |
| 个人名称等同： | 梁志远 著 |
| 记录来源： | CN CYX 20260323 |