我们提供最专业、最前沿的AI基础设施培训
所有课程基于真实项目案例,注重实际操作能力培养
讲师均来自一线科技公司,拥有丰富实战经验
从基础到高级,构建完整的AI基础设施知识体系
提供职业规划和就业指导,助力学员职业发展
.png)
先进编译实验室 - AI基础设施培训的领军力量
在人工智能的浪潮中,先进编译实验室致力于构建从顶层智能应用到底层计算核心的完整技术栈。我们不仅深入大模型训练、微调与推理的全流程,更着力攻坚其赖以生存的底层基石——深度学习编译器与性能算子开发。
通过与中国顶尖科研力量的深度协作,我们将前沿研究与大工程经验沉淀为独特的课程体系。学员不仅能掌握大模型的核心技术,更能深入理解如何通过编译优化与算子创新,极致释放AI硬件的澎湃算力。
我们旨在培养既精通算法又深谙底层性能的架构型人才,为国家在AI基础设施领域的自主创新与突破贡献核心力量。
与国内顶尖科研机构和企业建立深度合作关系
以教授为领军,博士和研发工程师为主要力量的强大教学团队
AI项目负责人;先进编译实验室培训部部长;先进编译实验室资深研发工程师,硕士;研究方向为大模型微调、大模型推理部署优化;具有丰富的大模型微调、推理部署以及程序优化经验;
AI项目核心成员;先进编译实验室资深研发工程师,硕士;研究方向为大模型训练、大规模并行程序开发;具有丰富的大模型训练、推理以及算子优化经验;
AI项目负责人;先进编译实验室高性能计算部部长;先进编译实验室资深研发工程师,硕士;研究方向为大模型应用、大模型算子优化;具有丰富的大模型应用以及程序优化经验;
AI项目负责人;先进编译实验室微调配部部长;先进编译实验室资深研发工程师,硕士;研究方向为大模型训练、大模型微调及大模型推理部署;具有丰富的大模型训练、微调、推理部署经验;
AI项目核心成员;先进编译实验室高级研发工程师,硕士;研究方向为大模型训练、大规模并行程序开发;具有丰富的大模型训练、推理以及算子优化经验;《高性能优化技术与方法》作者;
AI项目核心成员;先进编译实验室高级研发工程师,博士;研究方向为大模型训练、大模型推理、编译器优化;具有丰富的大模型训练、推理以及编译器优化经验;
AI项目核心成员;先进编译实验室高级研发工程师,硕士;研究方向为大模型训练、大模型推理;具有丰富的大模型训练以及程序优化经验;
AI项目核心成员;先进编译实验室研发工程师,硕士;研究方向为大模型训练、大模型推理优化;具有丰富的大模型训练、推理优化经验;《远程学习指南》作者;
在大模型应用日益广泛的今天,如何让训练模型快速适应垂直领域成为了技术落地的关键挑战之一。全量微调虽然效果好,但计算成本高、存储开销大,不适合在任务场景切换的场景。
在大语言模型(LLM)的实际应用中,如何高效地进行推理部署是每个开发者都关心的问题。vLLM作为一款高性能的LLM推理和服务引擎,针对不同的应用场景和需求,提供了两种核心推理模式:离线批量推理和在线服务。
在《大模型推理优化与部署实战》系列教程中,我们已经了解了vLLM的基本原理和核心优势。今天,我们将进入实战环节的第一站——环境配置与安装。这是使用vLLM推理引擎的基础,也是开启大语言模型高效推理的关键一步。
听听我们的学员怎么说
立即报名,开启您的职业新篇章