北京 - 寒武纪 - 大模型训练系统实习生

职位内推
1

北京 - 寒武纪 - 大模型训练系统实习生

岗位职责

  1. 框架优化：参与大模型训练框架的适配与开发，利用性能分析工具定位瓶颈，进行针对性的性能热点优化；

  2. 技术攻坚：追踪大模型领域前沿技术（如 Megatron-LM, Verl, Triton 等），调研社区最新性能优化方案并推动落地，解决训练过程中的显存墙、通信墙等瓶颈问题；

  3. 性能建模：负责模型训练的理论性能计算与预估，量化分析计算/通信开销占比，提出合理的架构调整或算子优化建议。

岗位要求

  1. 学历背景：硕士及以上学历在读，计算机、微电子、通信、自动化、应用数学、物理等相关专业，2027届毕业生；

  2. 框架基础：熟练使用 PyTorch，理解大模型（LLM）的主流训练方法（如 RL, Pre-training）及混合精度训练技巧；

  3. 编程能力：熟悉 Linux 开发环境，具备扎实的 C/C++ 与 Python 编程功底，代码风格规范；

  4. 综合素质：具备良好的逻辑思维与抗压能力，善于团队协作，拥有强烈的技术好奇心和自驱力；

  5. 至少实习6个月，每周出勤4天及以上。

拥有以下经验者优先：

  1. 实战经验：有大模型分布式训练（Verl/Fsdp2/Megatron-LM）或 AI 框架底层开发经验者优先；
  2. 性能调优：熟练使用 Nsight Systems、DLProf 或 Torch Profiler 等性能分析工具，有实际调优案例者优先；

薪资范围

工作地点及福利

投递方式