万象智维 OmniMind 正在北京招募「云侧 Infra 研发实习生」！
我们依托清华大学 OmniLab 团队孵化成立，围绕大模型部署与推理优化开展基础设施研发。你将参与大语言模型、多模态模型在 GPU 及异构算力平台上的适配与服务优化，从推理框架到算子和请求调度，提升模型服务的吞吐量、响应速度与资源利用率。
工作内容
- 模型部署与框架适配：基于 vLLM、SGLang、TensorRT-LLM 等框架部署模型，参与新模型及 GPU、NPU 等算力平台的适配。
- 推理服务优化：围绕请求调度、连续批处理与 KV Cache 管理开展优化，平衡首 token 延迟、生成速度、并发吞吐与显存开销。
- 低精度与算子优化：参与 FP8、INT8、INT4 等低精度方案及算子优化，评估模型精度、计算效率与显存占用。
- 性能分析与稳定性建设：结合 Profiling、日志与负载测试定位计算、通信及调度瓶颈，解决模型服务的性能与稳定性问题。
我们可以提供
- 真实算力与业务场景：使用 GPU 服务器开展模型部署、性能分析与推理优化，让代码和方案进入实际服务。
- 完整的云侧 Infra 实践：深入推理框架、低精度计算、算子优化与服务调度，积累从模型适配到上线运行的工程经验。
- 科研与产业化结合的机会：与清华大学计算机系科研及产业化团队协作，有机会参与论文和相关研究工作，并获得推荐信支持。
- 有竞争力的实习回报：实习薪资最高可达 800 元/天，另有项目奖金及优秀实习生留用机会。
我们希望你
- 计算机、软件工程、电子信息、人工智能等相关专业，本科高年级、硕士或博士在读。
- 熟悉 Python，具备 C/C++ 基础，能够阅读框架代码并完成调试与开发。
- 了解 PyTorch、Transformer 及大模型推理流程，理解计算、显存与数据传输对性能的影响。
- 能结合代码、性能数据和实验结果分析问题，对高性能计算与大模型系统优化有兴趣。
有以下经验者优先
- 使用或参与开发过 vLLM、SGLang、TensorRT-LLM 等推理框架，有模型部署或服务优化经验。
- 有 CUDA、Triton 或 NPU 算子开发经验，能利用性能分析工具定位瓶颈。
- 有模型量化、投机解码、多 GPU 并行、计算通信优化相关项目或开源贡献经验。
工作要求
- 工作地点：北京
- 到岗时间：每周 5 天
- 实习周期：至少 6 个月
- 实习薪资：300–800 元/天
- 投递截止：长期有效