想让大模型从云端走向真实设备吗？
万象智维 OmniMind 正在北京招募 「端侧推理方向研发实习生」！
我们 依托清华大学 OmniLab 团队孵化成立，专注于端侧 AI 基础设施研发。现招聘端侧推理研发实习生，参与大语言模型、多模态模型在手机、PC 及边缘设备上的部署与优化，让大模型在真实设备上跑得更快、更稳、更省内存。我们期待与对模型部署、系统优化和性能极致探索感兴趣的你，一起推动下一代端侧智能落地。
工作内容
- 模型部署与适配：在 PC、开发板、算力盒子、国产芯片、手机等设备上部署大语言模型和多模态模型，解决模型兼容、运行稳定性等问题。
- 推理性能分析与优化：围绕推理延迟、吞吐量、内存占用和算力利用率开展测试，定位性能瓶颈并验证优化效果。
- 模型量化与压缩：探索低比特量化等技术，评估模型效果与资源开销，在设备约束下提升推理效率。
- 推理框架与运行时开发：参与端侧推理框架、算子及运行时系统的开发与优化，推进 CPU、GPU、NPU 等异构硬件适配。
我们可以提供
- 真实设备与算力资源：接触各类 PC、开发板、算力盒子、国产芯片、手机，结合 A40、RTX 3090 多卡服务器开展模型准备、实验与验证。
- 完整的端侧推理实践：从模型部署、量化评测，到性能分析、算子与运行时优化，参与实际产品中的技术问题解决。
- 科研与产业化结合的机会：与清华大学计算机系科研及产业化团队协作，有机会参与论文和相关研究工作，并获得推荐信支持。
- 有竞争力的实习回报：实习薪资最高可达 800 元/天，另有项目奖金及优秀实习生留用机会。
我们希望你
- 计算机、软件工程、电子信息、人工智能等相关专业，本科高年级、硕士或博士在读。
- 熟悉 C/C++、Python，具备良好的编程基础、代码阅读和工程实践能力。
- 了解大模型推理的基本流程，对模型量化、性能优化或异构计算感兴趣。
- 具备较强的学习能力和动手能力，愿意结合代码、日志与测试结果深入分析问题。
有以下经验者优先
- 使用或参与开发过 llama.cpp、vllm、SGLang 等推理框架。
- 有边缘设备/服务器上的大模型部署与适配经验。
- 有模型量化、算子加速、性能分析或内存优化相关项目经验。
工作要求
- 工作地点：北京
- 到岗时间：每周 5 天
- 实习周期：至少 6 个月
- 实习薪资：300-800/天
- 投递截止：长期有效