最近我们组在招 GPU Model Optimization 实习生,如果你对 LLM、GPU、CUDA、AI Infra 感兴趣,欢迎来聊~ 我们做的不是 Demo,也不是简单调 API,而是真正让大模型能够高效跑在生产环境。
平时主要会接触到:
✅ LLM / Multimodal Model Serving
✅ GPU Kernel Optimization
✅ CUDA / Triton
✅ Quantization
✅ Speculative Decoding
✅ KV Cache & Batching
✅ Distributed Training & Inference
✅ AI Agent for Model Optimization
一句话来说,就是研究如何让大模型更快、更便宜、更稳定地运行。
⸻
你可能会做什么
优化 LLM 和多模态模型推理性能
做 GPU Profiling,分析性能瓶颈
编写 CUDA / Triton Kernel
优化模型延迟、吞吐和 GPU 利用率
开发自动化 Benchmark 和 Performance Tool
和模型研究员一起探索新的模型架构和推理方案
⸻
希望你
✔️ CS/EE/AI 等相关专业
✔️ 有不错的算法和工程基础
✔️ 做过 ML、LLM 或 GPU 相关项目
如果会下面这些会非常加分:
⭐ CUDA
⭐ Triton
⭐ PyTorch
⭐ vLLM
⭐ TensorRT-LLM
⭐ SGLang
⭐ FlashAttention
⭐ CUTLASS
⸻
为什么值得来?
我们希望实习生能够真正参与核心项目,而不仅仅是完成一些边缘任务。
你将有机会:
🚀 接触世界领先的大模型生产系统
🚀 优化运行在数千张 GPU 上的模型
🚀 与模型研究员、架构师和基础设施工程师合作
🚀 学习工业界 AI Serving 的完整链路
🚀 做出的优化有机会直接上线,为真实业务带来性能提升
实习信息
到岗时间:近 1-2 个月可以到岗
投递方式:简历请发送至 [email protected]