职位描述
1.深入理解主流AI芯片与服务器架构，分析硬件加速特性及内部拓扑结构，输出可落地的硬件优化实践方案与调优建议，充分释放硬件性能潜力。
2.结合主流LLM推理框架（如sglang/vLLM）以及大模型结构与计算特征，通过软硬件协同设计与技术突破（涵盖硬件算子优化、显存管理、并行策略等），完成新服务器平台端到端性能评估与深度优化。
3.提供面向具体场景的定制化优化能力，精准识别大模型在各类业务环境中的性能瓶颈，快速制定并实施满足实际需求的性能提升方案。
4.熟练掌握系统级调优与Profiling工具（如nsys/ncu系列、Perf、火焰图等），具备系统性性能分析与瓶颈定位能力，并能结合硬件特点开展软件适配与优化工作。

职位要求
1.熟悉sglang/vLLM/Pytorch等主流LLM推理框架，具备二次开发或深度优化经验（包括KVCache优化、编译优化、Speculative执行、量化、DeepEP等相关技术）。
2.具备优秀的沟通协作与项目推动能力，能够与跨领域团队高效协同推进技术落地。

如下经验优先：
1.拥有性能调优实践经验，特别是sglang/vLLM在新硬件上的适配与优化经历，有针对Qwen/DeepSeek类模型进行性能优化者优先