米哈游北京实习|大模型推理系统·GPU与量化
工作地点在北京,实习岗位,具体JD可以看配图或下文~
岗位:大模型推理系统开发实习生-基模
工作职责 1、负责公司各AI推理场景(LLM/多模态/视频等)的推理系统研发和性能优化、资源调度、可观测性搭建、日常维护等工作 2、与算法团队深度合作,进行算法与系统的联合设计与优化(如模型量化、kvcache量化、投机采样等) 3、保持关注行业前沿技术,且有能力和热情开展创新研究
任职要求 1、计算机、软件工程、人工智能等相关专业在读硕士/博士 2、熟练掌握Linux环境下的C/C++与Python语言 3、精通以下至少一项的背景知识或经验:推理引擎和框架、GPU资源调度、高性能计算与通信、GPU监控和性能分析、模型量化、编译优化等 4、具有独立解决问题的能力,良好的团队合作精神 5、有强烈的工作责任心,较好的学习能力、沟通能力和自驱精神 6、有良好的文档习惯,及时按要求撰写更新工作流程及技术文档
加分项
- 深入研究过至少一种推理框架(vllm/sglang等)的底层架构和原理,理解page attention等相关核心技术
- 理解GPU硬件架构,深入理解GPU软件栈,具备GPU性能分析和开发的经验
- 完整参与过模型压缩、量化后的精度对齐和上线流程
- 有LLM/推荐广告/搜索等在线和离线推理系统架构经验
- 有硕士/博士阶段的计算机系统方向研究背景,或在国际顶级系统会议上(OSDI/SOSP/SIGCOMM/ASPLOS/NSDI等)发表过论文者优先
面向对象 2028届及之后毕业的在校生
校招/实习内推码:606VG 岗位链接:https://jobs.mihoyo.com/#/recommendation/position/6643?hireType=1 另一类内推码仅供官网仍开放的对应招聘类型岗位使用,本岗位请使用上面的代码。 有任何问题欢迎留言咨询噢~



评论
问答助学
相关内容
0个评论
全部评论
点击登录,快来和大家讨论吧~
表情
图片
暂无评论
