岗位描述(节选)
我们希望围绕大语言模型与 AIGC 模型,探索更具前瞻性的推理优化方法,并将其转化为真实场景中的性能收益。你将参与下一代推理加速技术的研究与落地,面向生成模型推理中的核心瓶颈,持续推进算法设计、效果验证与系统协同优化。
你将参与以下工作:
● 面向 LLM 与 AIGC 场景,研究生成模型推理加速的关键问题
● 探索前沿生成范式,以及基于后训练的模型架构演进
● 探索SOTA加速方案,如投机、sparse attention、LLM/Diffusion distillation等技术
● 与工程及基础设施团队协同,探索框架+算法+算子一体的更大scope的加速方案
● 跟踪相关领域前沿进展,推动新方法的快速评估与应用
【任职要求】
● 在生成模型、推理优化或高性能计算相关方向具备扎实积累
● 对 LLM 或 AIGC 模型推理过程有较深入理解,具备相关优化实践经验
● 具备良好的算法分析……
完整岗位描述与官方投递入口,请登录后在岗位详情页查看。