Token Foundry-大模型预训练算法工程师-Qwen

1. 预训练数据：大规模预训练数据合成技术探索、STEM & reasoning 优化、长尾知识优化、精品数据挖掘过滤、自然数据 scaling、长文本优化、面向 test-time scaling 的数据优化。 2. 预训练策略：新型预训练损失函数探索、遗忘对抗与持续学习、optimizer 优化、lr scheduler 优化、课程学习、scaling law 预测、超参优化。 3. 模型结构：新型模型结构探索、模型可解释性、MoE 优化、参数扩展与裁剪蒸馏、线性注意力、动态稀疏注意力、draft model 优化、动态计算优化、KV cache压缩、长序列优化、decoding 加速等。 【任职要求】 1. 计算机科学、人工智能、机器学习能等领域的博士/硕士毕业生。 2. 对上述研究方向的某一项或者几项有完整的研究经历或者实际的工业界落地经验。 3. 关注技术影响力，具有开源开放精…… 完整岗位描述与官方投递入口,请登录后在岗位详情页查看。