岗位描述(节选)
1. 面向Agentic OS,参与端侧大模型架构设计、预训练、后训练、端侧部署和推理加速;目标为通过算法与硬件和芯片的协同设计,在较低的功耗和内存预算下,实现模型效果和推理效率的平衡。
2. 负责LLM和VLM在端侧场景下的继续预训练(CPT)、后训练(SFT, OPD, RL等)及量化感知训练(QAT),构建从数据清洗处理到模型部署落地的全链路pipeline。
3. 针对端侧芯片和内存特性,设计新型模型结构,探索参数共享与稀疏化方案。
4. 负责模型压缩算法开发,如剪枝、量化、蒸馏等常用技术方案实现。 实施低比特量化(如INT4/INT8),在保证精度的前提下压缩模型体积与显存占用。
5. 负责推理加速算法实现,如投机解码、MTP等。
6. 建立端侧模型评测体系,不仅关注准确率,更关注首字延迟(Prefill)、生成速度(Decoding)、功耗峰值等硬性指标。
7. 前沿技术探……
完整岗位描述与官方投递入口,请登录后在岗位详情页查看。