岗位描述
岗位职责 1、负责AI模型量化压缩工具链开发,开展模型量化压缩算法优化、精度损失分析及调优工作,保障模型推理精度与性能平衡。 2、针对地平线BPU芯片,完成LLM、VLM、端到端自动驾驶、VLA等模型的量化压缩适配,负责对应模块需求设计、开发实现、问题定位与性能瓶颈优化。 3、设计迭代模型量化压缩方案,覆盖PTQ、QAT两大量化方向,开展权重量化、激活量化、KV Cache量化、混合精度量化等算法研发,搭建自动化量化及评估体系,定位并解决精度、性能损耗问题。 4、协同算法团队分析量化误差成因,输出模型结构、训练策略及量化友好优化方案,打通模型训练到部署的全链路优化。 5、跟踪模型量化、压缩、高效推理领域前沿技术,落地新算法、新方案,持续优化量化工具链与推理能力。