岗位描述
团队介绍:负责公司大模型信息安全保障体系,持续识别和治理大模型衍生出的新型风险,并建设相应安全产品,保障大模型及其应用在训练、推理和部署等阶段的安全。同时将大模型相关技术应用到安全技术和安全运营领域,实现技术突破,做到效果和效率双提升。 1、挖掘、招募并维护内部及外部安全专家资源,建立长期合作网络; 2、设计专家激励与合作模式,推动专家参与模型训练、任务设计和能力评测; 3、组织高质量Cyber题目、测试环境、标准答案及Oracle的生产与验收; 4、推动专家使用Seed模型解题,采集高质量解题轨迹、 调试过程及反馈数据; 5、分析评测结果和专家反馈,识别模型能力短板,推动训练数据与评测体系持续迭代; 6、协调安全专家、模型算法及工程团队,建立从专家参与到数据生产、模型训练和效果验证的闭环。