岗位描述
岗位职责 主导公司级智能体(Agent)平台及工作流的安全架构设计,建立从 Prompt 输入、Tool/API 调用到 output 输出的全链路防护体系。 针对提示词注入(Prompt Injection)、越狱(Jailbreak)、非预期工具调用(Function Calling Abuse)等场景,设计并落地动态防护与实时拦截机制。 1. AI 基础设施与供应链防护(基础设施安全) ● 建立 AI 基础设施入侵防御体系,覆盖模型/数据投毒(Data Poisoning)、密钥/敏感数据泄露、Shadow AI 等风险。 ● 建立 Agent 工具集(Tools/Plugins)的安全准入与审计机制,防止恶意插件扩展与特权提权。 1. AI 安全治理与跨境合规(治理与合规) ● 制定公司 AI 使用与治理规范,建立大模型数据访问控制、隐私保护(如 RAG 权限隔离)及安全审计流程。 ● 协助应对出海场景下的 AI 法规与合规要求(如 EU AI Act、GDPR 等),保障 AI 业务合规上线。 2. 红蓝对抗与威胁追踪(攻防与演练) ● 持续追踪针对 LLM / Agent 的前沿攻防技术(如 Model Extraction、Adversarial Attack 等),定期组织针对 AI 平台的红蓝对抗演练。 ● 建立 AI 攻击溯源与应急响应机制,提升漏洞处置与威胁平抑效率。 3. AI 赋能安全运营(AI for Security,可选/加分) ● 探索将大模型技术(LLM/Agent)应用于安全运营(SOC/SIEM),提升威胁感知、告警自动化分析与响应脚本生成的效率。 任职要求 1. 基础门槛 本科及以上学历,5-10 年信息安全领域经验,其中至少 1-2 年深耕 AI 安全、大模型治理或安全自动化 实际落地经验。 2. 熟悉主流 LLM 与 Agent 框架(如 LangGraph、CrewAI、AutoGen、LangChain),了解其底层的调用机制与潜在安全盲区。 3. 熟悉 OWASP Top 10 for LLM、MITRE ATT&CK 及云原生安全(容器/K8s/多云安全),具备扎实的威胁建模与攻防实战经验。 4. 专业与编码能力 熟练掌握至少一门编程语言(Python / Go 优先),能够独立编写安全检测插件、自动化工具或评估脚本。 5. 具备复杂的应用层攻防或 API 安全防护经验,能独立推进安全项目从需求评估、方案选型到上线落地的闭环。 6. 综合素质 具备良好的架构视野与业务敏感度,能够平衡 AI 创新的业务落地速度与安全水位,将安全要求转化为开发者易接受的标准与规范。 7. 优秀的跨部门沟通协同能力,能有效推动研发、算法、产品及法务团队达成共识。 8. 加分项 攻防/实战经验: ● 在 AI 安全方向有知名 CVE/漏洞提交、CTF 获奖、知名安全实验室背景或公开安全演练经验。 ● 社区与学术贡献:在 AI 安全/LLM 安全领域发表过高质量论文、技术博客,或维护过知名开源安全工具。 ● 安全运营经验:有实际落地过“利用 LLM 辅助安全运营(SOC/SOAR)”项目的经验。 职位类别: 社会招聘