联系我们
 课程时长 21 小时

课程大纲

基础:智能体AI的威胁模型

  • 智能体威胁类型:滥用、权限提升、数据泄露和供应链风险
  • 针对自主智能体的特定对手画像和攻击者能力
  • 映射智能体的资产、信任边界和关键控制点

治理、政策与风险管理

  • 智能体系统的治理框架(角色、职责、审批门槛)
  • 政策设计:可接受的使用范围、升级规则、数据处理和可审计性
  • 合规考量及审计证据收集

智能体的非人类身份与认证

  • 为智能体设计身份:服务账户、JWT和短期凭证
  • 最小权限访问模式和即时凭证
  • 身份生命周期、轮换、委托和撤销策略

访问控制、密钥与数据保护

  • 面向智能体的细粒度访问控制模型和基于能力的模式
  • 密钥管理、传输中和静止时的加密,以及数据最小化
  • 保护敏感知识源和个人身份信息(PII)免受智能体未授权访问

可观测性、审计与事件响应

  • 设计智能体行为的遥测:意图追踪、命令日志和来源分析
  • SIEM集成、告警阈值和取证准备
  • 针对智能体相关事件的运行手册、手册和遏制措施

智能体系统的红队测试

  • 规划红队演练:范围、交战规则和安全回退
  • 对抗技术:提示注入、工具滥用、思维链操纵和API滥用
  • 执行受控攻击并衡量暴露面和影响

加固与缓解措施

  • 工程控制:响应节流、能力门控和沙箱隔离
  • 策略与编排控制:审批流程、人机协同和治理挂钩
  • 模型和提示级别防御:输入验证、规范化处理和输出过滤

安全智能体部署的运营化

  • 部署模式:智能体的预演、金丝雀发布和渐进式推送
  • 变更控制、测试流水线和部署前安全检查
  • 跨职能治理:安全、法务、产品和运维手册

结业项目:红队/蓝队演练

  • 对沙箱化的智能体环境执行模拟红队攻击
  • 作为蓝队,利用控制和遥测手段进行防御、检测和修复
  • 汇报发现、修复计划和政策更新

总结与后续步骤

要求

  • 扎实的安全工程、系统管理或云运维背景
  • 熟悉AI/ML概念及大语言模型(LLM)行为
  • 具备身份与访问管理(IAM)及安全系统设计的经验

受众

  • 安全工程师和红队成员
  • AI运维和平台工程师
  • 合规官和风险经理
  • 负责智能体部署的工程负责人

客户评论 (1)

即将举行的公开课程

课程分类