感谢您发送咨询!我们的团队成员将很快与您联系。
感谢您发送预订!我们的团队成员将很快与您联系。
课程时长 21 小时
课程大纲
基础:智能体AI的威胁模型
- 智能体威胁类型:滥用、权限提升、数据泄露和供应链风险
- 针对自主智能体的特定对手画像和攻击者能力
- 映射智能体的资产、信任边界和关键控制点
治理、政策与风险管理
- 智能体系统的治理框架(角色、职责、审批门槛)
- 政策设计:可接受的使用范围、升级规则、数据处理和可审计性
- 合规考量及审计证据收集
智能体的非人类身份与认证
- 为智能体设计身份:服务账户、JWT和短期凭证
- 最小权限访问模式和即时凭证
- 身份生命周期、轮换、委托和撤销策略
访问控制、密钥与数据保护
- 面向智能体的细粒度访问控制模型和基于能力的模式
- 密钥管理、传输中和静止时的加密,以及数据最小化
- 保护敏感知识源和个人身份信息(PII)免受智能体未授权访问
可观测性、审计与事件响应
- 设计智能体行为的遥测:意图追踪、命令日志和来源分析
- SIEM集成、告警阈值和取证准备
- 针对智能体相关事件的运行手册、手册和遏制措施
智能体系统的红队测试
- 规划红队演练:范围、交战规则和安全回退
- 对抗技术:提示注入、工具滥用、思维链操纵和API滥用
- 执行受控攻击并衡量暴露面和影响
加固与缓解措施
- 工程控制:响应节流、能力门控和沙箱隔离
- 策略与编排控制:审批流程、人机协同和治理挂钩
- 模型和提示级别防御:输入验证、规范化处理和输出过滤
安全智能体部署的运营化
- 部署模式:智能体的预演、金丝雀发布和渐进式推送
- 变更控制、测试流水线和部署前安全检查
- 跨职能治理:安全、法务、产品和运维手册
结业项目:红队/蓝队演练
- 对沙箱化的智能体环境执行模拟红队攻击
- 作为蓝队,利用控制和遥测手段进行防御、检测和修复
- 汇报发现、修复计划和政策更新
总结与后续步骤
要求
- 扎实的安全工程、系统管理或云运维背景
- 熟悉AI/ML概念及大语言模型(LLM)行为
- 具备身份与访问管理(IAM)及安全系统设计的经验
受众
- 安全工程师和红队成员
- AI运维和平台工程师
- 合规官和风险经理
- 负责智能体部署的工程负责人
客户评论 (1)
库存管理,并识别AI内部的不同风险敞口
Gary Cook - Cybersecurity and Information Technology Risk Division
课程 - Introduction to AI Trust, Risk, and Security Management (AI TRiSM)
机器翻译