感谢您发送咨询!我们的团队成员将很快与您联系。
感谢您发送预订!我们的团队成员将很快与您联系。
课程大纲
基础:Agentic AI的威胁模型
- Agentic威胁类型:滥用、升级、数据泄露和供应链风险。
- 针对自主代理的对手画像与攻击能力。
- 代理的资产映射、信任边界和关键控制点。
治理、策略与风险管理
- Agentic系统的治理框架(角色、职责、审批关卡)。
- 策略设计:可接受使用、升级规则、数据处理与可审计性。
- 合规考虑与审计证据收集。
非人类身份与代理认证
- 设计代理身份:服务账户、JWTs和短期凭证。
- 最小权限访问模式与即时凭证管理。
- 身份生命周期、轮换、委派与撤销策略。
访问控制、密钥与数据保护
- 细粒度访问控制模型与基于能力的代理模式。
- 密钥管理、传输与静态加密及数据最小化。
- 保护敏感知识源与PII免受未授权代理访问。
可观测性、审计与事件响应
- 设计代理行为遥测:意图追踪、命令日志与来源追溯。
- SIEM集成、告警阈值与取证准备。
- 代理相关事件与遏制的运行手册与剧本。
Agentic系统红队测试
- 策划红队演练:范围、参与规则与安全故障转移。
- 对抗技术:提示注入、工具滥用、思维链操纵与API滥用。
- 执行受控攻击并评估暴露与影响。
加固与缓解措施
- 工程控制:响应限速、能力限制与沙盒化。
- 策略与编排控制:审批流程、人在回路与治理钩子。
- 模型与提示级防御:输入验证、规范化与输出过滤。
安全代理部署的运营化
- 部署模式:分阶段、金丝雀与渐进式代理发布。
- 变更控制、测试管道与预部署安全检查。
- 跨职能治理:安全、法律、产品与运维剧本。
最终项目:红队/蓝队演练
- 在沙盒代理环境中执行模拟红队攻击。
- 作为蓝队使用控制与遥测进行防御、检测与修复。
- 展示发现、修复计划与策略更新。
总结与后续步骤
要求
- 扎实的安全工程、系统管理或云运维背景。
- 熟悉AI/ML概念及大语言模型(LLM)行为。
- 具备身份与访问管理(IAM)和安全系统设计经验。
目标受众
- 安全工程师与红队成员。
- AI运维与平台工程师。
- 合规官与风险经理。
- 负责代理部署的工程负责人。
21 小时
客户评论 (1)
他的专业知识以及他在我们面前展示的方式
Miroslav Nachev - PUBLIC COURSE
课程 - Cybersecurity in AI Systems
机器翻译