AI信任、风险与安全管理（AI TRiSM）简介 培训

AAISM是一个高级框架，用于评估、治理和管理人工智能系统中的安全风险。

本课程为讲师指导的培训（线上或线下），面向希望在企业AI环境中实施有效安全控制和治理实践的高级专业人士。

课程结束后，参与者将能够：

• 使用行业认可的方法评估AI安全风险。
• 实施负责任AI部署的治理模型。
• 将AI安全政策与组织目标和监管期望保持一致。
• 增强AI驱动操作中的弹性和问责制。

课程形式

• 专家分析支持的引导式讲座。
• 实践工作坊和基于评估的活动。
• 使用真实世界AI治理场景的应用练习。

课程定制选项

• 如需根据组织的AI战略定制培训，请联系我们进行课程定制。

本课程由讲师主导，提供线上或线下培训，面向中级企业领导者，旨在帮助他们了解如何负责任地治理和保障AI系统，并遵守新兴的全球框架，如欧盟AI法案、GDPR、ISO/IEC 42001和美国AI行政命令。

通过本培训，参与者将能够：

• 了解跨部门使用AI的法律、伦理和监管风险。
• 解读并应用主要的AI治理框架（欧盟AI法案、NIST AI RMF、ISO/IEC 42001）。
• 为企业中的AI部署建立安全、审计和监督政策。
• 制定第三方和内部AI系统的采购与使用指南。

人工智能（AI）为政府机构和部门引入了新的运营风险、治理挑战和网络安全问题。

本课程由讲师主导，提供线上或线下培训，面向公共部门的IT和风险专业人员，这些人员对AI经验有限，但希望了解如何在政府或监管背景下评估、监控和保护AI系统。

培训结束后，学员将能够：

• 解释与AI系统相关的关键风险概念，包括偏见、不可预测性和模型漂移。
• 应用AI特定的治理和审计框架，如NIST AI RMF和ISO/IEC 42001。
• 识别针对AI模型和数据管道的网络安全威胁。
• 为AI部署建立跨部门的风险管理计划和政策一致性。

课程形式

• 互动讲座和讨论公共部门的使用案例。
• AI治理框架练习和政策映射。
• 基于场景的威胁建模和风险评估。

课程定制选项

• 如需定制本课程，请联系我们进行安排。

本次由讲师指导的线下或线上培训，面向中级到高级的AI开发者、架构师和产品经理，旨在帮助他们识别和缓解与LLM驱动的应用程序相关的风险，包括提示注入、数据泄露和未经过滤的输出，同时融入输入验证、人在回路监督和输出防护等安全控制措施。

培训结束后，参与者将能够：

• 理解基于LLM系统的核心漏洞。
• 将安全设计原则应用于LLM应用架构。
• 使用诸如Guardrails AI和LangChain等工具进行验证、过滤和安全防护。
• 将沙盒测试、红队演练和人在回路审查等技术集成到生产级流程中。

本课程为讲师指导的中国（线下或线上）培训，面向中级AI和网络安全专业人士，旨在帮助其理解和解决AI模型和系统特有的安全漏洞，特别是在金融、数据治理和咨询等高度监管的行业中。

培训结束后，学员将能够：

• 了解针对AI系统的对抗性攻击类型及防御方法。
• 实施模型加固技术以保护机器学习管道。
• 确保机器学习模型中的数据安全性和完整性。
• 掌握与AI安全相关的法规合规要求。

本次由讲师主导的培训在中国（线上或线下）面向初级的IT安全、风险和合规专业人员，旨在帮助他们理解AI安全的基础概念、威胁向量以及全球框架，如NIST AI RMF和ISO/IEC 42001。

培训结束后，参与者将能够：

• 理解AI系统引入的独特安全风险。
• 识别威胁向量，如对抗性攻击、数据中毒和模型反演。
• 应用基础治理模型，如NIST AI风险管理框架。
• 将AI使用与新兴标准、合规指南和伦理原则对齐。

基于最新的 OWASP GenAI 安全项目指南，学员将通过实践练习和真实场景学习如何识别、评估和缓解 AI 特定威胁。

本课程由讲师主导，提供中国的线上或线下培训，面向希望在实际机器学习管道中实施和评估联邦学习、安全多方计算、同态加密和差分隐私等技术的专业人士。

通过本培训，学员将能够：

• 理解并比较ML中的关键隐私保护技术。
• 使用开源框架实施联邦学习系统。
• 应用差分隐私进行安全的数据共享和模型训练。
• 使用加密和安全计算技术保护模型输入和输出。

本课程为讲师主导的线下或线上培训，面向高级安全专业人员和ML专家，旨在模拟对AI系统的攻击，发现漏洞，并增强已部署AI模型的鲁棒性。

在本培训结束时，参与者将能够：

• 模拟对机器学习模型的真实威胁。
• 生成对抗性样本来测试模型的鲁棒性。
• 评估AI API和管道的攻击面。
• 设计针对AI部署环境的红队策略。

本次由讲师主导的培训在中国（线上或线下）面向中级工程师和安全专业人员，旨在帮助他们保护部署在边缘的AI模型，抵御篡改、数据泄露、对抗性输入和物理攻击等威胁。

通过本培训，参与者将能够：

• 识别和评估边缘AI部署中的安全风险。
• 应用防篡改和加密推理技术。
• 加固边缘部署的模型并保护数据管道。
• 实施针对嵌入式与受限系统的威胁缓解策略。

本课程为讲师指导的培训（中国线上或线下），面向中级机器学习与网络安全专业人士，旨在帮助他们理解并缓解针对AI模型的新兴威胁，使用概念框架和实际防御手段，如鲁棒训练和差分隐私。

培训结束后，学员将能够：

• 识别并分类AI特定威胁，如对抗性攻击、逆向攻击和投毒。
• 使用Adversarial Robustness Toolbox（ART）等工具模拟攻击并测试模型。
• 应用实际防御手段，包括对抗性训练、噪声注入和隐私保护技术。
• 在生产环境中设计威胁感知的模型评估策略。

TinyML是一种在低功耗、资源受限的边缘网络设备上部署机器学习模型的方法。

本课程为讲师指导的培训（线上或线下），面向希望保护TinyML管道并在边缘AI应用中实施隐私保护技术的高级专业人员。

课程结束后，学员将能够：

• 识别设备端TinyML推理中特有的安全风险。
• 为边缘AI部署实施隐私保护机制。
• 强化TinyML模型和嵌入式系统，抵御对抗性威胁。
• 在受限环境中应用安全数据处理的最佳实践。

课程形式

• 专家主导的讨论支持的互动讲座。
• 强调真实威胁场景的实践练习。
• 使用嵌入式安全和TinyML工具进行动手实践。

课程定制选项

• 组织可以请求定制版本的培训，以满足其特定的安全和合规需求。

本课程涵盖Agentic AI系统的治理、身份管理和对抗性测试，重点关注企业安全部署模式和实践红队技术。

本次讲师指导的培训（线上或线下）面向希望在生产环境中设计、保护和评估基于代理的AI系统的高级从业者。

通过本培训，学员将能够：

• 定义安全Agentic AI部署的治理模型与策略。
• 设计非人类身份验证流程，为代理提供最小权限访问。
• 实施针对自主代理的访问控制、审计跟踪和可观测性。
• 策划并执行红队演练，发现滥用、升级路径和数据泄露风险。
• 通过策略、工程控制和监控缓解Agentic系统的常见威胁。

课程形式

• 互动讲座与威胁建模工作坊。
• 实践实验室：身份配置、策略执行和对手模拟。
• 红队/蓝队演练及课程结束评估。

课程定制选项

• 如需定制本课程，请联系我们安排。