Introduction to AI Trust, Risk, and Security Management (AI TRiSM) 培训

此由讲师指导的线下或线上培训，面向中级企业领导者，旨在帮助他们理解如何负责任地治理和保护AI系统，并遵守新兴的全球框架，如欧盟AI法案、GDPR、ISO/IEC 42001和美国AI行政命令。

通过本培训，参与者将能够：

• 了解跨部门使用AI的法律、道德和监管风险。
• 解读并应用主要的AI治理框架（欧盟AI法案、NIST AI RMF、ISO/IEC 42001）。
• 为企业中的AI部署建立安全、审计和监督政策。
• 制定第三方和内部AI系统的采购和使用指南。

Artificial Intelligence (AI) 为政府机构和部门引入了新的运营风险维度、治理挑战和网络安全暴露。

本课程为讲师主导的培训（线上或线下），面向公共部门的IT和风险专业人士，他们此前对AI经验有限，但希望了解如何在政府或监管环境中评估、监控和保护AI系统。

在本培训结束时，参与者将能够：

• 解释与AI系统相关的关键风险概念，包括偏见、不可预测性和模型漂移。
• 应用AI特定的治理和审计框架，如NIST AI RMF和ISO/IEC 42001。
• 识别针对AI模型和数据管道的网络安全威胁。
• 建立跨部门的风险管理计划和政策对齐，以支持AI部署。

课程形式

• 互动讲座和公共部门用例讨论。
• AI治理框架练习和政策映射。
• 基于场景的威胁建模和风险评估。

课程定制选项

• 如需为本课程定制培训，请联系我们安排。

This instructor-led, live training in 中国 (online or onsite) is aimed at intermediate-level to advanced-level AI developers, architects, and product managers who wish to identify and mitigate risks associated with LLM-powered applications, including prompt injection, data leakage, and unfiltered output, while incorporating security controls like input validation, human-in-the-loop oversight, and output guardrails.

By the end of this training, participants will be able to:

• Understand the core vulnerabilities of LLM-based systems.
• Apply secure design principles to LLM app architecture.
• Use tools such as Guardrails AI and LangChain for validation, filtering, and safety.
• Integrate techniques like sandboxing, red teaming, and human-in-the-loop review into production-grade pipelines.

这是由讲师指导的中国（线上或线下）培训，旨在为中级AI和网络安全专业人士提供理解并解决AI模型和系统特有安全漏洞的能力，特别是在金融、数据治理和谘询等高度监管行业中。

通过本培训，参与者将能够：

• 了解针对AI系统的对抗攻击类型及其防御方法。
• 实施模型硬化技术以保护机器学习管道。
• 确保机器学习模型中的数据安全性和完整性。
• 应对与AI安全相关的监管合规要求。

这是一个由讲师指导的中国（线上或线下）培训，旨在帮助初级IT安全、风险和合规专业人员了解AI安全的基础概念、威胁向量以及全球框架，如NIST AI RMF和ISO/IEC 42001。

在培训结束时，参与者将能够：

• 了解AI系统带来的独特安全风险。
• 识别威胁向量，如对抗性攻击、数据中毒和模型反转。
• 应用基础治理模型，如NIST AI Risk Management框架。
• 将AI使用与新兴标准、合规指南和伦理原则对齐。

本课程为讲师指导的中国（线上或线下）培训，面向希望在实际机器学习管道中实施和评估联邦学习、安全多方计算、同态加密和差分隐私等技术的高级专业人士。

通过本培训，学员将能够：

• 理解并比较机器学习中的关键隐私保护技术。
• 使用开源框架实施联邦学习系统。
• 应用差分隐私技术进行安全数据共享和模型训练。
• 使用加密和安全计算技术保护模型的输入和输出。

本次由讲师指导的中国（线上或线下）培训，旨在为高级安全专业人员和机器学习专家提供模拟攻击AI系统、发现漏洞并增强已部署AI模型鲁棒性的能力。

培训结束后，参与者将能够：

• 模拟现实世界中对机器学习模型的威胁。
• 生成对抗样本来测试模型的鲁棒性。
• 评估AI API和管道的攻击面。
• 为AI部署环境设计红队策略。

这项由讲师指导的中国（线上或线下）培训课程，旨在帮助中级工程师和安全专业人员，保护部署在边缘的AI模型，防范篡改、数据泄露、对抗性输入和物理攻击等威胁。

在培训结束时，参与者将能够：

• 识别和评估边缘AI部署中的安全风险。
• 应用防篡改和加密推理技术。
• 加固边缘部署的模型并保护数据管道。
• 实施针对嵌入式及受限系统的威胁缓解策略。

这是由讲师指导的中国（线上或线下）培训，针对中级机器学习和网络安全专业人士，旨在帮助他们理解并缓解针对AI模型的新兴威胁，使用概念框架和实战防御技术，如鲁棒训练和差分隐私。

在培训结束时，参与者将能够：

• 识别和分类AI特定威胁，如对抗攻击、反转和数据中毒。
• 使用Adversarial Robustness Toolbox（ART）等工具模拟攻击并测试模型。
• 应用实战防御技术，包括对抗训练、噪声注入和隐私保护技术。
• 在生产环境中设计威胁感知的模型评估策略。