联系我们

构建安全且负责任的大语言模型应用培训

大语言模型（LLM）应用安全是一门涉及设计、构建和维护使用大语言模型的安全、可信且符合政策的系统的学科。

本次由讲师指导的培训（线上或线下）面向中高级AI开发者、架构师和产品经理，旨在帮助他们识别和缓解与LLM应用相关的风险，包括提示注入、数据泄露和未经过滤的输出，同时融入安全控制措施，如输入验证、人工监督和输出防护。

通过本次培训，参与者将能够：

理解基于LLM系统的核心漏洞。
将安全设计原则应用于LLM应用架构。
使用如Guardrails AI和LangChain等工具进行验证、过滤和安全性控制。
将沙盒、红队测试和人工审核等技术集成到生产级流程中。

课程形式

互动讲座与讨论。
大量练习与实践。
在实时实验环境中进行动手操作。

课程定制选项

如需为本课程定制培训，请联系我们进行安排。

感谢您发送咨询！我们的团队成员将很快与您联系。

感谢您发送预订！我们的团队成员将很快与您联系。

课程时长 14 小时

课程大纲

LLM架构与攻击面概述

LLM如何通过API构建、部署和访问
LLM应用堆栈中的关键组件（如提示、代理、内存、API）
实际使用中安全问题出现的位置和方式

提示注入与越狱攻击

什么是提示注入及其危险性
直接和间接提示注入场景
绕过安全过滤器的越狱技术
检测与缓解策略

数据泄露与隐私风险

通过响应意外暴露数据
PII泄露与模型内存滥用
设计注重隐私的提示与检索增强生成（RAG）

LLM输出过滤与防护

使用Guardrails AI进行内容过滤与验证
定义输出模式与约束
监控与记录不安全输出

人工监督与工作流方法

何时何地引入人工监督
审批队列、评分阈值、后备处理
信任校准与可解释性的作用

安全的LLM应用设计模式

为API调用和代理实施最小权限与沙盒机制
速率限制、节流与滥用检测
使用LangChain与提示隔离实现稳健的链式处理

合规性、日志记录与治理

确保LLM输出的可审计性
维护可追溯性与提示/版本控制
与内部安全政策及监管需求保持一致

总结与下一步

要求

了解大语言模型和基于提示的界面
有使用Python构建LLM应用的经验
熟悉API集成和基于云的部署

受众

AI开发者
应用和解决方案架构师
使用LLM工具的技术产品经理

需要帮助选择合适的课程吗？
china@nobleprog.com 或拨打 400 6116 540

即将举行的公开课程

课程分类

该网站的其他位置

Europe

Österreich (Austria) Schweiz (Switzerland) Deutschland (Germany) Czech Republic Denmark Estonia Finland Greece Magyarország (Hungary) Ireland Luxembourg Latvia España (Spain) Italia (Italy) Lithuania Nederland (Netherlands) Norway Portugal România (Romania) Sverige (Sweden) Türkiye (Turkey) Malta Belgique (Belgium) France Polska (Poland) United Kingdom Bulgaria Moldova Slovakia Slovenia Croatia Serbia

North America

Canada USA Costa Rica Guatemala México (Mexico) Panama

South America

Brasil (Brazil) Argentina Chile Ecuador Colombia Peru Uruguay Venezuela Bolivia

Africa / Middle East

United Arab Emirates Qatar Egypt Saudi Arabia South Africa Morocco Tunisia Kuwait Oman Kenya Nigeria Botswana

Other sites

人力资源培训材料 NobleProg 特许经营 DaDesktop - 云桌面