感谢您发送咨询!我们的团队成员将很快与您联系。
感谢您发送预订!我们的团队成员将很快与您联系。
课程时长 21 小时
课程大纲
AI系统的架构基础
- 层、边界和关注点分离
- 应用于AI组件的端口和适配器
- AI功能的质量属性场景
- 作为治理手段的架构决策记录
演进现有应用
- 增量现代化,而非重写
- 在现有单体架构旁部署AI服务
- 绞杀者和防腐层模式
- 现有API和数据的集成接缝
LLM集成架构模式
- 作为抽象边界的模型网关
- 同步、异步和流式集成
- 回退、降级和服务商故障转移
- 将提示词和模型配置作为版本化资产
契约、API和数据交换
- 结构化输出模式验证
- 幂等性、重试和速率限制
- 延迟预算和超时编排
- 将每请求成本作为架构约束
端到端的RAG架构
- 摄取、分块和嵌入管道
- 索引、检索、重排序和生成阶段
- 检索在应用服务中的位置
- 各阶段的权衡和故障模式
向量数据库和检索设计
- 托管型与自托管向量存储
- 密集、稀疏和混合搜索
- 元数据过滤和租户隔离
- 模型变更时的重新嵌入策略
检索质量、基础事实与评估
- 基于真实查询构建的评估集
- 检索和答案质量指标
- 引用、基础事实和幻觉控制
- 反馈回索的循环
智能体架构
- 智能体循环和工具调用
- 确定性工作流与自主规划器
- 智能体是错误答案的场景
- 界定智能体职责和状态
多智能体系统与编排
- 监督者和编排者拓扑
- 交接协议和消息契约
- 共享内存和上下文管理
- 基于架构标准的框架比较
服务通信和工具协议
- 事件驱动和基于队列的协调
- 通过标准协议暴露工具
- Sagas、补偿和长事务
- 跨服务跳数的可观测性
开发工作流中的AI智能体
- 交付管道中的编码智能体
- 规范驱动开发和审查门
- 测试生成和自动化质量检查
- 保持架构控制权的护栏
治理与软件质量
- AI功能的设计评审
- 模型和提示词的应变管理
- 作为管道阶段的回归评估
- 所有权、政策和审批路径
安全、隐私和数据治理
- 提示词注入和纵深防御
- 机密、访问控制和最小权限
- 数据驻留、个人数据保留
- 可审计性和人在回路控制
可扩展性、成本与可观测性
- 跨智能体链路的跟踪
- Token和成本遥测
- 缓存和延迟优化
- AI服务的SLA和事件响应
结业项目:AI驱动解决方案的架构
- 上下文、组件和部署视图
- 检索和智能体编排设计
- 安全、治理和成本计划
- 同行评审、批判和迁移路线图
要求
- 具有设计和维护生产级软件系统的经验
- 熟悉REST API和服务集成
- 熟悉关系型数据库和数据建模
- 接触过基于LLM的工具或API
目标受众
- 软件架构师
- 技术领导和资深工程师
- 负责架构决策的工程经理
客户评论 (1)
我获得了关于Python中Streamlit库的知识,我肯定会尝试使用它来改进我们团队中基于R Shiny开发的apps。
Michal Maj - XL Catlin Services SE (AXA XL)
课程 - GitHub Copilot for Developers
机器翻译