联系我们
 课程时长 21 小时

课程大纲

AI系统的架构基础

  • 层、边界和关注点分离
  • 应用于AI组件的端口和适配器
  • AI功能的质量属性场景
  • 作为治理手段的架构决策记录

演进现有应用

  • 增量现代化,而非重写
  • 在现有单体架构旁部署AI服务
  • 绞杀者和防腐层模式
  • 现有API和数据的集成接缝

LLM集成架构模式

  • 作为抽象边界的模型网关
  • 同步、异步和流式集成
  • 回退、降级和服务商故障转移
  • 将提示词和模型配置作为版本化资产

契约、API和数据交换

  • 结构化输出模式验证
  • 幂等性、重试和速率限制
  • 延迟预算和超时编排
  • 将每请求成本作为架构约束

端到端的RAG架构

  • 摄取、分块和嵌入管道
  • 索引、检索、重排序和生成阶段
  • 检索在应用服务中的位置
  • 各阶段的权衡和故障模式

向量数据库和检索设计

  • 托管型与自托管向量存储
  • 密集、稀疏和混合搜索
  • 元数据过滤和租户隔离
  • 模型变更时的重新嵌入策略

检索质量、基础事实与评估

  • 基于真实查询构建的评估集
  • 检索和答案质量指标
  • 引用、基础事实和幻觉控制
  • 反馈回索的循环

智能体架构

  • 智能体循环和工具调用
  • 确定性工作流与自主规划器
  • 智能体是错误答案的场景
  • 界定智能体职责和状态

多智能体系统与编排

  • 监督者和编排者拓扑
  • 交接协议和消息契约
  • 共享内存和上下文管理
  • 基于架构标准的框架比较

服务通信和工具协议

  • 事件驱动和基于队列的协调
  • 通过标准协议暴露工具
  • Sagas、补偿和长事务
  • 跨服务跳数的可观测性

开发工作流中的AI智能体

  • 交付管道中的编码智能体
  • 规范驱动开发和审查门
  • 测试生成和自动化质量检查
  • 保持架构控制权的护栏

治理与软件质量

  • AI功能的设计评审
  • 模型和提示词的应变管理
  • 作为管道阶段的回归评估
  • 所有权、政策和审批路径

安全、隐私和数据治理

  • 提示词注入和纵深防御
  • 机密、访问控制和最小权限
  • 数据驻留、个人数据保留
  • 可审计性和人在回路控制

可扩展性、成本与可观测性

  • 跨智能体链路的跟踪
  • Token和成本遥测
  • 缓存和延迟优化
  • AI服务的SLA和事件响应

结业项目:AI驱动解决方案的架构

  • 上下文、组件和部署视图
  • 检索和智能体编排设计
  • 安全、治理和成本计划
  • 同行评审、批判和迁移路线图

要求

  • 具有设计和维护生产级软件系统的经验
  • 熟悉REST API和服务集成
  • 熟悉关系型数据库和数据建模
  • 接触过基于LLM的工具或API

目标受众

  • 软件架构师
  • 技术领导和资深工程师
  • 负责架构决策的工程经理

客户评论 (1)

即将举行的公开课程

课程分类