联系我们
 课程时长 14 小时 (2 天数)

课程大纲

AI 部署简介

  • AI 部署生命周期概述
  • 将 AI 智能体部署到生产环境的挑战
  • 关键考量因素:可扩展性、可靠性及可维护性

容器化与编排

  • Docker 简介及容器化基础
  • 使用 Kubernetes 进行 AI 智能体编排
  • 管理容器化 AI 应用的最佳实践

AI 模型服务化

  • 模型服务框架概述(例如:TensorFlow Serving, TorchServe)
  • 构建用于 AI 智能体推理的 REST API
  • 处理批量预测与实时预测

AI 智能体的 CI/CD

  • 构建 AI 部署的 CI/CD 流水线
  • 自动化 AI 模型的测试与验证
  • 滚动更新及版本控制管理

监控与优化

  • 实施 AI 智能体性能监控工具
  • 分析模型漂移及重训练需求
  • 优化资源利用率及可扩展性

安全与治理

  • 确保符合数据隐私法规合规要求
  • 保障 AI 部署流水线及 API 的安全性
  • AI 应用的审计与日志记录

动手实践活动

  • 使用 Docker 对 AI 智能体进行容器化
  • 使用 Kubernetes 部署 AI 智能体
  • 配置 AI 性能及资源使用的监控

总结与下一步

要求

  • 精通 Python 编程
  • 理解机器学习工作流
  • 熟悉 Docker 等容器化工具
  • 具备 DevOps 实践经验(建议)

目标受众

  • MLOps 工程师
  • DevOps 专业人士

即将举行的公开课程

课程分类