课程大纲

AI 部署简介

  • AI 部署生命周期概述
  • 将 AI 代理部署到生产环境的挑战
  • 关键注意事项:可伸缩性、可靠性和可维护性

容器化和编排

  • Docker 和容器化基础知识简介
  • 使用 Kubernetes 进行 AI 代理编排
  • 管理容器化 AI 应用程式的最佳实践

提供 AI 模型

  • 模型服务框架概述(例如,TensorFlow Serving、TorchServe)
  • 构建用于 AI 代理推理的 REST API
  • 处理批量预测与实时预测

AI Agents 的 CI/CD

  • 为 AI 部署设置 CI/CD 管道
  • 自动化 AI 模型的测试和验证
  • 滚动更新和管理版本控制

监控和优化

  • 实施 AI 代理性能的监控工具
  • 分析模型漂移和重新训练需求
  • 优化资源利用率和可扩充性

安全和 Go生存

  • 确保遵守数据隐私法规
  • 保护 AI 部署管道和 API
  • AI 应用程式的审计和日志记录

动手实践 Activities

  • 使用 Docker 容器化 AI 代理
  • 使用 Kubernetes 部署 AI 代理
  • 设置 AI 性能和资源使用情况监控

总结和后续步骤

要求

  • 精通 Python 程式设计
  • 了解机器学习工作流程
  • 熟悉容器化工具,如 Docker
  • 具有 DevOps 种实践经验(推荐)

观众

  • MLOps 工程师
  • DevOps 专业人士
 14 小时

即将举行的公开课程

课程分类