课程大纲

AI部署简介

  • AI部署生命周期概述
  • 将AI代理部署到生产环境中的挑战
  • 关键考虑因素:可扩展性、可靠性和可维护性

容器化与编排

  • Docker与容器化基础介绍
  • 使用Kubernetes进行AI代理编排
  • 管理容器化AI应用的最佳实践

AI模型服务

  • 模型服务框架概述(如TensorFlow Serving、TorchServe)
  • 为AI代理推理构建REST API
  • 处理批处理与实时预测

AI代理的CI/CD

  • 为AI部署设置CI/CD流水线
  • 自动化AI模型的测试与验证
  • 滚动更新与版本控制管理

监控与优化

  • 实施AI代理性能监控工具
  • 分析模型漂移与再训练需求
  • 优化资源利用率与可扩展性

安全与治理

  • 确保符合数据隐私法规
  • 保护AI部署流水线与API
  • AI应用的审计与日志记录

实践环节

  • 使用Docker容器化AI代理
  • 使用Kubernetes部署AI代理
  • 设置AI性能与资源使用监控

总结与下一步

要求

  • 精通Python编程
  • 理解机器学习工作流程
  • 熟悉容器化工具如Docker
  • 具备DevOps实践经验(推荐)

受众

  • MLOps工程师
  • DevOps专业人员
 14 小时

客户评论 (1)

即将举行的公开课程

课程分类