感谢您发送咨询!我们的团队成员将很快与您联系。
感谢您发送预订!我们的团队成员将很快与您联系。
课程大纲
AI部署简介
- AI部署生命周期概述
- 将AI代理部署到生产环境中的挑战
- 关键考虑因素:可扩展性、可靠性和可维护性
容器化与编排
- Docker与容器化基础介绍
- 使用Kubernetes进行AI代理编排
- 管理容器化AI应用的最佳实践
AI模型服务
- 模型服务框架概述(如TensorFlow Serving、TorchServe)
- 为AI代理推理构建REST API
- 处理批处理与实时预测
AI代理的CI/CD
- 为AI部署设置CI/CD流水线
- 自动化AI模型的测试与验证
- 滚动更新与版本控制管理
监控与优化
- 实施AI代理性能监控工具
- 分析模型漂移与再训练需求
- 优化资源利用率与可扩展性
安全与治理
- 确保符合数据隐私法规
- 保护AI部署流水线与API
- AI应用的审计与日志记录
实践环节
- 使用Docker容器化AI代理
- 使用Kubernetes部署AI代理
- 设置AI性能与资源使用监控
总结与下一步
要求
- 精通Python编程
- 理解机器学习工作流程
- 熟悉容器化工具如Docker
- 具备DevOps实践经验(推荐)
受众
- MLOps工程师
- DevOps专业人员
14 小时
客户评论 (1)
培训师即时回答问题。
Adrian
课程 - Agentic AI Unleashed: Crafting LLM Applications with AutoGen
机器翻译