联系我们

课程大纲

华为CloudMatrix简介

  • CloudMatrix生态系统与部署流程
  • 支持的模型、格式和部署模式
  • 典型用例和支持的芯片组

准备部署模型

  • 从训练工具(MindSpore、TensorFlow、PyTorch)导出模型
  • 使用ATC(昇腾张量编译器)进行格式转换
  • 静态与动态形状模型

部署到CloudMatrix

  • 创建服务和注册模型
  • 通过UI或CLI部署推理服务
  • 路由、认证和访问控制

服务推理请求

  • 批量与实时推理流程
  • 数据预处理和后处理流水线
  • 从外部应用调用CloudMatrix服务

监控与性能调优

  • 部署日志和请求追踪
  • 资源扩展和负载均衡
  • 延迟调优和吞吐量优化

与企业工具集成

  • 将CloudMatrix与OBS和ModelArts连接
  • 使用工作流和模型版本管理
  • 模型部署和回滚的CI/CD

端到端推理流水线

  • 部署完整的图像分类流水线
  • 基准测试和验证准确性
  • 模拟故障转移和系统警报

总结与后续步骤

要求

  • 了解AI模型训练工作流程
  • 有使用基于Python的机器学习框架的经验
  • 对云部署概念有基本了解

目标学员

  • AI运维团队
  • 机器学习工程师
  • 使用华为基础设施的云部署专家
 21 小时

客户评论 (2)

即将举行的公开课程

课程分类