联系我们

课程大纲

GPU加速容器化介绍

  • 理解深度学习工作流中的GPU使用
  • Docker如何支持基于GPU的工作负载
  • 关键性能考量

安装和配置NVIDIA容器工具包

  • 设置驱动程序和CUDA兼容性
  • 验证容器内的GPU访问
  • 配置运行时环境

构建支持GPU的Docker镜像

  • 使用CUDA基础镜像
  • 在支持GPU的容器中打包AI框架
  • 管理训练和推理依赖

运行GPU加速的AI工作负载

  • 使用GPU执行训练任务
  • 管理多GPU工作负载
  • 监控GPU利用率

优化性能和资源分配

  • 限制和隔离GPU资源
  • 优化内存、批处理大小和设备放置
  • 性能调整和诊断

容器化推理和模型服务

  • 构建支持推理的容器
  • 在GPU上服务高负载工作负载
  • 集成模型运行器和API

使用Docker扩展GPU工作负载

  • 分布式GPU训练策略
  • 扩展推理微服务
  • 协调多容器AI系统

支持GPU容器的安全性和可靠性

  • 确保共享环境中的GPU安全访问
  • 加固容器镜像
  • 管理更新、版本和兼容性

总结和后续步骤

要求

  • 了解深度学习基础
  • 具有Python及常见AI框架的经验
  • 熟悉基本容器化概念

受众

  • 深度学习工程师
  • 研发团队
  • AI模型训练师
 21 小时

客户评论 (3)

即将举行的公开课程

课程分类