联系我们
 课程时长 21 小时

课程大纲

GPU加速容器化简介

  • 理解深度学习工作流中的GPU使用
  • Docker如何支持基于GPU的工作负载
  • 关键性能考量

安装与配置NVIDIA容器工具包

  • 设置驱动程序和CUDA兼容性
  • 验证容器内的GPU访问
  • 配置运行时环境

构建支持GPU的Docker镜像

  • 使用CUDA基础镜像
  • 将AI框架打包到GPU就绪容器中
  • 管理训练和推理的依赖关系

运行GPU加速的AI工作负载

  • 使用GPU执行训练任务
  • 管理多GPU工作负载
  • 监控GPU利用率

优化性能和资源分配

  • 限制和隔离GPU资源
  • 优化内存、批次大小和设备放置
  • 性能调优与诊断

容器化推理与模型服务

  • 构建推理就绪容器
  • 在GPU上服务高负载工作负载
  • 集成模型运行器和API

使用Docker扩展GPU工作负载

  • 分布式GPU训练策略
  • 扩展推理微服务
  • 协调多容器AI系统

GPU容器的安全性与可靠性

  • 确保共享环境中的安全GPU访问
  • 强化容器镜像
  • 管理更新、版本和兼容性

总结与后续步骤

要求

  • 了解深度学习基础知识
  • 具备Python及常见AI框架的使用经验
  • 熟悉基本的容器化概念

目标学员

  • 深度学习工程师
  • 研发团队
  • AI模型训练人员

客户评论 (2)

即将举行的公开课程

课程分类