联系我们

课程大纲

混合AI部署基础

  • 理解混合、云端与边缘部署模型
  • AI工作负载特性与基础设施限制
  • 选择合适的部署拓扑

使用Docker容器化AI工作负载

  • 构建GPU与CPU推理容器
  • 管理安全镜像与注册表
  • 为AI实现可复现环境

将AI服务部署至云端环境

  • 通过Docker在AWS、Azure及GCP上运行推理
  • 为模型服务配置云端计算资源
  • 保护云端AI端点安全

边缘与本地部署技术

  • 在物联网设备、网关及微型服务器上运行AI
  • 适用于边缘环境的轻量级运行时
  • 管理间歇性连接与本地持久化

混合网络与安全连接

  • 边缘与云端之间的安全隧道
  • 证书、密钥及基于令牌的访问
  • 低延迟推理的性能调优

编排分布式AI部署

  • 使用K3s、K8s或轻量级编排实现混合部署
  • 服务发现与工作负载调度
  • 自动化多地点发布策略

跨环境监控与可观测性

  • 追踪各地点推理性能
  • 混合AI系统的集中式日志
  • 故障检测与自动恢复

扩展与优化混合AI系统

  • 扩展边缘集群与云端节点
  • 优化带宽使用与缓存
  • 平衡云端与边缘的计算负载

总结与后续步骤

要求

  • 理解容器化概念
  • 具备Linux命令行操作经验
  • 熟悉AI模型部署工作流

目标受众

  • 基础设施架构师
  • 网站可靠性工程师(SRE)
  • 边缘与物联网开发者
 21 小时

客户评论 (3)

即将举行的公开课程

课程分类