感谢您发送咨询!我们的团队成员将很快与您联系。
感谢您发送预订!我们的团队成员将很快与您联系。
课程大纲
混合AI部署基础
- 理解混合、云端与边缘部署模型
- AI工作负载特性与基础设施限制
- 选择合适的部署拓扑
使用Docker容器化AI工作负载
- 构建GPU与CPU推理容器
- 管理安全镜像与注册表
- 为AI实现可复现环境
将AI服务部署至云端环境
- 通过Docker在AWS、Azure及GCP上运行推理
- 为模型服务配置云端计算资源
- 保护云端AI端点安全
边缘与本地部署技术
- 在物联网设备、网关及微型服务器上运行AI
- 适用于边缘环境的轻量级运行时
- 管理间歇性连接与本地持久化
混合网络与安全连接
- 边缘与云端之间的安全隧道
- 证书、密钥及基于令牌的访问
- 低延迟推理的性能调优
编排分布式AI部署
- 使用K3s、K8s或轻量级编排实现混合部署
- 服务发现与工作负载调度
- 自动化多地点发布策略
跨环境监控与可观测性
- 追踪各地点推理性能
- 混合AI系统的集中式日志
- 故障检测与自动恢复
扩展与优化混合AI系统
- 扩展边缘集群与云端节点
- 优化带宽使用与缓存
- 平衡云端与边缘的计算负载
总结与后续步骤
要求
- 理解容器化概念
- 具备Linux命令行操作经验
- 熟悉AI模型部署工作流
目标受众
- 基础设施架构师
- 网站可靠性工程师(SRE)
- 边缘与物联网开发者
21 小时
客户评论 (3)
多层次、结构化的课程体系。
Bert Paelinckx - Cube SoftwareSolutions
课程 - Introduction to Docker
机器翻译
培训师如何如此有效地传授知识
Vu Thoai Le - Reply Polska sp. z o. o.
课程 - Certified Kubernetes Administrator (CKA) - exam preparation
机器翻译
与Augustin的知识交流
Laurent - L'Office national des vacances annuelles (ONVA)
课程 - Docker and Kubernetes
机器翻译