感谢您发送咨询!我们的团队成员将很快与您联系。
感谢您发送预订!我们的团队成员将很快与您联系。
课程大纲
基于Docker的AI推理入门
- 理解AI推理工作负载
- 容器化推理的优势
- 部署场景与限制条件
构建AI推理容器
- 选择基础镜像和框架
- 打包预训练模型
- 为容器执行结构化推理代码
确保容器化AI服务的安全
- 最小化容器攻击面
- 管理密钥与敏感文件
- 安全的网络与API暴露策略
可移植的部署技术
- 优化镜像以实现可移植性
- 确保可预测的运行环境
- 跨平台管理依赖项
本地部署与测试
- 在本地通过Docker运行服务
- 调试推理容器
- 测试性能与可靠性
在服务器和云虚拟机上部署
- 适配远程环境的容器
- 配置安全的服务器访问权限
- 在云VM上部署推理API
使用Docker Compose构建多服务AI系统
- 编排推理过程与支撑组件
- 管理环境变量与配置信息
- 通过Compose扩展微服务规模
监控与维护AI推理服务
- 日志记录与可观测性方法
- 检测推理管线中的故障
- 在生产环境中更新和版本控制模型
总结与后续步骤
要求
- 了解基本机器学习概念
- 具备Python或后端开发经验
- 熟悉基础容器概念
目标受众
- 开发人员
- 后端工程师
- 部署AI服务的团队
14 小时
客户评论 (3)
培训师如何如此有效地传授知识
Vu Thoai Le - Reply Polska sp. z o. o.
课程 - Certified Kubernetes Administrator (CKA) - exam preparation
机器翻译
培训师知识渊博,耐心地向我们分享了很多内容
Bogdan Olaru
课程 - Introduction to Docker
机器翻译
与Augustin的知识交流
Laurent - L'Office national des vacances annuelles (ONVA)
课程 - Docker and Kubernetes
机器翻译