感谢您发送咨询！我们的团队成员将很快与您联系。
感谢您发送预订！我们的团队成员将很快与您联系。
课程时长 14 小时
课程大纲
CANN优化能力概述
- CANN如何处理推理性能
- 边缘和嵌入式AI系统的优化目标
- 理解AI Core利用率和内存分配
使用Graph Engine进行分析
- Graph Engine和执行流水线简介
- 可视化算子图和运行时指标
- 修改计算图以进行优化
性能分析工具和性能指标
- 使用CANN性能分析工具（profiler）进行工作负载分析
- 分析内核执行时间和瓶颈
- 内存访问分析和分块策略
使用TIK开发自定义算子
- TIK和算子编程模型概述
- 使用TIK DSL实现自定义算子
- 测试和基准测试算子性能
使用TVM进行高级算子优化
- TVM与CANN集成简介
- 计算图的自动调优策略
- 何时以及如何在TVM和TIK之间切换
内存优化技术
- 管理内存布局和缓冲区放置
- 减少片上内存消耗的技术
- 异步执行和重用的最佳实践
实际部署和案例研究
- 案例研究：智慧城市摄像头流水线的性能调优
- 案例研究：优化自动驾驶车辆推理栈
- 迭代性能分析和持续改进的指南
总结和后续步骤
要求
- 深入了解深度学习模型架构和训练流程
- 具有使用CANN、TensorFlow或PyTorch进行模型部署的经验
- 熟悉Linux命令行、shell脚本和Python编程
目标学员
- AI性能工程师
- 推理优化专家
- 从事边缘AI或实时系统开发的开发者
