课程大纲

Edge AI 和 Ascend 310 简介

  • Edge AI 概述:趋势、限制和应用
  • Huawei Ascend 310 芯片架构及支持的工具链
  • 在边缘 AI 部署栈中定位 CANN

模型准备与转换

  • 从 TensorFlow、PyTorch 和 MindSpore 导出训练好的模型
  • 使用 ATC 将模型转换为 OM 格式,以便在 Ascend 设备上使用
  • 处理不支持的算子及轻量级转换策略

使用 AscendCL 开发推理管道

  • 使用 AscendCL API 在 Ascend 310 上运行 OM 模型
  • 输入/输出预处理、内存处理和设备控制
  • 在嵌入式容器或轻量级运行时环境中部署

针对边缘限制的优化

  • 减少模型大小,精度调优(FP16、INT8)
  • 使用 CANN 分析器识别性能瓶颈
  • 管理内存布局和数据流以提高性能

使用 MindSpore Lite 部署

  • 使用 MindSpore Lite 运行时在移动和嵌入式目标上运行
  • 比较 MindSpore Lite 与原生 AscendCL 管道
  • 为设备特定部署打包推理模型

边缘部署场景与案例研究

  • 案例研究:在 Ascend 310 上部署智能摄像头的目标检测模型
  • 案例研究:在物联网传感器中心进行实时分类
  • 在边缘监控和更新部署的模型

总结与下一步

要求

  • 具备AI模型开发或部署工作流程的经验
  • 具备嵌入式系统、Linux和Python的基础知识
  • 熟悉深度学习框架,如TensorFlow或PyTorch

受众

  • IoT解决方案开发者
  • 嵌入式AI工程师
  • 边缘系统集成商和AI部署专家
 14 小时

即将举行的公开课程

课程分类