联系我们
 课程时长 14 小时

课程大纲

CV/NLP部署与CANN简介

  • AI模型从训练到部署的生命周期
  • 实时CV和NLP的关键性能考量
  • CANN SDK工具及其在模型集成中的作用概述

准备CV和NLP模型

  • 从PyTorch、TensorFlow和MindSpore导出模型
  • 处理图像和文本任务的模型输入/输出
  • 使用ATC将模型转换为OM格式

使用AscendCL部署推理流水线

  • 使用AscendCL API运行CV/NLP推理
  • 预处理流水线:图像缩放、分词、归一化
  • 后处理:边界框、分类分数、文本输出

性能优化技术

  • 使用CANN工具分析CV和NLP模型
  • 通过混合精度和批次调整减少延迟
  • 管理流式任务的内存和计算

计算机视觉用例

  • 案例研究:智能监控中的目标检测
  • 案例研究:制造业中的视觉质量检测
  • 在昇腾310上构建实时视频分析流水线

NLP用例

  • 案例研究:情感分析和意图检测
  • 案例研究:文档分类和摘要
  • 实时NLP与REST API和消息系统的集成

总结与后续步骤

要求

  • 熟悉计算机视觉或NLP的深度学习
  • 有Python和AI框架(如TensorFlow、PyTorch或MindSpore)的使用经验
  • 对模型部署或推理流程有基本了解

目标学员

  • 使用华为昇腾平台的计算机视觉和NLP从业者
  • 开发实时感知模型的数据科学家和AI工程师
  • 在制造、监控或媒体分析中集成CANN流水线的开发者

即将举行的公开课程

课程分类