课程大纲

CANN在CV/NLP部署中的介绍

  • AI模型从训练到部署的生命周期
  • 实时CV和NLP的关键性能考量
  • CANN SDK工具及其在模型集成中的作用概述

准备CV和NLP模型

  • 从PyTorch、TensorFlow和MindSpore导出模型
  • 处理图像和文本任务的模型输入/输出
  • 使用ATC将模型转换为OM格式

使用AscendCL部署推理管道

  • 使用AscendCL API运行CV/NLP推理
  • 预处理管道:图像缩放、分词、归一化
  • 后处理:边界框、分类分数、文本输出

性能优化技术

  • 使用CANN工具分析CV和NLP模型
  • 通过混合精度和批量调优减少延迟
  • 管理流任务的内存与计算资源

计算机视觉用例

  • 案例研究:智能监控中的目标检测
  • 案例研究:制造中的视觉质量检测
  • 在Ascend 310上构建实时视频分析管道

自然语言处理用例

  • 案例研究:情感分析与意图检测
  • 案例研究:文档分类与摘要生成
  • 与REST API和消息系统集成的实时NLP

总结与下一步

要求

  • 熟悉计算机视觉或自然语言处理的深度学习。
  • 具备Python和AI框架(如TensorFlow、PyTorch或MindSpore)的使用经验。
  • 对模型部署或推理工作流程有基本了解。

受众

  • 使用华为Ascend平台的计算机视觉与自然语言处理从业者。
  • 开发实时感知模型的数据科学家与AI工程师。
  • 在制造、监控或媒体分析中集成CANN管道的开发者。
 14 小时

客户评论 (1)

即将举行的公开课程

课程分类