联系我们

课程大纲

寒武纪与MLU架构简介

  • 寒武纪AI芯片产品线概览
  • MLU架构与指令流水线
  • 支持的模型类型与使用场景

安装开发工具链

  • 安装BANGPy和Neuware SDK
  • Python和C++环境配置
  • 模型兼容性与预处理

使用BANGPy开发模型

  • 张量结构与形状管理
  • 计算图构建
  • BANGPy中的自定义算子支持

使用Neuware运行时部署

  • 模型转换与加载
  • 执行与推理控制
  • 边缘及数据中心部署实践

性能优化

  • 内存映射与层调优
  • 执行追踪与性能剖析
  • 常见瓶颈及解决方案

将MLU集成到应用程序

  • 使用Neuware API进行应用集成
  • 流式与多模型支持
  • CPU-MLU混合推理场景

端到端项目与案例

  • 实验:部署视觉或NLP模型
  • 集成BANGPy的边缘推理
  • 测试准确性与吞吐量

总结与后续步骤

要求

  • 了解机器学习模型结构
  • 具备Python和/或C++编程经验
  • 熟悉模型部署与加速概念

目标学员

  • 嵌入式AI开发者
  • 负责边缘或数据中心部署的机器学习工程师
  • 使用中国AI基础设施的开发者
 21 小时

客户评论 (1)

即将举行的公开课程

课程分类