Cambricon MLU Development with BANGPy and Neuware 培训
Cambricon MLUs(Machine Learning单元)是专为边缘和数据中心场景中的推理和训练优化的AI芯片。
本次由讲师指导的培训(线上或线下)面向中级开发者,旨在帮助他们使用BANGPy框架和Neuware SDK在Cambricon MLU硬件上构建和部署AI模型。
通过本次培训,参与者将能够:
- 设置和配置BANGPy与Neuware开发环境。
- 为Cambricon MLUs开发和优化基于Python和C++的模型。
- 将模型部署到运行Neuware运行时的边缘和数据中心设备。
- 将机器学习工作流与MLU特定的加速功能集成。
课程形式
- 互动式讲座和讨论。
- 动手实践BANGPy和Neuware进行开发和部署。
- 专注于优化、集成和测试的指导练习。
课程定制选项
- 如需根据您的Cambricon设备型号或使用场景定制本课程,请联系我们安排。
课程大纲
Cambricon与MLU架构简介
- Cambricon AI芯片产品概述
- MLU架构与指令流水线
- 支持的模型类型与用例
安装开发工具链
- 安装BANGPy与Neuware SDK
- Python和C++的环境配置
- 模型兼容性与预处理
使用BANGPy进行模型开发
- 张量结构与形状管理
- 计算图构建
- BANGPy中的自定义操作支持
使用Neuware Runtime部署
- 模型转换与加载
- 执行与推理控制
- 边缘与数据中心部署实践
性能优化
- 内存映射与层调优
- 执行跟踪与性能分析
- 常见瓶颈与解决方案
将MLU集成到应用中
- 使用Neuware API进行应用集成
- 流式与多模型支持
- CPU-MLU混合推理场景
端到端项目与Use Case
- 实验:部署视觉或NLP模型
- 使用BANGPy集成进行边缘推理
- 测试准确性与吞吐量
总结与下一步
要求
- 了解机器学习模型结构
- 具备Python和/或C++的经验
- 熟悉模型部署与加速概念
目标受众
- 嵌入式AI开发者
- 部署至边缘或数据中心的ML工程师
- 使用中国AI基础设施的开发者
需要帮助选择合适的课程吗?
Cambricon MLU Development with BANGPy and Neuware 培训 - 询价
Cambricon MLU Development with BANGPy and Neuware - 问询
即将举行的公开课程
相关课程
5G和Edge AI:实现超低延迟应用
21 小时本次由讲师指导的线下或线上培训,面向中级电信专业人员、AI工程师和物联网专家,旨在探讨5G网络如何加速边缘AI应用。
培训结束后,学员将能够:
- 了解5G技术的基础知识及其对边缘AI的影响。
- 在5G环境中部署针对低延迟应用优化的AI模型。
- 利用边缘AI和5G连接实现实时决策系统。
- 优化AI工作负载,提升边缘设备的性能。
6G与智能边缘
21 小时6G与智能边缘是一门前瞻性课程,探讨6G无线技术与边缘计算、物联网生态系统及AI驱动数据处理的结合,以支持智能、低延迟和自适应基础设施。
本课程为讲师指导的培训(线上或线下),面向中级IT架构师,旨在帮助他们理解并设计下一代分布式架构,充分利用6G连接与智能边缘系统的协同效应。
完成本课程后,学员将能够:
- 理解6G将如何改变边缘计算和物联网架构。
- 设计超低延迟、高带宽和自主操作的分布式系统。
- 在边缘集成AI和数据分析,实现智能决策。
- 规划可扩展、安全且具备弹性的6G就绪边缘基础设施。
- 评估6G与边缘融合带来的业务和运营模式。
课程形式
- 互动式讲座与讨论。
- 案例研究与实际架构设计练习。
- 使用可选边缘或容器工具进行动手模拟。
课程定制选项
- 如需定制本课程,请联系我们安排。
高级边缘AI技术
14 小时本次讲师指导的培训在中国(线上或线下)面向希望掌握边缘AI最新进展、优化AI模型以进行边缘部署,并探索各行业专门应用的高级AI从业者、研究人员和开发者。
培训结束后,学员将能够:
- 探索边缘AI模型开发和优化的高级技术。
- 实施在边缘设备上部署AI模型的前沿策略。
- 利用专门工具和框架进行高级边缘AI应用。
- 优化边缘AI解决方案的性能和效率。
- 探索边缘AI的创新用例和新兴趋势。
- 解决边缘AI部署中的高级伦理和安全问题。
构建边缘AI解决方案
14 小时本次由讲师指导的线下或线上培训,面向中级开发者、数据科学家和技术爱好者,旨在帮助他们掌握在各种应用中在边缘设备上部署AI模型的实用技能。
培训结束后,参与者将能够:
- 理解Edge AI的原理及其优势。
- 设置和配置边缘计算环境。
- 开发、训练和优化用于边缘部署的AI模型。
- 在边缘设备上实现实用的AI解决方案。
- 评估并改进边缘部署模型的性能。
- 解决Edge AI应用中的伦理和安全问题。
构建安全且具有弹性的Edge AI系统
21 小时本次由讲师指导的线下或线上培训,面向高级网络安全专业人士、AI工程师和物联网开发者,旨在帮助他们为Edge AI系统实施强大的安全措施和弹性策略。
培训结束后,参与者将能够:
- 了解Edge AI部署中的安全风险和漏洞。
- 实施加密和认证技术以保护数据。
- 设计能够抵御网络威胁的弹性Edge AI架构。
- 在边缘环境中应用安全的AI模型部署策略。
CANN 用于 Edge AI 部署
14 小时华为的Ascend CANN工具包能够在边缘设备(如Ascend 310)上实现强大的AI推理。CANN提供了在计算和内存受限的环境中编译、优化和部署模型所需的必要工具。
本次由讲师指导的培训(线上或线下)面向希望使用CANN工具链在Ascend边缘设备上部署和优化模型的中级AI开发人员和集成人员。
培训结束后,学员将能够:
- 使用CANN工具为Ascend 310准备和转换AI模型。
- 使用MindSpore Lite和AscendCL构建轻量级推理管道。
- 在计算和内存受限的环境中优化模型性能。
- 在实际边缘用例中部署和监控AI应用。
课程形式
- 互动讲座与演示。
- 针对边缘特定模型和场景的实践操作。
- 在虚拟或物理边缘硬件上进行实时部署示例。
课程定制选项
- 如需为本课程定制培训,请联系我们进行安排。
Migrating CUDA Applications to Chinese GPU Architectures
21 小时中国的GPU架构,如Huawei Ascend、Biren和Cambricon MLU,提供了专为本地AI和HPC市场量身定制的CUDA替代方案。
这项由讲师指导的培训(线上或线下)旨在为高级GPU程式设计师和基础设施专家提供迁移和优化现有CUDA应用程序,以便在中国硬件平台上部署的能力。
培训结束后,参与者将能够:
- 评估现有CUDA工作负载与中国芯片替代方案的兼容性。
- 将CUDA代码库移植到华为CANN、Biren SDK和Cambricon BANGPy环境中。
- 比较性能并识别跨平台的优化点。
- 解决跨架构支持和部署中的实际挑战。
课程形式
- 互动式讲座和讨论。
- 实践代码翻译和性能比较实验。
- 专注于多GPU适应策略的指导练习。
课程定制选项
- 如需根据您的平台或CUDA项目定制培训,请联系我们安排。
边缘AI在农业中的应用:智能农业与精准监测
21 小时本课程为讲师主导的培训,在中国(线上或线下)进行,面向初级到中级水平的农业科技专业人士、物联网专家和AI工程师,旨在帮助他们开发和部署边缘AI解决方案,用于智能农业。
培训结束后,学员将能够:
- 了解边缘AI在精准农业中的作用。
- 实施AI驱动的作物和牲畜监测系统。
- 开发自动化灌溉和环境感知解决方案。
- 利用实时边缘AI分析优化农业效率。
边缘人工智能在自主系统中的应用
14 小时本次由讲师指导的线下或线上培训,面向中级机器人工程师、自动驾驶汽车开发者和AI研究人员,旨在帮助他们利用Edge AI技术开发创新的自主系统解决方案。
培训结束后,参与者将能够:
- 理解Edge AI在自主系统中的作用和优势。
- 开发和部署用于边缘设备实时处理的AI模型。
- 在自动驾驶汽车、无人机和机器人中实施Edge AI解决方案。
- 使用Edge AI设计和优化控制系统。
- 解决自主AI应用中的伦理和监管问题。
边缘AI:从概念到实现
14 小时本次由讲师指导的培训在中国(线上或线下)面向中级开发人员和IT专业人员,旨在帮助他们全面了解边缘AI,从概念到实际实现,包括设置和部署。
培训结束后,参与者将能够:
- 理解边缘AI的基本概念。
- 设置和配置边缘AI环境。
- 开发、训练和优化边缘AI模型。
- 部署和管理边缘AI应用。
- 将边缘AI与现有系统和工作流集成。
- 解决边缘AI实施中的伦理问题和最佳实践。
边缘AI用于计算机视觉:实时图像处理
21 小时本课程为讲师指导的培训,在中国(线上或线下)进行,面向希望实现和优化用于边缘设备实时处理的计算机视觉模型的中高级计算机视觉工程师、AI开发者和物联网专业人士。
通过本课程,参与者将能够:
- 了解边缘AI的基础知识及其在计算机视觉中的应用。
- 在边缘设备上部署优化的深度学习模型,用于实时图像和视频分析。
- 使用TensorFlow Lite、OpenVINO和NVIDIA Jetson SDK等框架进行模型部署。
- 优化AI模型,以提高性能、能效和低延迟推理。
金融服务的边缘AI
14 小时本课程由讲师主导,提供中国(线上或线下)培训,面向希望在金融服务中实施边缘AI解决方案的中级金融专业人士、金融科技开发者和AI专家。
培训结束后,参与者将能够:
- 理解边缘AI在金融服务中的作用。
- 使用边缘AI实施欺诈检测系统。
- 通过AI驱动解决方案提升客户服务。
- 应用边缘AI进行风险管理和决策。
- 在金融环境中部署和管理边缘AI解决方案。
医疗领域的边缘人工智能
14 小时本课程由讲师主导,提供中国(线上或线下)培训,面向中级医疗专业人员、生物医学工程师和人工智能开发者,旨在利用边缘人工智能开发创新医疗解决方案。
培训结束后,学员将能够:
- 了解边缘人工智能在医疗中的作用和优势。
- 为医疗应用开发和部署边缘设备上的人工智能模型。
- 在可穿戴设备和诊断工具中实施边缘人工智能解决方案。
- 使用边缘人工智能设计和部署患者监护系统。
- 处理医疗人工智能应用中的伦理和法规问题。
边缘AI在工业自动化中的应用
14 小时本课程为讲师指导的培训,在中国(线上或线下)进行,面向希望将边缘AI解决方案应用于工业自动化的中级工业工程师、制造专业人员和AI开发者。
通过本培训,学员将能够:
- 了解边缘AI在工业自动化中的作用。
- 使用边缘AI实施预测性维护解决方案。
- 在制造过程中应用AI技术进行质量控制。
- 使用边缘AI优化工业流程。
- 在工业环境中部署和管理边缘AI解决方案。
Performance Optimization on Ascend, Biren, and Cambricon
21 小时Ascend、Biren 和 Cambricon 是中国领先的 AI 硬体平台,各自提供独特的加速和性能分析工具,用于生产规模的 AI 工作负载。
这项由讲师指导的培训(线上或线下)针对高级 AI 基础设施和性能工程师,旨在优化跨多个中国 AI 晶片平台的模型推理和训练工作流程。
在培训结束时,参与者将能够:
- 在 Ascend、Biren 和 Cambricon 平台上进行模型基准测试。
- 识别系统瓶颈和记忆体/计算效率低下的问题。
- 应用图层级、核心层级和操作层级的优化。
- 调整部署管道以提高吞吐量和减少延迟。
课程形式
- 互动式讲座和讨论。
- 在每个平台上实际使用性能分析和优化工具。
- 专注于实际调整情境的指导练习。
课程定制选项
- 如需根据您的性能环境或模型类型定制此课程,请联系我们安排。