Cambricon MLU Development with BANGPy and Neuware 培训
Cambricon MLUs(Machine Learning单元)是专为边缘和数据中心场景中的推理和训练优化的AI芯片。
本次由讲师指导的培训(线上或线下)面向中级开发者,旨在帮助他们使用BANGPy框架和Neuware SDK在Cambricon MLU硬件上构建和部署AI模型。
通过本次培训,参与者将能够:
- 设置和配置BANGPy与Neuware开发环境。
- 为Cambricon MLUs开发和优化基于Python和C++的模型。
- 将模型部署到运行Neuware运行时的边缘和数据中心设备。
- 将机器学习工作流与MLU特定的加速功能集成。
课程形式
- 互动式讲座和讨论。
- 动手实践BANGPy和Neuware进行开发和部署。
- 专注于优化、集成和测试的指导练习。
课程定制选项
- 如需根据您的Cambricon设备型号或使用场景定制本课程,请联系我们安排。
课程大纲
Cambricon与MLU架构简介
- Cambricon AI芯片产品概述
- MLU架构与指令流水线
- 支持的模型类型与用例
安装开发工具链
- 安装BANGPy与Neuware SDK
- Python和C++的环境配置
- 模型兼容性与预处理
使用BANGPy进行模型开发
- 张量结构与形状管理
- 计算图构建
- BANGPy中的自定义操作支持
使用Neuware Runtime部署
- 模型转换与加载
- 执行与推理控制
- 边缘与数据中心部署实践
性能优化
- 内存映射与层调优
- 执行跟踪与性能分析
- 常见瓶颈与解决方案
将MLU集成到应用中
- 使用Neuware API进行应用集成
- 流式与多模型支持
- CPU-MLU混合推理场景
端到端项目与Use Case
- 实验:部署视觉或NLP模型
- 使用BANGPy集成进行边缘推理
- 测试准确性与吞吐量
总结与下一步
要求
- 了解机器学习模型结构
- 具备Python和/或C++的经验
- 熟悉模型部署与加速概念
目标受众
- 嵌入式AI开发者
- 部署至边缘或数据中心的ML工程师
- 使用中国AI基础设施的开发者
需要帮助选择合适的课程吗?
Cambricon MLU Development with BANGPy and Neuware 培训 - Enquiry
Cambricon MLU Development with BANGPy and Neuware - 问询
问询
即将举行的公开课程
相关课程
高级Edge AI技术
14 小时本课程为讲师指导的中国(线上或线下)培训,面向高级AI从业者、研究人员和开发者,旨在帮助他们掌握Edge AI的最新技术进展,优化AI模型以进行边缘部署,并探索各行业中的专业应用。
培训结束后,学员将能够:
- 探索Edge AI模型开发和优化的先进技术。
- 实施在边缘设备上部署AI模型的前沿策略。
- 利用专用工具和框架进行高级Edge AI应用。
- 优化Edge AI解决方案的性能和效率。
- 探索Edge AI的创新用例和新兴趋势。
- 解决Edge AI部署中的高级伦理和安全问题。
构建边缘AI解决方案
14 小时本次由讲师指导的线下或线上培训,面向中级开发者、数据科学家和技术爱好者,旨在帮助他们掌握在各种应用中在边缘设备上部署AI模型的实用技能。
培训结束后,参与者将能够:
- 理解Edge AI的原理及其优势。
- 设置和配置边缘计算环境。
- 开发、训练和优化用于边缘部署的AI模型。
- 在边缘设备上实现实用的AI解决方案。
- 评估并改进边缘部署模型的性能。
- 解决Edge AI应用中的伦理和安全问题。
Migrating CUDA Applications to Chinese GPU Architectures
21 小时中国的GPU架构,如Huawei Ascend、Biren和Cambricon MLU,提供了专为本地AI和HPC市场量身定制的CUDA替代方案。
这项由讲师指导的培训(线上或线下)旨在为高级GPU程式设计师和基础设施专家提供迁移和优化现有CUDA应用程序,以便在中国硬件平台上部署的能力。
培训结束后,参与者将能够:
- 评估现有CUDA工作负载与中国芯片替代方案的兼容性。
- 将CUDA代码库移植到华为CANN、Biren SDK和Cambricon BANGPy环境中。
- 比较性能并识别跨平台的优化点。
- 解决跨架构支持和部署中的实际挑战。
课程形式
- 互动式讲座和讨论。
- 实践代码翻译和性能比较实验。
- 专注于多GPU适应策略的指导练习。
课程定制选项
- 如需根据您的平台或CUDA项目定制培训,请联系我们安排。
边缘人工智能在自主系统中的应用
14 小时本次由讲师指导的线下或线上培训,面向中级机器人工程师、自动驾驶汽车开发者和AI研究人员,旨在帮助他们利用Edge AI技术开发创新的自主系统解决方案。
培训结束后,参与者将能够:
- 理解Edge AI在自主系统中的作用和优势。
- 开发和部署用于边缘设备实时处理的AI模型。
- 在自动驾驶汽车、无人机和机器人中实施Edge AI解决方案。
- 使用Edge AI设计和优化控制系统。
- 解决自主AI应用中的伦理和监管问题。
Edge AI:从概念到实现
14 小时本次由讲师指导的中国(线上或线下)培训面向中级开发人员和IT专业人士,旨在帮助他们全面了解Edge AI从概念到实际实施的全过程,包括设置和部署。
培训结束后,学员将能够:
- 理解Edge AI的基本概念。
- 设置和配置Edge AI环境。
- 开发、训练和优化Edge AI模型。
- 部署和管理Edge AI应用。
- 将Edge AI与现有系统和工作流集成。
- 解决Edge AI实施中的伦理问题,并了解最佳实践。
边缘AI在金融服务中的应用
14 小时本课程为讲师指导的中国(线上或线下)培训,面向中级财务专业人士、金融科技开发者和AI专家,旨在帮助他们实现在金融服务中应用Edge AI的解决方案。
通过本培训,学员将能够:
- 了解Edge AI在金融服务中的作用。
- 使用Edge AI实施欺诈检测系统。
- 通过AI驱动的解决方案提升客户服务。
- 应用Edge AI进行风险管理和决策支持。
- 在金融环境中部署和管理Edge AI解决方案。
Edge AI 医疗应用
14 小时本课程为讲师主导的中国(线上或线下)培训,面向希望利用Edge AI开发创新医疗解决方案的中级医疗专业人员、生物医学工程师和AI开发者。
通过本培训,学员将能够:
- 了解Edge AI在医疗领域的作用和优势。
- 在边缘设备上开发和部署用于医疗应用的AI模型。
- 在可穿戴设备和诊断工具中实施Edge AI解决方案。
- 设计和部署基于Edge AI的患者监护系统。
- 解决医疗AI应用中的伦理和监管问题。
边缘AI在工业自动化中的应用
14 小时本次由讲师指导的中国(线上或线下)培训面向中级工业工程师、制造专业人士和AI开发者,旨在帮助他们在工业自动化中实施Edge AI解决方案。
培训结束后,参与者将能够:
- 了解Edge AI在工业自动化中的作用。
- 使用Edge AI实施预测性维护解决方案。
- 在制造过程中应用AI技术进行质量控制。
- 使用Edge AI优化工业流程。
- 在工业环境中部署和管理Edge AI解决方案。
Edge AI 在物联网应用中的应用
14 小时本次由讲师指导的线下或线上培训,面向中级开发人员、系统架构师和行业专业人士,旨在帮助他们利用Edge AI增强物联网应用的智能数据处理和分析能力。
培训结束后,学员将能够:
- 理解Edge AI的基础知识及其在物联网中的应用。
- 为物联网设备设置和配置Edge AI环境。
- 在边缘设备上开发和部署用于物联网应用的AI模型。
- 在物联网系统中实现实时数据处理和决策。
- 将Edge AI与各种物联网协议和平台集成。
- 解决Edge AI在物联网中的伦理问题和最佳实践。
Edge AI 智慧城市
14 小时本次由讲师主导的线下或线上培训,面向中级城市规划师、土木工程师和智慧城市项目经理,旨在帮助他们利用Edge AI推动智慧城市项目。
培训结束后,参与者将能够:
- 理解Edge AI在智慧城市基础设施中的作用。
- 实施Edge AI解决方案,用于交通管理和监控。
- 利用Edge AI技术优化城市资源。
- 将Edge AI与现有智慧城市系统集成。
- 解决智慧城市部署中的伦理和监管问题。
Edge AI with TensorFlow Lite
14 小时本课程为讲师指导的线下或线上培训,面向中级开发者、数据科学家和AI从业者,旨在帮助他们利用TensorFlow Lite开发Edge AI应用。
通过本培训,学员将能够:
- 理解TensorFlow Lite的基础知识及其在Edge AI中的作用。
- 使用TensorFlow Lite开发和优化AI模型。
- 在各种边缘设备上部署TensorFlow Lite模型。
- 掌握模型转换和优化的工具与技术。
- 使用TensorFlow Lite实现实际的Edge AI应用。
Edge AI 简介
14 小时本课程为讲师指导的中国(线上或线下)培训,面向希望了解Edge AI基础知识及其入门应用的初级开发者和IT专业人士。
通过本培训,参与者将能够:
- 理解Edge AI的基本概念和架构。
- 设置和配置Edge AI环境。
- 开发和部署简单的Edge AI应用。
- 识别并理解Edge AI的用例和优势。
优化AI模型以适用于边缘设备
14 小时本次由讲师指导的线下或线上培训,面向希望优化AI模型以在边缘设备上部署的中级AI开发者、机器学习工程师和系统架构师。
在培训结束时,参与者将能够:
- 了解在边缘设备上部署AI模型的挑战和需求。
- 应用模型压缩技术,减少AI模型的规模和复杂性。
- 利用量化方法,提升模型在边缘硬件上的效率。
- 实施剪枝和其他优化技术,提升模型性能。
- 在各种边缘设备上部署优化后的AI模型。
Performance Optimization on Ascend, Biren, and Cambricon
21 小时Ascend、Biren 和 Cambricon 是中国领先的 AI 硬体平台,各自提供独特的加速和性能分析工具,用于生产规模的 AI 工作负载。
这项由讲师指导的培训(线上或线下)针对高级 AI 基础设施和性能工程师,旨在优化跨多个中国 AI 晶片平台的模型推理和训练工作流程。
在培训结束时,参与者将能够:
- 在 Ascend、Biren 和 Cambricon 平台上进行模型基准测试。
- 识别系统瓶颈和记忆体/计算效率低下的问题。
- 应用图层级、核心层级和操作层级的优化。
- 调整部署管道以提高吞吐量和减少延迟。
课程形式
- 互动式讲座和讨论。
- 在每个平台上实际使用性能分析和优化工具。
- 专注于实际调整情境的指导练习。
课程定制选项
- 如需根据您的性能环境或模型类型定制此课程,请联系我们安排。
边缘AI中的安全与隐私
14 小时本课程为讲师主导的中国(线上或线下)培训,面向中级网络安全专业人员、系统管理员和AI伦理研究人员,旨在帮助他们安全且符合伦理地部署Edge AI解决方案。
培训结束后,学员将能够:
- 了解Edge AI中的安全和隐私挑战。
- 实施保护边缘设备和数据的最佳实践。
- 制定策略,缓解Edge AI部署中的安全风险。
- 解决伦理问题,并确保符合法规要求。
- 对Edge AI应用进行安全评估和审计。