CANN 用于 Edge AI 部署 培训
华为的Ascend CANN工具包能够在边缘设备(如Ascend 310)上实现强大的AI推理。CANN提供了在计算和内存受限的环境中编译、优化和部署模型所需的必要工具。
本次由讲师指导的培训(线上或线下)面向希望使用CANN工具链在Ascend边缘设备上部署和优化模型的中级AI开发人员和集成人员。
培训结束后,学员将能够:
- 使用CANN工具为Ascend 310准备和转换AI模型。
- 使用MindSpore Lite和AscendCL构建轻量级推理管道。
- 在计算和内存受限的环境中优化模型性能。
- 在实际边缘用例中部署和监控AI应用。
课程形式
- 互动讲座与演示。
- 针对边缘特定模型和场景的实践操作。
- 在虚拟或物理边缘硬件上进行实时部署示例。
课程定制选项
- 如需为本课程定制培训,请联系我们进行安排。
课程大纲
Edge AI 和 Ascend 310 简介
- Edge AI 概述:趋势、限制和应用
- Huawei Ascend 310 芯片架构及支持的工具链
- 在边缘 AI 部署栈中定位 CANN
模型准备与转换
- 从 TensorFlow、PyTorch 和 MindSpore 导出训练好的模型
- 使用 ATC 将模型转换为 OM 格式,以便在 Ascend 设备上使用
- 处理不支持的算子及轻量级转换策略
使用 AscendCL 开发推理管道
- 使用 AscendCL API 在 Ascend 310 上运行 OM 模型
- 输入/输出预处理、内存处理和设备控制
- 在嵌入式容器或轻量级运行时环境中部署
针对边缘限制的优化
- 减少模型大小,精度调优(FP16、INT8)
- 使用 CANN 分析器识别性能瓶颈
- 管理内存布局和数据流以提高性能
使用 MindSpore Lite 部署
- 使用 MindSpore Lite 运行时在移动和嵌入式目标上运行
- 比较 MindSpore Lite 与原生 AscendCL 管道
- 为设备特定部署打包推理模型
边缘部署场景与案例研究
- 案例研究:在 Ascend 310 上部署智能摄像头的目标检测模型
- 案例研究:在物联网传感器中心进行实时分类
- 在边缘监控和更新部署的模型
总结与下一步
要求
- 具备AI模型开发或部署工作流程的经验
- 具备嵌入式系统、Linux和Python的基础知识
- 熟悉深度学习框架,如TensorFlow或PyTorch
受众
- IoT解决方案开发者
- 嵌入式AI工程师
- 边缘系统集成商和AI部署专家
需要帮助选择合适的课程吗?
CANN 用于 Edge AI 部署 培训 - Enquiry
CANN 用于 Edge AI 部署 - 问询
问询
即将举行的公开课程
相关课程
高级Edge AI技术
14 小时本课程为讲师指导的中国(线上或线下)培训,面向高级AI从业者、研究人员和开发者,旨在帮助他们掌握Edge AI的最新技术进展,优化AI模型以进行边缘部署,并探索各行业中的专业应用。
培训结束后,学员将能够:
- 探索Edge AI模型开发和优化的先进技术。
- 实施在边缘设备上部署AI模型的前沿策略。
- 利用专用工具和框架进行高级Edge AI应用。
- 优化Edge AI解决方案的性能和效率。
- 探索Edge AI的创新用例和新兴趋势。
- 解决Edge AI部署中的高级伦理和安全问题。
使用Huawei Ascend和CANN开发AI应用程式
21 小时Huawei Ascend 是一系列专为高性能推理和训练设计的AI处理器。
本课程为讲师指导的培训(线上或线下),面向中级AI工程师和数据科学家,旨在帮助他们使用华为的Ascend平台和CANN工具包开发和优化神经网络模型。
在本培训结束时,参与者将能够:
- 设置和配置CANN开发环境。
- 使用MindSpore和CloudMatrix工作流开发AI应用。
- 使用自定义运算符和分块优化Ascend NPU的性能。
- 将模型部署到边缘或云环境。
课程形式
- 互动讲座和讨论。
- 在示例应用中动手使用Huawei Ascend和CANN工具包。
- 专注于模型构建、训练和部署的指导练习。
课程定制选项
- 如需根据您的基础设施或数据集定制本课程,请联系我们安排。
使用CANN和Ascend AI处理器部署AI模型
14 小时CANN(Neural Networks计算架构)是华为的AI计算堆栈,用于在Ascend AI处理器上部署和优化AI模型。
本次由讲师指导的培训(线上或线下)面向中级AI开发人员和工程师,旨在帮助他们使用CANN工具包及MindSpore、TensorFlow或PyTorch等工具,将训练好的AI模型高效部署到Huawei Ascend硬件上。
通过本次培训,学员将能够:
- 了解CANN架构及其在AI部署流程中的作用。
- 将来自流行框架的模型转换为与Ascend兼容的格式。
- 使用ATC、OM模型转换和MindSpore等工具进行边缘和云端推理。
- 诊断部署问题并优化Ascend硬件上的性能。
课程形式
- 互动式讲座和演示。
- 使用CANN工具和Ascend模拟器或设备进行动手实验。
- 基于真实AI模型的实际部署场景。
课程定制选项
- 如需为本课程定制培训,请联系我们安排。
构建边缘AI解决方案
14 小时本次由讲师指导的线下或线上培训,面向中级开发者、数据科学家和技术爱好者,旨在帮助他们掌握在各种应用中在边缘设备上部署AI模型的实用技能。
培训结束后,参与者将能够:
- 理解Edge AI的原理及其优势。
- 设置和配置边缘计算环境。
- 开发、训练和优化用于边缘部署的AI模型。
- 在边缘设备上实现实用的AI解决方案。
- 评估并改进边缘部署模型的性能。
- 解决Edge AI应用中的伦理和安全问题。
CANN AI 框架开发者入门
7 小时CANN(Neural Networks的计算架构)是华为的AI计算工具包,用于在Ascend AI处理器上编译、优化和部署AI模型。
本次由讲师指导的培训(线上或线下)面向初级的AI开发者,旨在帮助他们了解CANN如何融入从训练到部署的模型生命周期,以及它如何与MindSpore、TensorFlow和PyTorch等框架协作。
在培训结束时,参与者将能够:
- 理解CANN工具包的用途和架构。
- 搭建包含CANN和MindSpore的开发环境。
- 将简单的AI模型转换并部署到Ascend硬件上。
- 为未来的CANN优化或集成项目打下基础。
课程形式
- 互动式讲座和讨论。
- 实践实验,包含简单模型部署。
- 逐步讲解CANN工具链和集成点。
课程定制选项
- 如需定制本课程,请联系我们安排。
理解华为AI计算堆叠:从CANN到MindSpore
14 小时华为的AI技术栈——从底层的CANN SDK到高层的MindSpore框架——提供了一个紧密集成的AI开发和部署环境,专为Ascend硬件优化。
本次由讲师指导的培训(线上或线下)面向初级到中级的技术专业人员,旨在帮助他们理解CANN和MindSpore组件如何协同工作,以支持AI生命周期管理和基础设施决策。
培训结束后,学员将能够:
- 理解华为AI计算栈的分层架构。
- 了解CANN如何支持模型优化和硬件级部署。
- 评估MindSpore框架和工具链,并与行业替代方案进行比较。
- 将华为的AI技术栈定位到企业或云/本地环境中。
课程形式
- 互动讲座与讨论。
- 实时系统演示和基于案例的讲解。
- 可选的指导实验,涵盖从MindSpore到CANN的模型流程。
课程定制选项
- 如需为本课程定制培训,请联系我们安排。
使用CANN SDK优化神经网络性能
14 小时CANN SDK(Neural Networks 的计算架构)是华为的 AI 计算基础,允许开发者在 Ascend AI 处理器上微调和优化已部署的神经网络性能。
这是一个由讲师主导的培训(线上或线下),旨在针对高级 AI 开发者和系统工程师,他们希望使用 CANN 的先进工具集(包括 Graph Engine、TIK 和自定义算子开发)来优化推理性能。
培训结束时,参与者将能够:
- 了解 CANN 的运行时架构和性能生命周期。
- 使用性能分析工具和 Graph Engine 进行性能分析和优化。
- 使用 TIK 和 TVM 创建和优化自定义算子。
- 解决内存瓶颈并提高模型吞吐量。
课程形式
- 互动式讲座和讨论。
- 实时性能分析和算子调优的实践实验室。
- 使用边缘案例部署示例的优化练习。
课程定制选项
- 如需为此课程请求定制培训,请联系我们进行安排。
CANN SDK for Computer Vision and NLP Pipelines
14 小时CANN SDK(Neural Networks 的计算架构)为计算机视觉和自然语言处理(NLP)中的实时AI应用提供了强大的部署和优化工具,特别是在Huawei Ascend硬件上。
本课程为讲师指导的培训(线上或线下),面向中级AI从业者,旨在帮助他们使用CANN SDK构建、部署和优化视觉与语言模型,以应对实际生产用例。
培训结束后,学员将能够:
- 使用CANN和AscendCL部署和优化CV与NLP模型。
- 使用CANN工具转换模型并将其集成到实时管道中。
- 优化检测、分类和情感分析等任务的推理性能。
- 为边缘或云端部署场景构建实时CV/NLP管道。
课程形式
- 互动讲座与演示。
- 动手实验:模型部署与性能分析。
- 使用真实CV和NLP用例设计实时管道。
课程定制选项
- 如需为本课程定制培训,请联系我们进行安排。
使用CANN TIK和TVM构建自定义AI算子
14 小时CANN TIK(张量指令内核)和Apache TVM能够对Huawei Ascend硬件的AI模型操作符进行高级优化和定制。
本次由讲师指导的培训(线上或线下)面向高级系统开发者,旨在帮助他们使用CANN的TIK编程模型和TVM编译器集成,构建、部署和调优AI模型的自定义操作符。
培训结束后,参与者将能够:
- 使用TIK DSL为Ascend处理器编写和测试自定义AI操作符。
- 将自定义操作符集成到CANN运行时和执行图中。
- 使用TVM进行操作符调度、自动调优和基准测试。
- 调试和优化自定义计算模式的指令级性能。
课程形式
- 互动讲座与演示。
- 使用TIK和TVM管道进行实际操作符编码。
- 在Ascend硬件或模拟器上进行测试和调优。
课程定制选项
- 如需为本课程定制培训,请联系我们安排。
边缘人工智能在自主系统中的应用
14 小时本次由讲师指导的线下或线上培训,面向中级机器人工程师、自动驾驶汽车开发者和AI研究人员,旨在帮助他们利用Edge AI技术开发创新的自主系统解决方案。
培训结束后,参与者将能够:
- 理解Edge AI在自主系统中的作用和优势。
- 开发和部署用于边缘设备实时处理的AI模型。
- 在自动驾驶汽车、无人机和机器人中实施Edge AI解决方案。
- 使用Edge AI设计和优化控制系统。
- 解决自主AI应用中的伦理和监管问题。
Edge AI:从概念到实现
14 小时本次由讲师指导的中国(线上或线下)培训面向中级开发人员和IT专业人士,旨在帮助他们全面了解Edge AI从概念到实际实施的全过程,包括设置和部署。
培训结束后,学员将能够:
- 理解Edge AI的基本概念。
- 设置和配置Edge AI环境。
- 开发、训练和优化Edge AI模型。
- 部署和管理Edge AI应用。
- 将Edge AI与现有系统和工作流集成。
- 解决Edge AI实施中的伦理问题,并了解最佳实践。
Edge AI 医疗应用
14 小时本课程为讲师主导的中国(线上或线下)培训,面向希望利用Edge AI开发创新医疗解决方案的中级医疗专业人员、生物医学工程师和AI开发者。
通过本培训,学员将能够:
- 了解Edge AI在医疗领域的作用和优势。
- 在边缘设备上开发和部署用于医疗应用的AI模型。
- 在可穿戴设备和诊断工具中实施Edge AI解决方案。
- 设计和部署基于Edge AI的患者监护系统。
- 解决医疗AI应用中的伦理和监管问题。
Edge AI 在物联网应用中的应用
14 小时本次由讲师指导的线下或线上培训,面向中级开发人员、系统架构师和行业专业人士,旨在帮助他们利用Edge AI增强物联网应用的智能数据处理和分析能力。
培训结束后,学员将能够:
- 理解Edge AI的基础知识及其在物联网中的应用。
- 为物联网设备设置和配置Edge AI环境。
- 在边缘设备上开发和部署用于物联网应用的AI模型。
- 在物联网系统中实现实时数据处理和决策。
- 将Edge AI与各种物联网协议和平台集成。
- 解决Edge AI在物联网中的伦理问题和最佳实践。
Edge AI 简介
14 小时本课程为讲师指导的中国(线上或线下)培训,面向希望了解Edge AI基础知识及其入门应用的初级开发者和IT专业人士。
通过本培训,参与者将能够:
- 理解Edge AI的基本概念和架构。
- 设置和配置Edge AI环境。
- 开发和部署简单的Edge AI应用。
- 识别并理解Edge AI的用例和优势。
边缘AI中的安全与隐私
14 小时本课程为讲师主导的中国(线上或线下)培训,面向中级网络安全专业人员、系统管理员和AI伦理研究人员,旨在帮助他们安全且符合伦理地部署Edge AI解决方案。
培训结束后,学员将能够:
- 了解Edge AI中的安全和隐私挑战。
- 实施保护边缘设备和数据的最佳实践。
- 制定策略,缓解Edge AI部署中的安全风险。
- 解决伦理问题,并确保符合法规要求。
- 对Edge AI应用进行安全评估和审计。