江苏省GPU培训

Huawei Ascend是一系列专为高性能推理和训练设计的AI处理器。

本次由讲师指导的培训（线上或线下）面向中级AI工程师和数据科学家，旨在帮助他们使用华为Ascend平台和CANN工具包开发和优化神经网络模型。

培训结束后，参与者将能够：

• 设置和配置CANN开发环境。
• 使用MindSpore和CloudMatrix工作流开发AI应用。
• 使用自定义算子和分块优化Ascend NPU的性能。
• 将模型部署到边缘或云环境。

课程形式

• 互动式讲座和讨论。
• 在示例应用中动手使用华为Ascend和CANN工具包。
• 专注于模型构建、训练和部署的指导练习。

课程定制选项

• 如需根据您的基础设施或数据集定制本课程，请联系我们安排。

华为的AI技术栈——从底层的CANN SDK到高层的MindSpore框架——提供了一个紧密集成的AI开发和部署环境，专为Ascend硬件优化。

本次由讲师指导的培训（线上或线下）面向初级到中级的技术专业人员，旨在帮助他们理解CANN和MindSpore组件如何协同工作，以支持AI生命周期管理和基础设施决策。

培训结束后，学员将能够：

• 理解华为AI计算栈的分层架构。
• 了解CANN如何支持模型优化和硬件级部署。
• 评估MindSpore框架和工具链，并与行业替代方案进行比较。
• 将华为的AI技术栈定位到企业或云/本地环境中。

课程形式

• 互动讲座与讨论。
• 实时系统演示和基于案例的讲解。
• 可选的指导实验，涵盖从MindSpore到CANN的模型流程。

课程定制选项

• 如需为本课程定制培训，请联系我们安排。

本次由讲师指导的培训在江苏省（线上或线下）进行，面向初级到中级开发者，他们希望使用OpenACC编程异构设备并利用其并行性。

培训结束后，参与者将能够：

• 搭建OpenACC开发环境。
• 编写并运行一个基础的OpenACC程序。
• 使用OpenACC指令和子句注释代码。
• 使用OpenACC API和库。
• 对OpenACC程序进行性能分析、调试和优化。

CANN SDK（神经网络计算架构）为计算机视觉和自然语言处理中的实时AI应用提供了强大的部署和优化工具，尤其是在华为Ascend硬件上。

本次由讲师主导的培训（线上或线下）面向中级AI从业者，旨在帮助他们使用CANN SDK构建、部署和优化视觉与语言模型，以用于实际生产场景。

培训结束后，学员将能够：

• 使用CANN和AscendCL部署和优化CV与NLP模型。
• 使用CANN工具转换模型，并将其集成到实时管道中。
• 优化检测、分类和情感分析等任务的推理性能。
• 为边缘或云端部署场景构建实时CV/NLP管道。

课程形式

• 互动式讲座与演示。
• 动手实验，包括模型部署与性能分析。
• 使用实际CV和NLP用例设计实时管道。

课程定制选项

• 如需定制本课程，请联系我们安排。

这种以讲师为主导的江苏省现场现场培训针对的是希望学习GPU编程基础知识以及开发GPU应用程序的主要框架和工具的初级到中级开发人员。

• 在培训结束时，参与者将能够：
  了解 CPU 和 GPU 计算之间的区别以及 GPU 编程的好处和挑战。
• 为他们的 GPU 应用程序选择正确的框架和工具。
• 创建一个基本的 GPU 程序，该程序使用一个或多个框架和工具执行向量加法。
• 使用相应的 API、语言和库来查询设备信息、分配和解除分配设备内存、在主机和设备之间复制数据、启动内核以及同步线程。
• 使用相应的内存空间（如全局、本地、常量和专用）来优化数据传输和内存访问。
• 使用相应的执行模型（如工作项、工作组、线程、块和网格）来控制并行度。
• 使用 CodeXL 、 CUDA-GDB 、 CUDA-MEMCHECK 和 NVIDIA Nsight 等工具调试和测试 GPU 程序。
• 使用合并、缓存、预取和分析等技术优化 GPU 程序。

CANN TIK（张量指令内核）和Apache TVM能够对Huawei Ascend硬件的AI模型操作符进行高级优化和定制。

本次由讲师指导的培训（线上或线下）面向高级系统开发者，旨在帮助他们使用CANN的TIK编程模型和TVM编译器集成，构建、部署和调优AI模型的自定义操作符。

培训结束后，参与者将能够：

• 使用TIK DSL为Ascend处理器编写和测试自定义AI操作符。
• 将自定义操作符集成到CANN运行时和执行图中。
• 使用TVM进行操作符调度、自动调优和基准测试。
• 调试和优化自定义计算模式的指令级性能。

课程形式

• 互动讲座与演示。
• 使用TIK和TVM管道进行实际操作符编码。
• 在Ascend硬件或模拟器上进行测试和调优。

课程定制选项

• 如需为本课程定制培训，请联系我们安排。

本次由讲师指导的培训在江苏省（线上或线下）面向初学者到中级开发者，旨在帮助他们使用不同的GPU编程框架，并比较其特性、性能和兼容性。

培训结束后，参与者将能够：

• 设置包含OpenCL SDK、CUDA Toolkit、ROCm平台、支持OpenCL、CUDA或ROCm的设备以及Visual Studio Code的开发环境。
• 使用OpenCL、CUDA和ROCm创建一个执行向量加法的基本GPU程序，并比较每个框架的语法、结构和执行方式。
• 使用各自的API查询设备信息、分配和释放设备内存、在主机和设备之间复制数据、启动内核并同步线程。
• 使用各自的语言编写在设备上执行并操作数据的内核。
• 使用各自的内置函数、变量和库来执行常见任务和操作。
• 使用各自的内存空间（如全局、本地、常量和私有）来优化数据传输和内存访问。
• 使用各自的执行模型来控制定义并行性的线程、块和网格。
• 使用CodeXL、CUDA-GDB、CUDA-MEMCHECK和NVIDIA Nsight等工具调试和测试GPU程序。
• 使用合并、缓存、预取和分析等技术优化GPU程序。

CloudMatrix 是华为统一的 AI 开发和部署平台，旨在支持可扩展的生产级推理管道。

本课程由讲师主导，采用线上或线下培训形式，面向初级到中级 AI 专业人员，帮助他们使用 CloudMatrix 平台与 CANN 和 MindSpore 集成来部署和监控 AI 模型。

在培训结束时，参与者将能够：

• 使用 CloudMatrix 进行模型打包、部署和服务。
• 转换和优化模型以适应 Ascend 芯片组。
• 为实时和批量推理任务设置管道。
• 在生产环境中监控部署并调整性能。

课程形式

• 互动式讲座和讨论。
• 在实际部署场景中动手使用 CloudMatrix。
• 专注于转换、优化和扩展的指导练习。

课程定制选项

• 如需根据您的 AI 基础设施或云环境定制本课程，请联系我们进行安排。

华为的Ascend CANN工具包能够在边缘设备（如Ascend 310）上实现强大的AI推理。CANN提供了在计算和内存受限的环境中编译、优化和部署模型所需的必要工具。

本次由讲师指导的培训（线上或线下）面向希望使用CANN工具链在Ascend边缘设备上部署和优化模型的中级AI开发人员和集成人员。

培训结束后，学员将能够：

• 使用CANN工具为Ascend 310准备和转换AI模型。
• 使用MindSpore Lite和AscendCL构建轻量级推理管道。
• 在计算和内存受限的环境中优化模型性能。
• 在实际边缘用例中部署和监控AI应用。

课程形式

• 互动讲座与演示。
• 针对边缘特定模型和场景的实践操作。
• 在虚拟或物理边缘硬件上进行实时部署示例。

课程定制选项

• 如需为本课程定制培训，请联系我们进行安排。

这种以讲师为主导的江苏省现场现场培训面向希望在Windows上安装和使用ROCm以编程AMD GPU并利用其并行性的初级到中级开发人员。

在培训结束时，参与者将能够：

• 在 Windows 上设置包含 ROCm 平台、AMD GPU 和 Visual Studio 代码的开发环境。
• 创建一个基本的 ROCm 程序，该程序对 GPU 执行向量加法并从 GPU 存储器中检索结果。
• 使用 ROCm API 查询设备信息、分配和释放设备内存、在主机和设备之间复制数据、启动内核和同步线程。
• 使用 HIP 语言编写在 GPU 上执行的内核并操作数据。
• 使用 HIP 内置函数、变量和库来执行常见任务和操作。
• 使用 ROCm 和 HIP 内存空间（如全局、共享、常量和本地）来优化数据传输和内存访问。
• 使用 ROCm 和 HIP 执行模型来控制定义并行度的线程、块和网格。
• 使用 ROCm Debugger 和 ROCm Profiler 等工具调试和测试 ROCm 和 HIP 程序。
• 使用合并、缓存、预取和分析等技术优化 ROCm 和 HIP 程序。

这种以讲师为主导的江苏省现场现场培训面向希望使用ROCm和HIP对AMD GPU进行编程并利用其并行性的初级到中级开发人员。

在培训结束时，参与者将能够：

• 设置包含 ROCm 平台、AMD GPU 和 Visual Studio 代码的开发环境。
• 创建一个基本的 ROCm 程序，该程序对 GPU 执行向量加法并从 GPU 存储器中检索结果。
• 使用 ROCm API 查询设备信息、分配和释放设备内存、在主机和设备之间复制数据、启动内核和同步线程。
• 使用 HIP 语言编写在 GPU 上执行的内核并操作数据。
• 使用 HIP 内置函数、变量和库来执行常见任务和操作。
• 使用 ROCm 和 HIP 内存空间（如全局、共享、常量和本地）来优化数据传输和内存访问。
• 使用 ROCm 和 HIP 执行模型来控制定义并行度的线程、块和网格。
• 使用 ROCm Debugger 和 ROCm Profiler 等工具调试和测试 ROCm 和 HIP 程序。
• 使用合并、缓存、预取和分析等技术优化 ROCm 和 HIP 程序。

CANN（Neural Networks的计算架构）是华为的AI计算工具包，用于在Ascend AI处理器上编译、优化和部署AI模型。

本次由讲师指导的培训（线上或线下）面向初级的AI开发者，旨在帮助他们了解CANN如何融入从训练到部署的模型生命周期，以及它如何与MindSpore、TensorFlow和PyTorch等框架协作。

在培训结束时，参与者将能够：

• 理解CANN工具包的用途和架构。
• 搭建包含CANN和MindSpore的开发环境。
• 将简单的AI模型转换并部署到Ascend硬件上。
• 为未来的CANN优化或集成项目打下基础。

课程形式

• 互动式讲座和讨论。
• 实践实验，包含简单模型部署。
• 逐步讲解CANN工具链和集成点。

课程定制选项

• 如需定制本课程，请联系我们安排。

Ascend、Biren 和 Cambricon 是中国领先的 AI 硬体平台，各自提供独特的加速和性能分析工具，用于生产规模的 AI 工作负载。

这项由讲师指导的培训（线上或线下）针对高级 AI 基础设施和性能工程师，旨在优化跨多个中国 AI 晶片平台的模型推理和训练工作流程。

在培训结束时，参与者将能够：

• 在 Ascend、Biren 和 Cambricon 平台上进行模型基准测试。
• 识别系统瓶颈和记忆体/计算效率低下的问题。
• 应用图层级、核心层级和操作层级的优化。
• 调整部署管道以提高吞吐量和减少延迟。

课程形式

• 互动式讲座和讨论。
• 在每个平台上实际使用性能分析和优化工具。
• 专注于实际调整情境的指导练习。

课程定制选项

• 如需根据您的性能环境或模型类型定制此课程，请联系我们安排。

CANN SDK（Neural Networks 的计算架构）是华为的 AI 计算基础，允许开发者在 Ascend AI 处理器上微调和优化已部署的神经网络性能。

这是一个由讲师主导的培训（线上或线下），旨在针对高级 AI 开发者和系统工程师，他们希望使用 CANN 的先进工具集（包括 Graph Engine、TIK 和自定义算子开发）来优化推理性能。

培训结束时，参与者将能够：

• 了解 CANN 的运行时架构和性能生命周期。
• 使用性能分析工具和 Graph Engine 进行性能分析和优化。
• 使用 TIK 和 TVM 创建和优化自定义算子。
• 解决内存瓶颈并提高模型吞吐量。

课程形式

• 互动式讲座和讨论。
• 实时性能分析和算子调优的实践实验室。
• 使用边缘案例部署示例的优化练习。

课程定制选项

• 如需为此课程请求定制培训，请联系我们进行安排。

中国的GPU架构，如Huawei Ascend、Biren和Cambricon MLU，提供了专为本地AI和HPC市场量身定制的CUDA替代方案。

这项由讲师指导的培训（线上或线下）旨在为高级GPU程式设计师和基础设施专家提供迁移和优化现有CUDA应用程序，以便在中国硬件平台上部署的能力。

培训结束后，参与者将能够：

• 评估现有CUDA工作负载与中国芯片替代方案的兼容性。
• 将CUDA代码库移植到华为CANN、Biren SDK和Cambricon BANGPy环境中。
• 比较性能并识别跨平台的优化点。
• 解决跨架构支持和部署中的实际挑战。

课程形式

• 互动式讲座和讨论。
• 实践代码翻译和性能比较实验。
• 专注于多GPU适应策略的指导练习。

课程定制选项

• 如需根据您的平台或CUDA项目定制培训，请联系我们安排。

这个由 讲师指导的 江苏省 现场现场培训（在线或现场）面向希望使用 CUDA 对 NVIDIA GPU 进行程式设计并利用其并行性的初级到中级开发人员。

在本次培训结束时，参与者将能够：

• 设置一个开发环境，其中包括 CUDA 工具包、NVIDIA GPU 和 Visual Studio 代码。
• 创建一个基本的 CUDA 程式，该程式在 GPU 上执行向量加法并从 GPU 记忆体中检索结果。
• 使用 CUDA API 查询设备资讯、分配和释放设备记忆体、在主机和设备之间复制数据、启动内核和同步线程。
• 使用 CUDA C/C++ 语言编写在 GPU 上执行并操作数据的内核。
• 使用 CUDA 内建函数、变数和库来执行常见任务和操作。
• 使用 CUDA 记忆体空间（例如全域、共用、常量和本地）来优化数据传输和记忆体访问。
• 使用 CUDA 执行模型来控制定义并行度的线程、块和网格。
• 使用 CUDA-GDB、CUDA-MEMCHECK 和 NVIDIA Nsight 等工具调试和测试 CUDA 程式。
• 使用合并、缓存、预取和分析等技术优化 CUDA 程式。

97% de clients satisfaits. 

CANN（Neural Networks计算架构）是华为的AI计算堆栈，用于在Ascend AI处理器上部署和优化AI模型。

本次由讲师指导的培训（线上或线下）面向中级AI开发人员和工程师，旨在帮助他们使用CANN工具包及MindSpore、TensorFlow或PyTorch等工具，将训练好的AI模型高效部署到Huawei Ascend硬件上。

通过本次培训，学员将能够：

• 了解CANN架构及其在AI部署流程中的作用。
• 将来自流行框架的模型转换为与Ascend兼容的格式。
• 使用ATC、OM模型转换和MindSpore等工具进行边缘和云端推理。
• 诊断部署问题并优化Ascend硬件上的性能。

课程形式

• 互动式讲座和演示。
• 使用CANN工具和Ascend模拟器或设备进行动手实验。
• 基于真实AI模型的实际部署场景。

课程定制选项

• 如需为本课程定制培训，请联系我们安排。

Biren AI 加速器是专为 AI 和高性能计算（HPC）工作负载设计的高性能 GPU，支持大规模训练和推理。

本课程为讲师主导的培训（线上或线下），面向中级到高级开发者，旨在教授如何使用 Biren 的专有 GPU 栈进行编程和优化，并与基于 CUDA 的环境进行实际对比。

在本课程结束时，学员将能够：

• 理解 Biren GPU 架构和内存层次结构。
• 搭建开发环境并使用 Biren 的编程模型。
• 转换并优化基于 CUDA 的代码以适用于 Biren 平台。
• 应用性能调优和调试技术。

课程形式

• 互动式讲座与讨论。
• 在示例 GPU 工作负载中实践使用 Biren SDK。
• 专注于移植和性能调优的指导练习。

课程定制选项

• 如需根据您的应用栈或集成需求定制本课程，请联系我们安排。

Cambricon MLUs（Machine Learning单元）是专为边缘和数据中心场景中的推理和训练优化的AI芯片。

本次由讲师指导的培训（线上或线下）面向中级开发者，旨在帮助他们使用BANGPy框架和Neuware SDK在Cambricon MLU硬件上构建和部署AI模型。

通过本次培训，参与者将能够：

• 设置和配置BANGPy与Neuware开发环境。
• 为Cambricon MLUs开发和优化基于Python和C++的模型。
• 将模型部署到运行Neuware运行时的边缘和数据中心设备。
• 将机器学习工作流与MLU特定的加速功能集成。

课程形式

• 互动式讲座和讨论。
• 动手实践BANGPy和Neuware进行开发和部署。
• 专注于优化、集成和测试的指导练习。

课程定制选项

• 如需根据您的Cambricon设备型号或使用场景定制本课程，请联系我们安排。

这种由讲师指导的现场培训 江苏省（在线或远程）面向希望安装、配置、管理和排除 CUDA 环境故障的初级系统管理员和 IT 专业人员。

在培训结束时，参与者将能够：

• 了解 CUDA 的架构、组件和功能。
• 安装和配置 CUDA 环境。
• 管理和优化 CUDA 资源。
• 调试和排查常见的 CUDA 问题。

本课程由讲师主导，提供江苏省（线上或线下）培训，面向希望使用OpenCL编程异构设备并利用其并行性的初级到中级开发者。

通过本培训，学员将能够：

• 设置开发环境，包括OpenCL SDK、支持OpenCL的设备和Visual Studio Code。
• 创建一个基本的OpenCL程序，在设备上执行向量加法并从设备内存中检索结果。
• 使用OpenCL API查询设备信息，创建上下文、命令队列、缓冲区、内核和事件。
• 使用OpenCL C语言编写在设备上执行并操作数据的内核。
• 使用OpenCL内置函数、扩展和库执行常见任务和操作。
• 使用OpenCL主机和设备内存模型优化数据传输和内存访问。
• 使用OpenCL执行模型控制工作项、工作组和ND范围。
• 使用CodeXL、Intel VTune和NVIDIA Nsight等工具调试和测试OpenCL程序。
• 使用向量化、循环展开、局部内存和性能分析等技术优化OpenCL程序。

这个由讲师指导的 江苏省 现场培训课程涵盖了如何为并行计算编程 GPU、 如何使用各种平台、如何使用 CUDA 平台及其功能，以及如何使用 CUDA 执行各种优化技术。其中一些应用包括深度学习、分析、图像处理和工程应用。