Apache Kafka for Python Programmers 培训

Apache Beam 是一个开源的统一程式设计模型，用于定义和执行并行数据处理管道。它的强大之处在于它能够同时运行批处理和流式管道，执行由 Beam 支援的分散式处理后端之一执行：Apache Apex、Apache Flink、Apache Spark 和 Google Cloud Dataflow。Apache Beam 对于 ETL（提取、转换和载入）任务非常有用，例如在不同的存储介质和数据源之间移动数据、将数据转换为更理想的格式以及将数据载入到新系统。

在这个由讲师指导的现场培训（现场或远端）中，参与者将学习如何在 Java 或 Python 应用程式中实施 Apache Beam SDK，该应用程式定义了一个数据处理管道，用于将大数据集分解成更小的块，以进行独立的并行处理。

在本次培训结束时，参与者将能够：

• 安装和配置 Apache Beam。
• 使用单个程式设计模型从其 Java 或 Python 应用程式执行批处理和流处理。
• 跨多个环境执行管道。

课程形式

• 部分讲座、部分讨论、练习和大量动手实践

注意

• 本课程将在未来提供 Scala。请联系我们安排。

这是一个由讲师指导的培训课程（线上或线下），旨在帮助工程师使用Confluent（Kafka的分发版本）来构建和管理实时数据处理平台，以满足其应用需求。

在培训结束时，参与者将能够：

• 安装和配置Confluent Platform。
• 使用Confluent的管理工具和服务，更轻松地运行Kafka。
• 存储和处理流入的串流数据。
• 优化和管理Kafka集群。
• 确保数据串流的安全性。

课程形式

• 互动式讲座和讨论。
• 大量的练习和实践。
• 在实时实验室环境中进行动手操作。

课程定制选项

• 本课程基于Confluent的开源版本：Confluent Open Source。
• 如需为本课程定制培训，请联系我们安排。

Apache Kafka是一个分布式流媒体平台。它实际上是构建数据管道的标准，它解决了许多围绕数据处理的不同用例：它可以用作消息队列，分布式日志，流处理器等。

我们将从数据管道背后的一些理论开始，然后继续介绍Kafka背后的基本概念。我们还将发现Kafka Streams和Kafka Connect等重要组件。

这个由 中国 的讲师指导式现场培训（在线或现场）介绍了分散式流和批处理数据处理背后的原理和方法，并引导参与者在 Apache Flink 中创建实时数据流应用程式。

在本次培训结束时，参与者将能够：

• 设置用于开发数据分析应用程式的环境。
• 了解 Apache Flink 的 图形处理库 （Gelly） 的工作原理。
• 打包、执行和监控基于 Flink 的容错数据流应用程式。
• 管理各种工作负载。
• 执行高级分析。
• 设置多节点 Flink 集群。
• 衡量和优化性能。
• 将 Flink 与不同的 Big Data 系统集成。
• 将 Flink 功能与其他大数据处理框架的功能进行比较。

在这个以讲师为主导的中国现场培训（现场或远程）中，参与者将学习如何设置不同的Stream Processing框架并将其与现有的大数据存储系统以及相关的软件应用程序和微服务集成。

在培训结束时，参与者将能够：

• 安装和配置不同的 Stream Processing 框架，例如 Spark Streaming 和 Kafka Streaming。
• 了解并选择最适合工作的框架。
• 以逐条记录的方式连续、并发地处理数据。
• 将 Stream Processing 解决方案与现有数据库、数据仓库、数据湖等集成。
• 将最合适的流处理库与企业应用程序和微服务集成 。

本课程适用于企业架构师，开发人员，系统管理员以及任何想要了解和使用高吞吐量分布式消息传递系统的人员。如果您有更多特定要求（例如，仅限系统管理方），可以根据您的需求定制本课程。

Kafka Streams 是一个客户端库，用于构建应用程序和微服务，其数据在 Kafka 消息系统之间传递。传统上，Apache Kafka 依赖于 Apache Spark 或 Apache Storm 来处理消息生产者和消费者之间的数据。通过在应用程序中调用 Kafka Streams API，数据可以直接在 Kafka 中进行处理，从而避免了将数据发送到单独的集群进行处理的需求。

在这场由讲师指导的线下培训中，参与者将学习如何将 Kafka Streams 集成到一组示例 Java 应用程序中，这些应用程序在 Apache Kafka 之间传递数据以进行流处理。

在培训结束时，参与者将能够：

• 了解 Kafka Streams 的功能及其相较于其他流处理框架的优势
• 直接在 Kafka 集群中处理流数据
• 编写与 Kafka 和 Kafka Streams 集成的 Java 或 Scala 应用程序或微服务
• 编写简洁的代码，将输入的 Kafka 主题转换为输出的 Kafka 主题
• 构建、打包并部署应用程序

目标受众

• 开发人员

课程形式

• 部分讲座、部分讨论、练习和大量动手实践

注意事项

• 如需为本课程定制培训，请联系我们安排

这个由 讲师指导的 中国 现场培训（在线或现场）面向希望在不编写代码的情况下实现 Apache Kafka 流处理的开发人员。

在本次培训结束时，参与者将能够：

• 安装和配置 Confluent KSQL。
• 仅使用 SQL 命令（无 Java 或 Python 编码）设置流处理管道。
• 完全在 SQL 中执行数据过滤、转换、聚合、连接、视窗化和会话化。
• 为流式 ETL 和即时分析设计和部署互动式连续查询。

在这个以讲师为主导的中国现场或远端培训中，参与者将学习如何在实时实验室环境中部署和管理Apache NiFi。

在培训结束时，参与者将能够：

• 安装并配置 Apachi NiFi。
• 从不同的分散式数据源（包括资料库和大数据湖）中获取、转换和管理数据。
• 自动化数据流。
• 启用流分析。
• 应用各种方法进行数据引入。
• 转换 Big Data 并转化为业务洞察。

在这个由讲师指导的 中国 现场培训中，参与者将学习基于流程的程式设计的基础知识，因为他们使用 Apache NiFi 开发许多演示扩展、元件和处理器。

在培训结束时，参与者将能够：

• 了解 NiFi 的架构和数据流概念。
• 使用 NiFi 和第三方 API 开发扩展。
• 定制开发自己的Apache Nifi处理器。
• 从不同和不常见的档格式和数据源中摄取和处理实时数据。

这种以讲师为主导的中国现场培训（现场或远程）针对希望使用Spark Streaming功能处理和分析实时数据的数据工程师，数据科学家和程序员。

在本次培训结束时，参与者将能够使用 Spark Streaming 处理实时数据流，以便在数据库、文件系统和实时仪表板中使用。

这种以讲师为主导的中国现场培训（现场或远程）针对的是希望使用Spring Cloud，Kafka，Docker，Kubernetes和Redis将传统架构转换为高度并发的基于微服务的架构的开发人员。

在培训结束时，参与者将能够：

• 设置构建微服务所需的开发环境。
• 使用 Spring Cloud、Kafka、Redis、Docker 和 Kubernetes 设计和实现高度并发的微服务生态系统。
• 将单体式和 SOA 服务转变为基于微服务的架构。
• 采用 DevOps 方法来开发、测试和发布软件。
• 确保生产中微服务之间的高并发性。
• 监控微服务并实施恢复策略。
• 执行性能调优。
• 了解微服务架构的未来趋势。