Apache Spark Fundamentals培训

在这个由讲师指导的 中国 现场培训中，参与者将学习如何在动手练习时结合使用 Python 和 Spark 来分析大数据。

在培训结束时，参与者将能够：

• 了解如何将 Spark 与 Python 结合使用来分析大数据。
• 进行模仿真实案例的练习。
• 使用不同的工具和技术使用 PySpark 进行大数据分析。

在这个以讲师为主导的中国现场培训中，参与者将了解用于处理图形数据的技术产品和实施方法。目的是识别真实世界的对象、它们的特征和关系，然后对这些关系进行建模，并使用 Graph Computing（也称为图形分析）方法将它们作为数据进行处理。我们从广泛的概述开始，并在逐步完成一系列案例研究、动手练习和实时部署时缩小具体工具的范围。

在培训结束时，参与者将能够：

• 了解如何持久化和遍历图形数据。
• 为给定任务选择最佳框架（从图形数据库到批处理框架）。
• 实现 Hadoop、Spark、GraphX 和 Pregel，在多台机器上并行进行图计算。
• 从图形、流程和遍历的角度查看现实世界的大数据问题。

MLlib是Spark的机器学习（ML）库。其目标是使实用的机器学习可扩展且简单。它由常见的学习算法和实用程序组成，包括分类，回归，聚类，协同过滤，降维，以及低级优化原语和更高级别的管道API。

它分为两个包：

• spark.mllib包含在RDD之上构建的原始API。

• spark.ml提供了构建在DataFrame之上的更高级API，用于构建ML管道。

听众

本课程面向希望利用Apache Spark内置机器库的工程师和开发人员

本课程面向希望在其应用程序中理解和实施人工智能的开发人员和数据科学家。 特别关注数据分析、分布式人工智能和自然语言处理。

目的：

本课程将介绍Apache Spark 。学生将学习Spark如何适应Big Data生态系统，以及如何使用Spark进行数据分析。该课程涵盖Spark shell，用于交互式数据分析，Spark内部，Spark API，Spark SQL ，Spark流，机器学习和graphX。

听众：

开发人员/数据分析师

这个由讲师指导的中国现场培训（现场或远程）介绍了Hortonworks Data Platform (HDP)，并引导参与者完成Spark + Hadoop解决方案的部署。

在培训结束时，参与者将能够：

使用 Hortonworks 大规模可靠地运行 Hadoop。 将 Hadoop 的安全、治理和运营功能与 Spark 的敏捷分析工作流统一起来。 使用 Hortonworks 调查、验证、认证和支持 Spark 项目中的每个组件。 处理不同类型的数据，包括结构化、非结构化、动态和静态数据。

Magellan 是一款开源分布式执行引擎,用于大数据的地质空间分析。 实施在 Apache Spark 的顶部,它扩展 Spark SQL 并为地空间分析提供相对抽象。

由导师领导的现场培训介绍了实施地空间分析的概念和方法,并通过创建一个预测分析应用程序,使用Magellan在Spark的参与者行走。

在本研讨会结束后,参与者将能够:

• 有效地查询、分配和将地质空间数据集集合到规模
• 在商业智能和预测分析应用中实施地空间数据
• 使用空间背景扩展移动设备、传感器、日志和可携带设备的能力

课程格式

• 互动讲座和讨论。
• 很多练习和练习。
• 在现场实验室环境中进行手动实施。

课程定制选项

• 要申请此课程的定制培训,请联系我们安排。

Spark SQL是Apache Spark用于处理结构化和非结构化数据的模块。 Spark SQL提供有关数据结构以及正在执行的计算的信息。此信息可用于执行优化。 Spark SQL两个常见用途是：
- 执行SQL查询。
- 从现有Hive安装中读取数据。

在这个由讲师指导的实时培训（现场或远程）中，参与者将学习如何使用Spark SQL分析各种类型的数据集。

在培训结束时，参与者将能够：

• 安装和配置Spark SQL 。
• 使用Spark SQL执行数据分析。
• 以不同格式查询数据集。
• 可视化数据和查询结果。

课程格式

• 互动讲座和讨论。
• 大量的练习和练习。
• 在实时实验室环境中亲自实施。

课程自定义选项

• 要申请本课程的定制培训，请联系我们安排。

在这个以讲师为主导的中国现场培训（现场或远程）中，参与者将学习如何设置不同的Stream Processing框架并将其与现有的大数据存储系统以及相关的软件应用程序和微服务集成。

在培训结束时，参与者将能够：

• 安装和配置不同的 Stream Processing 框架，例如 Spark Streaming 和 Kafka Streaming。
• 了解并选择最适合工作的框架。
• 以逐条记录的方式连续、并发地处理数据。
• 将 Stream Processing 解决方案与现有数据库、数据仓库、数据湖等集成。
• 将最合适的流处理库与企业应用程序和微服务集成 。

大数据分析涉及检查大量不同数据集的过程，以便发现相关性，隐藏模式和其他有用的见解。

健康产业拥有大量复杂的异构医学和临床数据。对健康数据应用大数据分析在获得改善医疗保健服务的见解方面具有巨大潜力。然而，这些数据集的巨大性给分析和临床环境的实际应用带来了巨大挑战。

在这个以讲师为主导的现场培训（远程）中，参与者将学习如何在健康状况下进行大数据分析，因为他们将逐步进行一系列动手实践练习。

在培训结束时，参与者将能够：

• 安装和配置大数据分析工具，如Hadoop MapReduce和Spark
• 了解医疗数据的特征
• 应用大数据技术处理医疗数据
• 在健康应用的背景下研究大数据系统和算法

听众

• 开发商
• 数据科学家

课程格式

• 部分讲座，部分讨论，练习和繁重的实践练习。

注意

• 要申请本课程的定制培训，请联系我们安排。

Apache Spark的学习曲线在开始时逐渐增加，需要付出很多努力来获得第一次回归。本课程旨在突破第一个艰难的部分。参加本课程后，参与者将了解Apache Spark的基础知识，他们将明确区分RDD和DataFrame，他们将学习Python和Scala API，他们将理解执行者和任务等。同样遵循最佳实践，本课程重点关注云部署，Databricks和AWS。学生还将了解AWS EMR与AWS最新Spark服务之一AWS Glue之间的差异。

听众：

数据工程师， DevOps ，数据科学家

这种以讲师为主导的中国现场培训（现场或远程）针对的是希望使用Spark Streaming和Scala流式传输大数据的软件工程师。

在培训结束时，参与者将能够：

• 使用 Scala 编程语言创建 Spark 应用程序。
• 使用 Spark Streaming 处理连续的数据流。
• 使用 Spark Streaming 处理实时数据流。

这种以讲师为主导的中国现场现场培训针对的是希望使用SMACK堆栈为大数据解决方案构建数据处理平台的数据科学家。

在培训结束时，参与者将能够：

• 实施用于处理大数据的数据管道体系结构。
• 使用 Apache Mesos 和 Docker 开发集群基础架构。
• 使用 Spark 和 Scala 分析数据。
• 使用 Apache Cassandra 管理非结构化数据。

这种以讲师为主导的中国 现场现场培训针对希望在其.NET应用程序中使用Apache Spark进行 大数据分析的开发人员。

在培训结束时，参与者将能够：

• 安装和配置 Apache Spark。
• 了解 .NET 如何实现 Spark API，以便可以从 .NET 应用程序访问它们。
• 使用 C# 或 F# 开发数据处理应用程序，能够处理大小以 TB 和 PB 为单位的数据集。
• 使用 Apache Spark 功能为 .NET 应用程序开发机器学习功能。
• 使用 SQL 查询对大数据集进行探索性分析。

这种由讲师指导的中国现场培训（现场或远程）针对的是希望学习如何在组织内设置，部署和管理Hadoop集群的系统管理员。

在培训结束时，参与者将能够：

• 安装和配置 Apache Hadoop。
• 了解 Hadoop 生态系统中的四个主要组件：HDFS、MapReduce、YARN 和 Hadoop Common。
• 使用 Hadoop 分布式文件系统 （HDFS） 将集群扩展到数百或数千个节点。  
• 将 HDFS 设置为本地 Spark 部署的存储引擎。
• 设置 Spark 以访问替代存储解决方案，例如 Amazon S3 和 NoSQL 数据库系统，例如 Redis、Elasticsearch、Couchbase、Aerospike 等。
• 执行管理任务，例如配置、管理、监控和保护 Apache Hadoop 集群。