课程大纲
NiFi与数据流基础
- 动态数据与静态数据:概念与挑战
- NiFi架构:核心、流程控制器、数据来源和公告
- 关键组件:处理器、连接、控制器和数据来源
大数据背景与集成
- NiFi在大数据生态系统(Hadoop、Kafka、云存储)中的作用
- HDFS、MapReduce及现代替代方案概述
- 使用案例:流式摄入、日志传输、事件管道
安装、配置与集群设置
- 在单节点和集群模式下安装NiFi
- 集群配置:节点角色、Zookeeper和负载均衡
- 编排NiFi部署:使用Ansible、Docker或Helm
设计与管理数据流
- 路由、过滤、拆分、合并流程
- 处理器配置(InvokeHTTP、QueryRecord、PutDatabaseRecord等)
- 处理模式、丰富化和转换操作
- 错误处理、重试关系和背压
集成场景
- 连接数据库、消息系统和REST API
- 流式传输至分析系统:Kafka、Elasticsearch或云存储
- 与Splunk、Prometheus或日志管道集成
监控、恢复与数据来源
- 使用NiFi界面、指标和数据来源可视化工具
- 设计自主恢复和优雅故障处理
- 备份、流程版本控制和应变管理
性能调优与优化
- 调整JVM、堆内存、线程池和集群参数
- 优化流程设计以减少瓶颈
- 资源隔离、流程优先级和吞吐量控制
最佳实践与治理
- 流程文档、命名规范、模块化设计
- 安全性:TLS、身份验证、访问控制、数据加密
- 变更控制、版本控制、基于角色的访问、审计日志
故障排除与事件响应
- 常见问题:死锁、内存泄漏、处理器错误
- 日志分析、错误诊断和根本原因调查
- 恢复策略和流程回滚
动手实验:真实数据管道实现
- 构建端到端流程:摄入、转换、交付
- 实现错误处理、背压和扩展
- 性能测试并调优管道
总结与后续步骤
要求
- 具备Linux命令行经验
- 基本了解网络和数据系统
- 了解数据流或ETL概念
目标学员
- 系统管理员
- 数据工程师
- 开发人员
- DevOps专业人员
客户评论 (7)
实践练习。课程本应为5天,但3天的学习帮助我解决了在使用NiFi时遇到的许多问题。
James - BHG Financial
课程 - Apache NiFi for Administrators
机器翻译
我认为讲师的节奏很好。他的教学方法确保没有学生掉队。他对我们这些新手非常支持,我们可能在职业生涯中没有担任过系统管理员或基础设施相关的角色,或者需要重新拾起之前职业生涯中的技能。
Pamdrea Ivory - BHG Financial
课程 - Apache NiFi for Administrators
机器翻译
我喜欢实践环节。通过完成提供的练习,我更好地记住了信息。此外,培训师与整个班级的互动能力让我感到自在,敢于提出我不确定的问题。
Leila - BHG Financial
课程 - Apache NiFi for Administrators
机器翻译
使用案例,构建NiFi数据流的示例。我们专注于解决常见问题和陷阱。
Nelson - BHG Financial
课程 - Apache NiFi for Administrators
机器翻译
我喜欢这个课程结构。第一天,我们深入学习了Nifi的基础知识、概念和用例等。第二天,我们将第一天的知识付诸实践,通过构建流程来满足场景需求。第三天,我们了解了Nifi Registry和版本控制、多租户功能,并进行了问答环节。
Adam - BHG Financial
课程 - Apache NiFi for Administrators
机器翻译
我喜欢他能够详细阐述Nifi及其强大功能的方式。你可以将其用于任何基础设施,并支持多种计算机语言。此外,我很高兴我们能够解决Nifi证书更新时遇到的Truststore问题。
Joachim Martin - BHG Financial
课程 - Apache NiFi for Administrators
机器翻译
关于培训所提供工具的一般知识和可能性。
Nalfis Tobar - BHG Financial
课程 - Apache NiFi for Administrators
机器翻译