联系我们
 课程时长 21 小时

课程大纲

NiFi与数据流基础

  • 动态数据与静态数据:概念与挑战
  • NiFi架构:核心、流程控制器、数据来源和公告
  • 关键组件:处理器、连接、控制器和数据来源

大数据背景与集成

  • NiFi在大数据生态系统(Hadoop、Kafka、云存储)中的作用
  • HDFS、MapReduce及现代替代方案概述
  • 使用案例:流式摄入、日志传输、事件管道

安装、配置与集群设置

  • 在单节点和集群模式下安装NiFi
  • 集群配置:节点角色、Zookeeper和负载均衡
  • 编排NiFi部署:使用Ansible、Docker或Helm

设计与管理数据流

  • 路由、过滤、拆分、合并流程
  • 处理器配置(InvokeHTTP、QueryRecord、PutDatabaseRecord等)
  • 处理模式、丰富化和转换操作
  • 错误处理、重试关系和背压

集成场景

  • 连接数据库、消息系统和REST API
  • 流式传输至分析系统:Kafka、Elasticsearch或云存储
  • 与Splunk、Prometheus或日志管道集成

监控、恢复与数据来源

  • 使用NiFi界面、指标和数据来源可视化工具
  • 设计自主恢复和优雅故障处理
  • 备份、流程版本控制和应变管理

性能调优与优化

  • 调整JVM、堆内存、线程池和集群参数
  • 优化流程设计以减少瓶颈
  • 资源隔离、流程优先级和吞吐量控制

最佳实践与治理

  • 流程文档、命名规范、模块化设计
  • 安全性:TLS、身份验证、访问控制、数据加密
  • 变更控制、版本控制、基于角色的访问、审计日志

故障排除与事件响应

  • 常见问题:死锁、内存泄漏、处理器错误
  • 日志分析、错误诊断和根本原因调查
  • 恢复策略和流程回滚

动手实验:真实数据管道实现

  • 构建端到端流程:摄入、转换、交付
  • 实现错误处理、背压和扩展
  • 性能测试并调优管道

总结与后续步骤

要求

  • 具备Linux命令行经验
  • 基本了解网络和数据系统
  • 了解数据流或ETL概念

目标学员

  • 系统管理员
  • 数据工程师
  • 开发人员
  • DevOps专业人员

客户评论 (7)

即将举行的公开课程

课程分类