课程培训
大数据实时处理(Flink)实操课程

大数据实时处理(Flink)实操课程

 

培训对象:
大数据开发工程师;实时计算工程师;流处理应用开发者;以及希望掌握Flink核心技术的数据技术人员。

 

培训目标:
使学员全面掌握Apache Flink实时计算框架的核心原理与实战技能,能够独立完成实时数据处理应用的开发与部署。精通Flink的流处理模型(DataStream API)、事件时间处理、水印机制、窗口操作、状态管理与容错机制。掌握Flink与Kafka的集成、SQL/Table API的使用方法。具备构建高吞吐、低延迟、Exactly-Once语义的实时数据处理系统的能力。

 

培训内容介绍:

  1. Flink实时处理概述:讲解流处理与批处理的融合趋势,对比Flink与Spark Streaming的技术差异。介绍Flink的核心优势(低延迟、Exactly-Once、状态管理、事件时间处理)。剖析Flink的架构与组件(JobManager、TaskManager、Client)。

  2. Flink开发环境搭建:学习Flink的安装部署模式(Local、Standalone、YARN、Kubernetes)。掌握Flink项目的创建、依赖配置与IDE开发环境搭建。演练第一个Flink流处理程序(WordCount)。

  3. DataStream API基础:讲解DataStream的转换操作(map、flatMap、filter、keyBy、reduce)。掌握数据源(Source)与数据汇(Sink)的使用(文件、Kafka、自定义)。学习物理分区策略(rebalance、rescale、broadcast)。

  4. 事件时间与水印机制:深入讲解事件时间(Event Time)、摄入时间(Ingestion Time)、处理时间(Processing Time)的差异。掌握水印(Watermark)的生成策略(周期性、标点性),理解水印在乱序数据处理中的作用。

  5. 窗口操作实战:学习窗口的类型(滚动窗口、滑动窗口、会话窗口、全局窗口)。掌握窗口函数(ReduceFunction、AggregateFunction、ProcessWindowFunction)的使用。演练基于事件时间的窗口聚合计算。

  6. 状态管理与容错机制:讲解Flink的状态类型(Keyed State、Operator State)与状态后端(Memory、FileSystem、RocksDB)。掌握Checkpoint与Savepoint的原理与配置,实现Exactly-Once语义。学习故障恢复策略与状态一致性保证。

  7. Flink与Kafka集成:学习FlinkKafkaConsumer与FlinkKafkaProducer的使用,掌握Kafka偏移量的提交策略(Checkpointed、自动提交)。实现从Kafka消费数据、实时处理、结果写入Kafka的完整链路。演练实时日志分析应用。

  8. Table API与SQL:讲解Flink Table API与SQL的架构,理解动态表(Dynamic Table)的概念。学习使用Table API/SQL进行流式查询,掌握流与批的统一查询语法。演练基于SQL的实时指标计算。

  9. ProcessFunction高级编程:深入讲解ProcessFunction的强大功能,访问状态、定时器、输出旁路。使用KeyedProcessFunction实现复杂事件处理(CEP)模式。演练订单超时监控、温度报警等场景。

  10. 双流Join与维表关联:学习流与流的Join(窗口Join、间隔Join)。掌握流与外部维表(MySQL、Redis)的关联方法(实时查询、缓存、广播状态)。演练实时订单与用户维度的关联分析。

  11. Flink性能调优:学习Flink作业的监控与诊断方法(Flink Web UI、Metrics)。掌握并行度设置、内存调优、状态后端选择、Checkpoint优化等性能调优技巧。演练数据倾斜处理与反压问题排查。

  12. 完整实时处理项目实战:设计并实现一个完整的实时数据处理项目(如实时大屏监控、实时风控系统、实时推荐数据更新),涵盖Kafka数据接入、Flink清洗计算、结果写入、监控告警的全流程,输出可运行的Flink应用。





如果您想学习本课程,请预约报名
如果没找到合适的课程或有特殊培训需求,请订制培训
除培训外,同时提供相关技术咨询与技术支持服务,有需求请发需求表到邮箱soft@info-soft.cn,或致电4007991916
技术服务需求表下载请点击

服务优势:
丰富专家资源,精准匹配相关行业,相关项目技术精英,面向用户实际需求,针对性培训或咨询,互动式交流,案例教学,精品小班,实际工程项目经验分享,快捷高效,节省时间与金钱,少走弯路与错路。

专家力量:
中国科学院相关研究所高级研究人员
西门子,TI,vmware,MSC,Ansys,MDI,Mentor, candence,Altium,Atmel 、Freescale,达索,华为等
大型公司高级工程师,项目经理,技术支持专家
中科信软培训中心,资深专家或讲师
大多名牌大学,硕士以上学历,相关学历背景专业,理论素养高
多年实际项目实践,大型复杂项目实战案例分享,热情,乐于技术分享
针对客户实际需要,真实案例演示,互动式沟通,学有所值
报名表下载
联系我们 更多>>

咨询电话010-62883247

                4007991916

咨询邮箱:soft@info-soft.cn  

 

  微信咨询

随时听讲课

聚焦技术实践

订制培训 更多>>