尚硅谷大数据项目之Flink实时数仓4.0

Flink实时数仓实战演练

编辑点评

深入Flink实时数仓架构,实战项目案例丰富,适合有大数据背景的学习者。

⭐ 编辑推荐

本课程深入讲解Flink实时数仓架构,通过实战项目案例,帮助学习者掌握Flink实时数据处理技术。

课程亮点

• Flink实时数仓架构解析
• 实战项目案例丰富
• 适合大数据背景学习者

课程目录

📁 视频
    视频必看.png  [493.5 KB]
    101_DWS_流量域各粒度用户访问数据添加状态存活时间.mp4  [22.1 MB]
    156_DWS回顾.mp4  [81.4 MB]
    13_gitlab的安装部署.mp4  [543.2 MB]
    115_dws模块回顾.mp4  [22.8 MB]
    72_DWD_base_db需求读取主流和配置表数据.mp4  [84.7 MB]
    40_DWD_数据源分析.mp4  [78.0 MB]
    58_DWD_筛选加购事务表明细数据.mp4  [100.4 MB]
    120_DWS_维度关联补全sku_info信息.mp4  [194.0 MB]
    63_DWD_下单明细表写出到kafka实现.mp4  [79.7 MB]
    05_实时数仓框架选型-ods dwd和dim.mp4  [47.5 MB]
    145_合并gitlab代码请求.mp4  [26.3 MB]
    136_DWS_各省份窗口下单聚合统计.mp4  [82.0 MB]
    127_DWS_旁路缓存回顾.mp4  [47.2 MB]
    27_DIM_对主流数据进行清洗过滤.mp4  [134.2 MB]
    45_DWD_日志拆分需求新旧访客修复代码测试.mp4  [256.3 MB]
    129_DWS_异步连接的获取.mp4  [36.5 MB]
    60_DWD_下单事务事实表需求分析.mp4  [33.7 MB]
    126_DWS_度量值去重回顾.mp4  [59.1 MB]
    02_实时数仓和离线数仓的概述区别.mp4  [27.9 MB]
    82_DWS_doris的fe缩容及群起脚本.mp4  [20.8 MB]
    73_DWD_base_db合并处理事实表数据.mp4  [89.3 MB]
    21_DIM_baseAPP使用演示.mp4  [64.4 MB]
    15_gitlab兼容IDEA实现提交推送项目.mp4  [36.8 MB]
    114_dim和dwd模块代码回顾.mp4  [68.2 MB]
    36_DIM_HBase写入数据和删除数据的方法编写.mp4  [87.2 MB]
    55_DWD_baseSQLAPP封装实现及使用方法.mp4  [22.5 MB]
    157_部署及可视化回顾.mp4  [25.2 MB]
    43_DWD_日志拆分需求数据清洗ETL处理.mp4  [56.9 MB]
    152_Flink实时数仓代码结构设计回顾.mp4  [49.9 MB]
    28_DIM_读取配置表数据.mp4  [57.8 MB]
    52_DWD_LookUp join使用场景介绍.mp4  [82.3 MB]
    42_DWD_日志拆分需求分析.mp4  [42.2 MB]
    108_DWS_用户登录统计数据聚合写出到doris.mp4  [71.1 MB]
    95_DWS_关键字分组开窗聚合统计.mp4  [59.7 MB]
    83_DWS_doris的数据模型agg模型介绍.mp4  [114.6 MB]
    35_DIM_预加载配置表信息避免数据丢失功能实现.mp4  [79.4 MB]
    37_DIM_写出数据到HBase的代码编写.mp4  [31.9 MB]
    84_DWS_doris的数据模型唯一与可重复模型介绍.mp4  [17.1 MB]
    07_实时数仓和实时计算及离线计算的比较.mp4  [14.1 MB]
    68_DWD_支付成功需求使用interval join完成表格关联.mp4  [110.8 MB]
    56_DWD_评论事实表完成HBase的lookup_join.mp4  [91.2 MB]
    142_streamPark编译部署项目.mp4  [289.4 MB]
    84_DWS_doris的分区分桶.mp4  [55.7 MB]
    141_streamPark使用设置.mp4  [154.0 MB]
    87_DWS_doris的动态分区原理介绍.mp4  [44.4 MB]
    18_ODS_确保数据源时间有序的方法介绍.mp4  [41.4 MB]
    106_DWS_用户登录统计需求过滤数据.mp4  [64.8 MB]
    131_DWS_flink异步算子实现维度关联.mp4  [42.8 MB]
    24_DIM_动态拆分维度表功能实现的选择介绍.mp4  [54.1 MB]
    41_DWD_日志拆分需求代码结构介绍.mp4  [35.6 MB]
    130_DWS_flink异步算子使用编写.mp4  [151.1 MB]
    81_DWS_doris的fe扩容.mp4  [52.6 MB]
    32_DIM_使用配置流信息创建HBase表格.mp4  [75.3 MB]
    70_DWD_支付成功需求写出数据.mp4  [177.2 MB]
    66_DWD_支付成功需求筛选支付成功数据.mp4  [44.5 MB]
    65_DWD_支付成功事实表需求分析.mp4  [50.4 MB]
    74_DWD_base_db数据写出.mp4  [114.6 MB]
    109_DWS_用户注册统计需求分析.mp4  [30.1 MB]
    89_DWS_doris的rollup介绍.mp4  [51.0 MB]
    96_DWS_关键词开窗统计数据写出到doris.mp4  [145.9 MB]
    34_DIM_使用JDBC工具预加载配置表信息避免主流数据丢失.mp4  [96.5 MB]
    94_DWS_完成关键词的拆分工作.mp4  [23.7 MB]
    128_DWS_异步IO介绍.mp4  [30.1 MB]
    119_DWS_商品粒度聚合统计.mp4  [51.9 MB]
    137_项目部署上线介绍.mp4  [37.2 MB]
    11_git分支流程介绍.mp4  [31.2 MB]
    133_DWS_完整封装模板方法实现维度关联.mp4  [91.7 MB]
    12_idea中的代码结构部署.mp4  [69.9 MB]
    16_实时数仓架构搭建-flink和hbase的安装部署.mp4  [93.5 MB]
    90_DWS_doris的物化视图.mp4  [58.0 MB]
    03_实时数仓的完整架构.mp4  [54.4 MB]
    26_DIM_核心业务逻辑介绍.mp4  [26.7 MB]
    97_DWS_流量域各粒度用户页面访问窗口聚合需求分析.mp4  [25.7 MB]
    103_DWS_首页详情页独立访客判断代码实现.mp4  [98.4 MB]
    62_DWD_下单明细表完成四个表格的join操作.mp4  [69.3 MB]
    117_DWS_sku商品粒度过滤添加水位线.mp4  [89.5 MB]
    154_ODS层回顾.mp4  [29.2 MB]
    116_DWS_sku商品下单需求分析.mp4  [54.6 MB]
    31_DIM_HBase删除表格API编写.mp4  [23.0 MB]
    143_streamPark上线任务演示.mp4  [101.4 MB]
    144_streamPark使用检查点重启任务.mp4  [15.5 MB]
    14_gitlab用户创建和管理.mp4  [71.3 MB]
    51_DWD_flinkSQL的基础原理介绍.mp4  [46.7 MB]
    22_DIM_基类添加webUI页面介绍.mp4  [24.1 MB]
    57_DWD_评论事实表完成数据写出.mp4  [63.5 MB]
    132_DWS_模板方法初步封装.mp4  [113.0 MB]
    86_DWS_doris的复合分区和多列分区介绍.mp4  [25.2 MB]
    138_streamPark概述介绍.mp4  [26.3 MB]
    01_Flink最新电商数据课程介绍.mp4  [21.3 MB]
    53_DWD_LookUp join具体使用演示.mp4  [36.7 MB]
    100_DWS_流量域各粒度用户访问数据写出到doris.mp4  [141.7 MB]
    110_DWS_用户注册需求实现.mp4  [170.4 MB]
    139_streamPark的解压部署.mp4  [46.1 MB]
    29_DIM_HBase创建关闭连接.mp4  [502.7 MB]
    39_DIM_代码与功能回顾.mp4  [93.0 MB]
    92_DWS_热词开窗统计筛选关键字.mp4  [119.7 MB]
    09_数仓设计回顾.mp4  [51.3 MB]
    78_DWS_doris单台后端的安装部署.mp4  [42.2 MB]
    124_DWS_添加redis作为旁路缓存.mp4  [153.2 MB]
📁 资料
    资料必看.png  [493.5 KB]
    13.gitlab.exe  [1.2 GB]
    10.redis.exe  [2.5 MB]
    5.zookeeper.exe  [12.4 MB]
    9.hbase.exe  [270.6 MB]
    4.kafka.exe  [100.5 MB]
    11.doris.exe  [3.6 GB]
    8.mock.exe  [34.9 MB]
    6.mysql.exe  [90.1 MB]
    2.hadoop.exe  [663.5 MB]
    14.streampark.exe  [206.5 MB]
    3.flume.exe  [85.2 MB]
    7.maxwell.exe  [63.2 MB]
    12.flink.exe  [448.0 MB]
    1.jdk.exe  [186.3 MB]
代码.exe  [544.3 KB]
笔记.exe  [36.8 MB]

适合人群

  • 大数据工程师
  • 数据分析师
  • Flink开发者

学习收获

掌握Flink实时数据处理技术
了解实时数仓架构设计
提升大数据项目实战能力

祝您学习愉快!

学有所成,前程似锦!

课程目录

001.教程简介
002.基础_数仓基本概念
003.基础_离线数仓架
004.基础_实时数仓架构
005.基础_ER模型和维度建模
006.基础_事实表和维度表
007.基础_数仓构建流程
008.基础_项目架构以及代码版本控制方式介绍
009.基础_IDEA开发环境搭建
010.环境准备_GitLab的安装
011.环境准备_GitLab的其它配置
012.环境准备_创建用户以及群组
013.环境准备_将初始代码推送到GitLab仓库
014.环境准备_设置Kafka分区数
015.ODS_日志数据采集
016.ODS_配置binlog记录业务数据变化
017.ODS_Maxwell的安装与配置
018.ODS_Maxwell同步数据测试
019.DIM_思路分析_基本流程
020.DIM_思路分析_引入配置表
021.DIM_思路分析_引入FlinkCDC
022.DIM_思路分析_配置表字段完善
023.DIM_FlinkCDC的使用
024.DIM_配置表的创建以及切换开发分支
025.DIM_开发思路分析
026.DIM_基本环境准备以及检查点设置
027.DIM_从Kafka主题中读取数据
028.DIM_转换流中数据类型以及Maxwell问题说明
029.DIM_使用FlinkCDC读取配置表数据
030.DIM_将配置流数据类型封装为实体类对象
031.DIM_封装HBaseUtil工具类
032.DIM_在HBase中建表
033.DIM_广播配置流并和主流进行关联
034.DIM_处理广播流数据
035.DIM_处理主流数据
036.DIM_过滤掉不需要传递的字段
037.DIM_主流数据先到问题分析
038.DIM_在open方法中预加载配置信息
039.DIM_将维度数据同步到HBase表中
040.DIM_封装FlinkSourceUtil工具类
041.DIM_抽取单独的处理函数类
042.DIM_抽取BaseApp基类
043.DIM_抽取方法
044.DIM_封装JdbcUtil工具类
045.DIM_DIM层总结
046.DWD_DWD层介绍
047.DWD_日志分流思路分析
048.DWD_开发思路分析
049.DWD_将脏数据放到侧输出流
050.DWD_创建KafkaSink对象以及Kafka一致性保证
051.DWD_抽取FlinkSinkUtil以及脏数据写到Kafka
052.DWD_新老访客标记修复思路
053.DWD_新老访客标记修复代码实现
054.DWD_埋点日志结构分析
055.DWD_分流代码实现
056.DWD_将不同流的数据写到Kafka主题
057.DWD_抽取方法以及提交代码到GitLab
058.DWD_评论事实表思路分析
059.DWD_FlinkAPI双流Join介绍
060.DWD_内连接
061.DWD_左外连接
062.DWD_右外连接以及全外连接
063.DWD_左外连接结果写到Kafka主题
064.DWD_从Kafka主题中读取数据
065.DWD_从HBase表中读取数据
066.DWD_lookupJoin关联
067.DWD_将关联结果写到Kafka主题
068.DWD_评论事实表开发思路以及环境准备
069.DWD_从topic_db主题中读取数据
070.DWD_过滤出评论数据
071.DWD_从Hbase中读取字典表数据
072.DWD_关联评论表和字典表
073.DWD_将关联的结果写到Kafka主题
074.DWD_抽取工具类封装获取连接器属性的方法
075.DWD_抽取BaseSQLApp基类以及通用的建表方法
076.DWD_加购事实表开发思路分析
077.DWD_过滤出insert类型的加购数据
078.DWD_过滤出update类型的加购数据以及写到Kafka
079.DWD_下单事实表思路分析
080.DWD_下单事实表代码实现
081.DWD_取消订单事实表整体实现
082.DWD_支付成功事实表思路分析
083.DWD_支付成功事实表代码实现
084.DWD_退单事实表整体实现(了解业务)
085.DWD_退款成功事实表整体实现(了解业务)
086.DWD_其它事实表实现思路分析
087.DWD_事实表动态分流思路
088.DWD_开发思路分析
089.DWD_业务数据以及配置表数据读取
090.DWD_在open方法中预加载配置信息
091.DWD_处理广播流中的配置信息
092.DWD_处理主流中的业务数据
093.DWD_将动态分流的事实表写到Kafka主题
094.DWS层介绍
095.Doris_Doris介绍
096.Doris_安装前准备工作
097.Doris_Doris安装以及FE的配置
098.Doris_BE的配置
099.Doris_FE与BE的扩容和缩容
100.Doris_基本概念
101.Doris_Aggregate模型
102.Doris_Unique模型和Duplicate模型
103.Doris_建表其它操作
104.Doris_Range分区
105.Doris_List分区以及分区相关概念
106.Doris_动态分区
107.Doris_Rollup表
108.Doris_物化视图
109.Doris_Flink读写Doris_SQL
110.Doris_Flink读写Doris_API
111.DWS_搜索关键词思路分析
112.DWS_分词工具类
113.DWS_自定义UDTF函数
114.DWS_开发思路分析
115.DWS_读取页面日志数据创建动态表
116.DWS_过滤出搜索行为
117.DWS_分词并和原表字段进行关联
118.DWS_分组、开窗、聚合计算
119.DWS_将聚合结果写到Doris
120.DWS_版本、渠道、地区、新老访客聚合统计思路分析
121.DWS_读取数据并封装为统计的实体类对象
122.DWS_指定Watermark的生成策略
123.DWS_分组、开窗
124.DWS_聚合
125.DWS_将聚合结果写到Doris中
126.DWS_首页、详情页聚合统计思路分析
127.DWS_首页、详情页聚合统计代码实现
128.DWS_独立用户以及回流用户聚合统计思路分析
129.DWS_独立用户以及回流用户聚合统计代码实现
130.DWS_加购独立用户思路分析
131.DWS_加购独立用户代码实现
132.DWS_SKU粒度下单聚合统计需求分析
133.DWS_SKU粒度下单聚合统计开发思路
134.DWS_从Kafka中读取数据并转换为JSON对象
135.DWS_状态+定时器实现去重
136.DWS_状态+抵消实现去重
137.DWS_封装为统计的实体类对象
138.DWS_分组、开窗、聚合计算以及测试可能遇到的问题
139.DWS_在HBaseUtil中封装查询维度的方法
140.DWS_维度关联最基本的实现方式
141.DWS_旁路缓存思路分析
142.DWS_封装RedisUtil工具类
143.DWS_在Redis工具类提供读写数据的方法
144.DWS_旁路缓存代码实现
145.DWS_维度数据发生变化清除缓存数据
146.DWS_关联SPU维度
147.DWS_抽取旁路缓存模板
148.DWS_通过旁路缓存模板关联SKU维度
149.DWS_异步IO介绍
150.DWS_封装异步操作Redis的方法
151.DWS_封装异步操作HBase的方法
152.DWS_发送异步请求关联Sku维度的基本实现
153.DWS_发送异步请求关联Spu维度以及抽取模板
154.DWS_发送异步关联维度模板代码实现
155.DWS_发送异步请求关联SKU维度
156.DWS_关联其它维度并将结果写到Doris
157.DWS_Sku粒度下单聚合统计总结
158.DWS_省份粒度下单聚合统计
159.DWS_去重
160.DWS_封装统计的实体类对象
161.DWS_分组、开窗、聚合计算
162.DWS_关联维度并将结果写到Doris
163.ADS_ADS层介绍
164.ADS_环境准备
165.ADS_总交易额统计思路分析
166.ADS_总交易额统计代码实现
167.ADS_总交易额大屏展示
168.ADS_省份交易额统计思路分析
169.ADS_省份交易额统计代码实现
170.ADS_渠道独立访客数统计思路分析
171.ADS_渠道独立访客数统计代码实现
172.ADS_渠道独立访客大屏展示以及常见错误避坑
173.ADS_总交易额实时展示
174.部署_打包
175.部署_部署前准备工作
176.部署_手动部署到服务器
177.部署_StreamPark介绍
178.部署_StreamPark安装
179.部署_StreamPark其它配置
180.部署_StreamPark中新建项目
181.部署_构建项目
182.部署_发布启动作业
183.部署_合并分支
184.教程总结