**[老汤] Spark 2.x实战应用系列八:Spark SQL with Hive**
如果你正在准备Spark开发,或者想要提升自己的数据处理能力,那么Spark SQL与Hive的结合无疑是一个非常有价值的技能。这门课程将帮助你深入了解如何使用Spark SQL与Hive来高效地进行数据查询和分析,无论你是备考、转岗,还是希望查漏补缺的技术学习者。
**这门课解决什么问题?**
1. **什么是Spark SQL?**
Spark SQL是一个基于Spark的SQL方言,它允许你使用熟悉的SQL语法来操作Spark中的数据,从而大大提高了数据处理的效率和易用性。
2. **Hive是什么?**
Hive是一个开源的数据仓库工具,它提供了结构化数据存储、查询和分析的功能。Hive通常用于大数据处理,尤其是在处理大规模数据集时。
3. **为什么学习Spark SQL with Hive?**
通过学习这个课程,你可以: * 更快地从SQL技能过渡到Spark数据处理; * 更高效地处理和分析大量数据; * 更好地理解Spark和Hive之间的协作方式,从而在项目中做出更好的决策。
**适合什么基础?**
这门课程适合已经具备一定Java或Scala基础的学习者。如果你对Spark或Hive有所了解,那么学习这个课程会让你更进一步。如果你是新手,那么建议先学习一些基本的Spark和Hive知识,然后再开始这门课程。
**建议先看哪几块?**
建议先学习基础的Java或Scala知识,以及Spark和Hive的基本概念。这样,你可以更好地理解课程中的内容。
**学完能独立做什么?**
学完这门课程后,你应该能够: * 使用Spark SQL编写SQL查询来处理Hive中的数据; * 使用Hive的查询语言(如SQL)来查询和分析Spark中的数据; * 在实际项目中应用Spark SQL和Hive的结合,提高数据处理的效率。
**资料怎么配合练习?**
为了更好地掌握这门课程的内容,你可以跟随课程中的示例进行实践。课程提供了相应的练习,你可以利用这些练习来巩固你的知识。此外,你还可以尝试自己编写一些简单的SQL查询和Hive查询,来检验你的理解。
通过[老汤]的Spark 2.x实战应用系列八:Spark SQL with Hive,你将能够掌握如何使用Spark SQL与Hive进行高效的数据处理和分析。这不仅是一个提升技能的好方法,也是你在IT领域取得成功的重要一步。
**学习顺序:**
建议按照以下顺序学习这门课程: 1. **基础准备**:了解Thrift与Socket编程模型,学习Thrift的使用方法,以及课程数据准备。 2. **Hive的使用**:通过示例了解Hive CLI的用法、beeline的用法,以及代码里JDBC的方式访问Hive。 3. **Spark SQL与Hive的结合**:学习Spark SQL的兼容性配置,以及通过beeline访问Spark SQL。
**门槛:**
这门课程的门槛相对较低,适合有一定Java或Scala基础的学习者。如果你对Spark或Hive有所了解,那么学习这个课程会让你更进一步。如果你是新手,那么建议先学习一些基本的Spark和Hive知识。
**学完产出:**
学完这门课程后,你应该能够独立使用Spark SQL编写SQL查询来处理Hive中的数据,使用Hive的查询语言来查询和分析Spark中的数据,并在实际项目中应用Spark SQL和Hive的结合,提高数据处理的效率。
**资料用法:**
课程提供了详细的资料,包括课程内容和所需的环境介绍。你可以利用这些资料来更好地理解课程中的内容。此外,你还可以尝试自己编写一些简单的SQL查询和Hive查询,来检验你的理解。
通过[老汤]的Spark 2.x实战应用系列八:Spark SQL with Hive,你将能够掌握如何使用Spark SQL与Hive进行高效的数据处理和分析。这不仅是一个提升技能的好方法,也是你在IT领域取得成功的重要一步。
课程目录
1-1 [课程内容以及环境] 课程内容 (10:13) 1-2 [课程内容以及环境] 课程需要的环境 (01:41) 2-1 [基础准备] Thrift与Socket编程模型对比 (16:37) 2-2 [基础准备] Thrift的使用方法 (17:15) 2-3 [基础准备] 课程数据准备 (07:40) 3-1 [一个例子看懂Hive的使用方式] Hive CLI的用法 (14:45) 3-2 [一个例子看懂Hive的使用方式] Hive beeline的用法 (12:32) 3-3 [一个例子看懂Hive的使用方式] 代码里JDBC的方式访问Hive (11:24) 4-1 [一个例子看懂Spark SQL兼容Hive] Spark SQL兼容Hive配置 (13:07) 4-2 [一个例子看懂Spark SQL兼容Hive] 通过beeline访问Spark SQL (09:51) 4-3 [一个例子看懂Spark SQL兼容Hive] 通过JDBC访问Spark SQL (06:21) 5-1 [Spark SQL应用读写Hive数据源] Spark SQL代码中写SQL读写Hive (12:14) 5-2 [Spark SQL应用读写Hive数据源] 通过table和saveAsTable两个接口读写Hive (14:28) 5-3 [Spark SQL应用读写Hive数据源] Spark SQL本地调试读写Hive (08:51) 6-1 [Spark SQL and Hive的**实践] 案例业务讲解 (14:40) 6-2 [Spark SQL and Hive的**实践] ETL job详细讲解 (17:10) 6-3 [Spark SQL and Hive的**实践] 机器学习(ALS算法)实现推荐功能job详细讲解 (13:33) 6-4 [Spark SQL and Hive的**实践] Spark SQL和Hive的各自职责 (12:13) 7-1 [NBA球员价值分析实战] 数据字段说明 (13:51) 7-2 [NBA球员价值分析实战] 数据预处理 (23:55) 7-3 [NBA球员价值分析实战] 在集群上运行预处理任务 (18:27) 7-4 [NBA球员价值分析实战] 优化预处理任务 (14:26) 7-5 [NBA球员价值分析实战] 原始字段解析逻辑 (23:53) 7-6 [NBA球员价值分析实战] zscore的计算 (23:53) 7-7 [NBA球员价值分析实战] 解析预处理之后的csv文件 (19:57) 7-8 [NBA球员价值分析实战] 处理异常数据 (04:07) 7-9 [NBA球员价值分析实战] 计算每年9个指标的平均值和方差 (24:28) 7-10 [NBA球员价值分析实战] 计算每年每个球员每个指标的zscore (21:14) 7-11 [NBA球员价值分析实战] 标准化zscore (32:34) 7-12 [NBA球员价值分析实战] Schema展平 (11:07) 7-13 [NBA球员价值分析实战] 经验值的计算 (12:12) 7-14 [NBA球员价值分析实战] 在集群中跑预处理和zscore计算任务 (18:38) 7-15 [NBA球员价值分析实战] zeppelin安装 (07:57) 7-16 [NBA球员价值分析实战] zeppelin连接Hive分析数据 (23:18) 7-17 [NBA球员价值分析实战] Spark SQL和Hive本地调试 (07:34) 7-18 [NBA球员价值分析实战] 价值随着年龄的变化分析一 (20:29) 7-19 [NBA球员价值分析实战] 价值随着年龄的变化分析二 (21:32) 7-20 [NBA球员价值分析实战] 聚合年龄变化的价值 (23:43) 7-21 [NBA球员价值分析实战] 可视化分析结果 (22:05) 7-22 [NBA球员价值分析实战] zeppelin的使用 (17:55)
![[老汤]Spark 2.x实战应用系列八之Spark SQL with Hive](/_next/image?url=https%3A%2F%2Fwww.itzhibei.com%2Fapi%2Fuploads%2F3045f7b0-1aad-4166-a22e-9d8ff622144c.jpg&w=1920&q=75)




