**[老汤] Spark 2.x实战应用系列八:Spark SQL with Hive**

如果你正在准备Spark开发,或者想要提升自己的数据处理能力,那么Spark SQL与Hive的结合无疑是一个非常有价值的技能。这门课程将帮助你深入了解如何使用Spark SQL与Hive来高效地进行数据查询和分析,无论你是备考、转岗,还是希望查漏补缺的技术学习者。

**这门课解决什么问题?**

1. **什么是Spark SQL?**

Spark SQL是一个基于Spark的SQL方言,它允许你使用熟悉的SQL语法来操作Spark中的数据,从而大大提高了数据处理的效率和易用性。

2. **Hive是什么?**

Hive是一个开源的数据仓库工具,它提供了结构化数据存储、查询和分析的功能。Hive通常用于大数据处理,尤其是在处理大规模数据集时。

3. **为什么学习Spark SQL with Hive?**

通过学习这个课程,你可以: * 更快地从SQL技能过渡到Spark数据处理; * 更高效地处理和分析大量数据; * 更好地理解Spark和Hive之间的协作方式,从而在项目中做出更好的决策。

**适合什么基础?**

这门课程适合已经具备一定Java或Scala基础的学习者。如果你对Spark或Hive有所了解,那么学习这个课程会让你更进一步。如果你是新手,那么建议先学习一些基本的Spark和Hive知识,然后再开始这门课程。

**建议先看哪几块?**

建议先学习基础的Java或Scala知识,以及Spark和Hive的基本概念。这样,你可以更好地理解课程中的内容。

**学完能独立做什么?**

学完这门课程后,你应该能够: * 使用Spark SQL编写SQL查询来处理Hive中的数据; * 使用Hive的查询语言(如SQL)来查询和分析Spark中的数据; * 在实际项目中应用Spark SQL和Hive的结合,提高数据处理的效率。

**资料怎么配合练习?**

为了更好地掌握这门课程的内容,你可以跟随课程中的示例进行实践。课程提供了相应的练习,你可以利用这些练习来巩固你的知识。此外,你还可以尝试自己编写一些简单的SQL查询和Hive查询,来检验你的理解。

通过[老汤]的Spark 2.x实战应用系列八:Spark SQL with Hive,你将能够掌握如何使用Spark SQL与Hive进行高效的数据处理和分析。这不仅是一个提升技能的好方法,也是你在IT领域取得成功的重要一步。

**学习顺序:**

建议按照以下顺序学习这门课程: 1. **基础准备**:了解Thrift与Socket编程模型,学习Thrift的使用方法,以及课程数据准备。 2. **Hive的使用**:通过示例了解Hive CLI的用法、beeline的用法,以及代码里JDBC的方式访问Hive。 3. **Spark SQL与Hive的结合**:学习Spark SQL的兼容性配置,以及通过beeline访问Spark SQL。

**门槛:**

这门课程的门槛相对较低,适合有一定Java或Scala基础的学习者。如果你对Spark或Hive有所了解,那么学习这个课程会让你更进一步。如果你是新手,那么建议先学习一些基本的Spark和Hive知识。

**学完产出:**

学完这门课程后,你应该能够独立使用Spark SQL编写SQL查询来处理Hive中的数据,使用Hive的查询语言来查询和分析Spark中的数据,并在实际项目中应用Spark SQL和Hive的结合,提高数据处理的效率。

**资料用法:**

课程提供了详细的资料,包括课程内容和所需的环境介绍。你可以利用这些资料来更好地理解课程中的内容。此外,你还可以尝试自己编写一些简单的SQL查询和Hive查询,来检验你的理解。

通过[老汤]的Spark 2.x实战应用系列八:Spark SQL with Hive,你将能够掌握如何使用Spark SQL与Hive进行高效的数据处理和分析。这不仅是一个提升技能的好方法,也是你在IT领域取得成功的重要一步。

课程目录

1-1 [课程内容以及环境] 课程内容 (10:13)
1-2 [课程内容以及环境] 课程需要的环境 (01:41)
2-1 [基础准备] Thrift与Socket编程模型对比 (16:37)
2-2 [基础准备] Thrift的使用方法 (17:15)
2-3 [基础准备] 课程数据准备 (07:40)
3-1 [一个例子看懂Hive的使用方式] Hive CLI的用法 (14:45)
3-2 [一个例子看懂Hive的使用方式] Hive beeline的用法 (12:32)
3-3 [一个例子看懂Hive的使用方式] 代码里JDBC的方式访问Hive (11:24)
4-1 [一个例子看懂Spark SQL兼容Hive] Spark SQL兼容Hive配置 (13:07)
4-2 [一个例子看懂Spark SQL兼容Hive] 通过beeline访问Spark SQL (09:51)
4-3 [一个例子看懂Spark SQL兼容Hive] 通过JDBC访问Spark SQL (06:21)
5-1 [Spark SQL应用读写Hive数据源] Spark SQL代码中写SQL读写Hive (12:14)
5-2 [Spark SQL应用读写Hive数据源] 通过table和saveAsTable两个接口读写Hive (14:28)
5-3 [Spark SQL应用读写Hive数据源] Spark SQL本地调试读写Hive (08:51)
6-1 [Spark SQL and Hive的**实践] 案例业务讲解 (14:40)
6-2 [Spark SQL and Hive的**实践] ETL job详细讲解 (17:10)
6-3 [Spark SQL and Hive的**实践] 机器学习(ALS算法)实现推荐功能job详细讲解 (13:33)
6-4 [Spark SQL and Hive的**实践] Spark SQL和Hive的各自职责 (12:13)
7-1 [NBA球员价值分析实战] 数据字段说明 (13:51)
7-2 [NBA球员价值分析实战] 数据预处理 (23:55)
7-3 [NBA球员价值分析实战] 在集群上运行预处理任务 (18:27)
7-4 [NBA球员价值分析实战] 优化预处理任务 (14:26)
7-5 [NBA球员价值分析实战] 原始字段解析逻辑 (23:53)
7-6 [NBA球员价值分析实战] zscore的计算 (23:53)
7-7 [NBA球员价值分析实战] 解析预处理之后的csv文件 (19:57)
7-8 [NBA球员价值分析实战] 处理异常数据 (04:07)
7-9 [NBA球员价值分析实战] 计算每年9个指标的平均值和方差 (24:28)
7-10 [NBA球员价值分析实战] 计算每年每个球员每个指标的zscore (21:14)
7-11 [NBA球员价值分析实战] 标准化zscore (32:34)
7-12 [NBA球员价值分析实战] Schema展平 (11:07)
7-13 [NBA球员价值分析实战] 经验值的计算 (12:12)
7-14 [NBA球员价值分析实战] 在集群中跑预处理和zscore计算任务 (18:38)
7-15 [NBA球员价值分析实战] zeppelin安装 (07:57)
7-16 [NBA球员价值分析实战] zeppelin连接Hive分析数据 (23:18)
7-17 [NBA球员价值分析实战] Spark SQL和Hive本地调试 (07:34)
7-18 [NBA球员价值分析实战] 价值随着年龄的变化分析一 (20:29)
7-19 [NBA球员价值分析实战] 价值随着年龄的变化分析二 (21:32)
7-20 [NBA球员价值分析实战] 聚合年龄变化的价值 (23:43)
7-21 [NBA球员价值分析实战] 可视化分析结果 (22:05)
7-22 [NBA球员价值分析实战] zeppelin的使用 (17:55)