4.1.1 Spark SQL概述

Spark SQL是Apache Spark的一个模块，专门用于处理结构化数据。它引入了DataFrame这一编程抽象，DataFrame是带有Schema信息的分布式数据集合，类似于关系型数据库中的表。用户可以通过SQL、DataFrames API和Datasets API三种方式操作结构化数据。Spark SQL的发展经历了从Hive on Spark到Shark，再到完全独立的Spark SQL的过程，不断优化性能和功能。DataFrame在Spark 1.3.0版本之前被称为SchemaRDD，它可以从多种数据源转换而来，如RDD、结构化数据文件、Hive表和外部数据库等。而Dataset是Spark 1.6中引入的新的API，提供了强类型支持，对每行数据进行类型约束，并通过Spark SQL优化器提高执行效率。这些数据模型使Spark SQL成为处理大规模结构化数据的强大工具。