18丨如何自己开发一个大数据SQL引擎？

18|如何自己开发一个大数据SQL引擎？2018-12-08 李智慧从0开始学大数据进入课程讲述：李智慧时长 11:20大小 10.38M从今天开始我们就进入了专栏的第三个模块，一起来看看大数据开发实践过程中的门道。学习一样技术，如果只是作为学习者，被动接受总是困难的。但如果从开发者的视角看，很多东西就豁然开朗了，明白了原理，有时甚至不需要学习，顺着原理就可以推导出各种实现细节。各种知识从表象上看，总是杂乱无章的，如果只是学习这些繁杂的知识点，固然自己的知识面是有限的，并且遇到问题的应变能力也很难提高。所以有些高手看起来似乎无所不知，不论谈论起什么技术，都能头头是道，其实并不是他们学习、掌握了所有技术，而是他们是在谈到这个问题的时候，才开始进行推导，并迅速得出结论。我在 Intel 的时候，面试过一个交大的实习生，她大概只学过一点 MapReduce 的基本知识，我问她如何用 MapReduce 实现数据库的 join 操作，可以明显看出她没学习过这部分下载APP加微信：642 94510 6 发送“赠送”领取赠送精品课程 发数字“2”获取众筹列表知识。她说：我想一下，然后盯着桌子看了两三秒的时间，就开始回答，基本跟 Hive 的实现机制一样。从她的回答就能看出这个女生就是一个高手，高手不一定要很资深、经验丰富，把握住了技术的核心本质，掌握了快速分析推导的能力，能够迅速将自己的知识技能推进到陌生的领域，就是高手。这也是我这个专栏的目的，讲述大数据技术的核心原理，分享一些高效的思考和思维方式，帮助你构建起自己的技术知识体系。在这个模块里，我将以大数据开发者的视角，讲述大数据开发需要关注的各种问题，以及相应的解决方案。希望你可以进入我的角色，跳出纷繁复杂的知识表象，掌握核心原理和思维方式，进而融会贯通各种技术，再通过各种实践训练，最终成为真正的高手。前面专栏我们提到过，程序员的三大梦想，也就是开发数据库、操作系统和编译器。今天我们通过一个支持标准 SQL 语法的大数据仓库引擎的设计开发案例，看看如何自己开发一个大数据 SQL 引擎。在学习今天的内容前，我们先回顾一下前面讨论过的大数据仓库 Hive。作为一个成功的大数据仓库，它将 SQL 语句转换成 MapReduce 执行过程，并把大数据应用的门槛下降到普通数据分析师和工程师就可以很快上手的地步。这部分内容如果你忘记了，可以返回专栏第11 期复习一下。但是 Hive 也有自己的问题，由于它使用自己定义的 Hive QL 语法，这对已经熟悉 Oracle等传统数据仓库的分析师来说，还是有一定的上手难度。特别是很多企业使用传统数据仓库进行数据分析已经由来已久，沉淀了大量的 SQL 语句，并且这些 SQL 经过多年的修改打磨，非常庞大也非常复杂。我曾经见过某银行的一条统计报表 SQL，打印出来足足两张 A4纸。这样的 SQL 光是完全理解可能就要花很长时间，再转化成 Hive QL 就更加费力，还不说转化修改过程中可能引入的 bug。2012 年那会，我还在 Intel 亚太研发中心大数据团队，当时团队决定开发一款能够支持标准数据库 SQL 的大数据仓库引擎，希望让那些在 Oracle 上运行良好的 SQL 可以直接运行在 Hadoop 上，而不需要重写成 Hive QL。这就是后来的Panthera项目。在开发 Panthera 前，我们分析一下 Hive 的主要处理过程，大体上分成三步：1.将输入的 Hive QL 经过语法解析器转换成 Hive 抽象语法树（Hive AST）。2.将 Hive AST 经过语义分析器转换成 MapReduce 执行计划。3.将生成的 MapReduce 执行计划和 Hive 执行函数代码提交到 Hadoop 上执行。Panthera 的设计思路是保留 Hive 语义分析器不动，替换 Hive 语法解析器，使其将标准SQL 语句转换成 Hive 语义分析器能够处理的 Hive 抽象语法树。用图形来表示的话，是用红框内的部分代替黑框内原来 Hive 的部分。红框内的组件我们重新开发过，浅蓝色的是我们使用的一个开源的 SQL 语法解析器，将标准 SQL 解析成标准 SQL 抽象语法树（SQL AST），后面深蓝色的就是团队自己开发的SQL 抽象语法树分析与转换器，将 SQL AST 转换成 Hive AST。那么标准 SQL 和 Hive QL 的差别在哪里呢？标准 SQL 和 Hive QL 的差别主要有两个方面，一个是语法表达方式，Hive QL 语法和标准SQL 语法略有不同；另一个是 Hive QL 支持的语法元素比标准 SQL 要少很多，比如，数据仓库领域主要的测试集TPC-H所有的 SQL 语句 Hive 都不支持。尤其是是 Hive 不支持复杂的嵌套子查询，而对于数据仓库分析而言，嵌套子查询几乎是无处不在的。比如下面这样的 SQL，在 where 查询条件 existes 里面包含了另一条 SQL 语句。12345678select o_orderpriority,count(*)as order_count from orders where o_orderdate=date DATE and o_orderdate date DATE+interval 3 month and exists(select*from lineitem where l_orderkey=o_orderkey and l_commitdate l_receiptdate)group by o_orderpriority order by o_orderpriority;复制代码防止断更 请务必加 首发微信：1716143665所以开发支持标准 SQL 语法的 SQL 引擎的难点，就变成如何将复杂的嵌套子查询消除掉，也就是 where 条件里不包含 select。SQL 的理论基础是关系代数，而关系代数的主要操作只有 5 种，分别是并、差、积、选择、投影。所有的 SQL 语句最后都能用这 5 种操作组合完成。而一个嵌套子查询可以等价转换成一个连接（join）操作。比如这条 SQL这是一个在 where 条件里嵌套了 not in 子查询的 SQL 语句，它可以用 left outer join 和left semi join 进行等价转换，示例如下，这是 Panthera 自动转换完成得到的等价 SQL。这条 SQL 语句不再包含嵌套子查询，通过可视化工具将上面两条 SQL 的语法树展示出来，是这样的。1select s_grade from staff where s_city not in(select p_city from proj where s_empname=p复制代码1select panthera_10.panthera_1 as s_grade from(select panthera_1,panthera_4,panthera_6复制代码这是原始的 SQL 抽象语法树。这是等价转换后的抽象语法树，内容太多被压缩的无法看清，不过你可以感受一下（笑）。那么，在程序设计上如何实现这样复杂的语法转换呢？当时 Panthera 项目组合使用了几种经典的设计模式，每个语法点被封装到一个类里去处理，每个类通常不过几十行代码，这样整个程序非常简单、清爽。如果在测试过程中遇到不支持的语法点，只需为这个语法点新增加一个类即可，团队协作与代码维护非常容易。使用装饰模式的语法等价转换类的构造，Panthera 每增加一种新的语法转换能力，只需要开发一个新的 Transformer 类，然后添加到下面的构造函数代码里即可。1234567 private static SqlASTTransformer tf=new RedundantSelectGroupItemTransformer(new DistinctTransformer(new GroupElementNormalizeTransformer(new PrepareQueryInfoTransformer(new OrderByTransformer(new OrderByFunctionTransformer(复制代码而在具体的 Transformer 类中，则使用组合模式对抽象语法树 AST 进行遍历，以下为Between 语法节点的遍历。我们看到使用组合模式进行树的遍历不需要用递归算法，因为递归的特性已经隐藏在树的结构里面了。8910111213141516171819202122232425262728293031323334353637383940 new MinusIntersectTransformer(new PrepareQueryInfoTransformer(new UnionTransformer(new Leftsemi2LeftJoinTransformer(new CountAsteriskPositionTransformer(new FilterInwardTransformer(/use leftJoin method to handle not exists for correlated new CrossJoinTransformer(new PrepareQueryInfoTransformer(new SubQUnnestTransformer(new PrepareFilterBlockTransformer(new PrepareQueryInfoTransformer(new TopLevelUnionTransformer(new FilterBlockAdjustTransformer(new PrepareFilterBlockTransformer(new ExpandAsteriskTransformer(new PrepareQueryInfoTransformer(new CrossJoinTransformer(new PrepareQueryInfoTransformer(new ConditionStructTransformer(new MultipleTableSelectTransformer(new WhereConditionOptimizationTransformer(new PrepareQueryInfoTransformer(new InTransformer(new TopLevelUnionTransformer(new MinusIntersectTransformer(new NaturalJoinTransformer(new OrderByNotInSelectListTransformer(new RowNumTransformer(new BetweenTransformer(new UsingTransformer(new SchemaDotTableTransformer(new NothingTransformer();1234567 Override protected void transform(CommonTree tree,TranslateContext context)throws SqlXlateExc tf.transformAST(tree,context);trans(tree,context);void trans(CommonTree tree,TranslateContext context)复制代码拼课微信：1716143665将等价转换后的抽象语法树 AST 再进一步转换成 Hive 格式的抽象语法树，就可以交给Hive 的语义分析器去处理了，从而也就实现了对标准 SQL 的支持。当时 Facebook 为了证明 Hive 对数据仓库的支持，Facebook 的工程师手工将 TPC-H 的测试 SQL 转换成 Hive QL，我们将这些手工