小米正式开源 SQL 智能优化与改写工具 SOAR
近日,小米正式公布开源 SOAR。
截至今日,该项目已经获得了 350 个「star」以及 44 个「fork」(GitHub项目地址:https://github.com/XiaoMi/soar)
SOAR 简介
SOAR,即 SQL Optimizer And Rewriter,是一款 SQL 智能优化与改写工具,由小米运维 DBA 团队出品
SOAR 体系架构
SOAR主要由语法解析器,集成环境,优化倡议,重写逻辑,工具集五大模块组成。
语法解析和语法检查
一条SQL从文件,规范输入或下令行参数等情势通报给SOAR后首先进入语法解析器,选用了vitess的语法解析库作为SOAR的语法解析库,但随时需求的一直添加我们发明有些复杂需求运用vitess的语法解析实现起来比较逻辑比较复杂。于是参考业办其他数据库产品,于是引入了TiDB的语法解析器做为补充。后来发明这两个解析库还存在一定的盲区,于是又引入了MySQL施行返回效果作为多多版本SQL方言的补充。大家也可以看到在语法解析器这里,SOAR的实现方案是松懈的、可插拔的。SOAR并不直接保护巨大的语法解析库,它把各种优良的语法解析库集成在一起,各取所长。
集成环境
集成环境区分线上环境和测试环境两种,离别用于解决不一样场景下会员的SQL优化需求。一种常见的状况是已有表构造需要优化查询SQL的场景,可以从线上环境导出表构造和足够的采样数据到测试环境,在测试环境上就可以安心的施行各种高危操纵而不用担忧数据被损坏。另一种常见的状况是建一套全新的数据库,需要验证供给的数据字典中是否存在优化的可能。关于这种状况,很有可能你不需要晓得线上环境在哪儿,完全只是想先试试看,要是报错了马上改对就是了。当然还有更多种组合的场景需求,将在集成环境一单分类注明。
优化倡议
当前SOAR可以供给的优化倡议有基于启发式法则(平常也称之为经验)的优化倡议,基于索引优化算法给出的索引优化倡议,以及基于EXPLAIN信息给出的解读。
重写逻辑
上面提到的优化倡议是早期实现的主要功能,早期的功能还只是停顿在倡议上,关于一些低级会员看到倡议也不一定会改写。为了进一步简化SQL优化的老本,SOAR又进一步开掘了主动SQL重写的功能。此刻供给几十种常见场景下的SQL等价转写,不过比拟SQL优化倡议还有很大的改善空间。这局部的功能和逻辑将在重写逻辑一章中细致注明。
工具集
除了SQL优化和改写之外,为了利便会员运用以及美化输出展示情势,SOAR还供给了一些辅助的小工具,比方markdown转HTML工具,SQL格局化输出工具等等。你可以在常用下令中找到这些小工具的运用要领。
SOAR 功能特色
SOAR的功能特色如下:
● 跨平台支撑(支撑Linux, Mac环境,Windows环境理论上也支撑,不过未全面测试)
● 支撑基于启发式算法的语句优化
● 支撑复杂查询的多列索引优化(UPDATE, INSERT, DELETE, SELECT)
● 支撑EXPLAIN信息丰硕解读
● 支撑SQL指纹、紧缩和美化
● 支撑统一张表多条ALTER请求合并
● 支撑自定义法则的SQL改写
此外,小米的SOAR与业内其他优良产品对照,也有着非常大的优势: