「分布式技术专题」数据库常见的JOIN算法
bigegpt 2025-03-25 11:14 7 浏览
mysql支持的join算法
- Nested Loop Join
- Index Nested-Loop Join
- Block Nested-Loop Join
Index Nested-Loop Join 和 Block Nested-Loop Join是在Nested-Loop Join基础上做了优化。
Nested Loop Join
Nested-Loop Join的思想就是通过双层循环比较数据来获得结果; 其中左表为外循环,右表为内循环,左表为驱动表。其实现逻辑简单粗暴,可以理解为两层for循环,小表在外环,大表在内环,数据比较的次数 = 小表记录数 * 大表记录数。
//select * from t1 inner join t2 on t1.a= t2.a;
List<结果> lists = new ArrayList<>();
for(t2 t2 : t2){ //外层循环
for(t1 t1 : t1){ //内循环
if(t2.a().equals(t1.a())){ //条件匹配
//存放结果到结果集
结果 = t1的字段 + t2的字段
lists.add(结果集);
}
}
}
索引嵌套循环连接 Index Nested-Loop Join
优化思路:内表为大表,可在join字段上建立索引,减少内表数据的扫描次数。
执行流程:
0.前置条件:外表 t2 已在连接用的 a 字段以建立索引;
1.从外表 t1 中读取一行数据 R;
2.使用 R 中的a 字段和内表 t2 的 a 字段进行索引关联查找;
3.根据索引到的记录取出表 t2 中满足条件的行,跟 R 组成一行,作为结果集的一部分;
4.重复执行步骤 1 到 3,直到表 t1 循环结束。
可见,通过索引的建立,避免了对大表进行全表扫描,加快了查询速度。
缓存块嵌套循环连接 Block Nested-Loop Join
优化思路:通过一次性缓存多条数据,减少外层表的循环次数。
t1为小表时的执行流程:
1.把t1 表查询的字段数据整个读入线程内存 join_buffer 中;
2.扫描表 t2,把表 t2 中的每一行取出来,跟 join_buffer 中的 数据做对比,满足 join 条件的,作为结果集的一部分返回。
t1为大表时的执行流程: 1.扫描表 t1,顺序读取一定长度的数据行放入 join_buffer 中;
2.扫描表 t2,把 t2 中的每一行取出来,跟 join_buffer 中的数据做对比,满足 join 条件的,作为结果集的一部分返回;
3.清空 join_buffer;
4.顺序读取 t1表下一批次数据放入 join_buffer 中,重复步骤2
Oracle的join算法
- Nested Loop Join,嵌套循环
- Hash Join,将两个表中较小的一个在内存中构造一个 Hash 表(对JoinKey),扫描另一个表
- Sort Merge Join,将两个表排序,然后再进行join
DB2和SQL Server也使用这三种方式join算法。
Hash Join
Hash Join的使用场景:
- 适合于小表与大表连接、返回大型结果集的连接
- 只能用于等值连接,且只能在CBO优化器模式下
在inner/left/right join,以及union/group by等 都会使用hash join进行操作。
实现原理:
Hash Join中的小表称之为hash表,大表称为探查表,以小表作为驱动表。
- 两个输入:
– build input(也叫做outer input),小表
– probe input(也叫做inner input),大表
- 两个阶段:
– Build(构造)阶段,处理build input
– Probe(探测)阶段,探测probe input
build 阶段,主要是构造哈希表(hash table):
- 在inner/left/right join等操作中,表关联字段作为hash key
- 在group by操作中,group by的字段作为hash key;
- 在union或其它去重操作中,hash key包括所有的select字段。
一个hash值对应到hash table中的hash buckets。多个hash buckets可以使用链表数据结构连接起来。
Probe 阶段,从probe input中取出每一行记录,根据key值生成hash值,从build阶段构造的hash table中搜索对应的hash bucket。
- Grace Hash join
以上为数据库常见的JOIN算法,「分布式技术专题」是国产数据库hubble团队精心整编,专题会持续更新,欢迎大家保持关注。
相关推荐
- 【机器学习】数据挖掘神器LightGBM详解(附代码)
-
来源:机器学习初学者本文约11000字,建议阅读20分钟本文为你介绍数据挖掘神器LightGBM。LightGBM是微软开发的boosting集成模型,和XGBoost一样是对GBDT...
- 3分钟,用DeepSeek全自动生成语音计算器,还带括号表达式!
-
最近,大家慢慢了解到了DeepSeek的强大功能,特别是它在编程领域也同样强大。编程零基础小白,一行代码不用写,也能全自动生成一个完整的、可运行的软件来!很多程序员一直不相信小白不写代码也能编软件!下...
- python学习笔记 3.表达式
-
在Python中,表达式是由值、变量和运算符组成的组合。以下是一些常见的Python表达式:算术表达式:由数值和算术运算符组成的表达式,如加减乘除等。例如:5+3、7*2、10/3等。字符...
- 5.7 VS 8.x,为什么用户不升级MySql
-
一般来说为了更好的功能和性能,都需要将软件升级到最新的版本,然而在开源软件中,由于一些开发商变化或其他的问题(开源授权变化),致使人们不愿使用最新的版本,一个最典型的问题就是CentOS操作系统。还有...
- 大厂高频:讲一下MySQL主从复制
-
大家经常听说主从复制,那么主从复制的意义?能解决的问题有哪些?主从复制能解决的问题就是在我们平时开发的程序中操作数据库的时候,大多数的情况查询的操作大大超过了写的操作,也就说对数据库读取数据的压力比较...
- MYSQL数据库的五大安全防护措施
-
以技术为基础的企业里最有价值的资产莫过于是客户或者其数据库中的产品信息了。因此,在这样的企业中,保证数据库免受外界攻击是数据库管理的重要环节。很多数据库管理员并没有实施什么数据库保护措施,只是因为觉得...
- docker安装mysql
-
准备工作已安装Docker环境(官方安装文档)终端/命令行工具(Linux/macOS/WSL)步骤1:拉取MySQL镜像打开终端执行以下命令,拉取官方MySQL镜像(默认最新版本):d...
- Zabbix监控系统系列之六:监控 mysql
-
zabbix监控mysql1、监控规划在创建监控项之前要尽量考虑清楚要监控什么,怎么监控,监控数据如何存储,监控数据如何展现,如何处理报警等。要进行监控的系统规划需要对Zabbix很了解,这里只是...
- 详解MySQL的配置文件及优化
-
#头条创作挑战赛#在Windows系统中,MySQL服务器启动时最先读取的是my.ini这个配置文件。在Linux系统中,配置文件为my.cnf,其路径一般为/etc/my.cnf或/etc/mysq...
- Mysql 几个批处理执行脚本
-
学习mysql过程中,需要创建测试数据,并让多人每人一个数据库连接并进行作业检查。整合部分批处理创建数据批量创建数据库DELIMITER$CREATEPROCEDURECreateDatab...
- MySQL学到什么程度?才有可以在简历上写精通
-
前言如今互联网行业用的最多就是MySQL,然而对于高级Web面试者,尤其对于寻找30k下工作的求职者,很多MySQL相关知识点基本都会涉及,如果面试中,你的相关知识答的模糊和不切要点,基...
- mysql 主、从服务器配置“Slave_IO_Running: Connecting” 问题分析
-
#在进行mysql主、从服务器配置时,”SHOWSLAVESTATUS;“查看从库状态Slave_IO_Runing,出现错误:“Slave_IO_Running:Connectin...
- MYSQL数据同步
-
java开发工程师在实际的开发经常会需要实现两台不同机器上的MySQL数据库的数据同步,要解决这个问题不难,无非就是mysql数据库的数据同步问题。但要看你是一次性的数据同步需求,还是定时数据同步,亦...
- 「MySQL 8」MySQL 5.7都即将停只维护了,是时候学习一波MySQL 8了
-
MySQL8新特性选择MySQL8的背景:MySQL5.6已经停止版本更新了,对于MySQL5.7版本,其将于2023年10月31日停止支持。后续官方将不再进行后续的代码维护。另外,...
- Prometheus监控mysql
-
通过Prometheus监控Mysql,我们需要在Mysql端安装一个mysql-exporter,然后Prometheus通过mysql-exporter暴露的端口抓取数据。1.安装一个MYSQL配...
- 一周热门
- 最近发表
- 标签列表
-
- mybatiscollection (79)
- mqtt服务器 (88)
- keyerror (78)
- c#map (65)
- resize函数 (64)
- xftp6 (83)
- bt搜索 (75)
- c#var (76)
- mybatis大于等于 (64)
- xcode-select (66)
- mysql授权 (74)
- httperror403.14-forbidden (63)
- logstashinput (65)
- hadoop端口 (65)
- dockernetworkconnect (63)
- esxi7 (63)
- vue阻止冒泡 (67)
- c#for循环 (63)
- oracle时间戳转换日期 (64)
- jquery跨域 (68)
- php写入文件 (73)
- kafkatools (66)
- mysql导出数据库 (66)
- jquery鼠标移入移出 (71)
- 取小数点后两位的函数 (73)