SQL与笛卡尔积

首先,先简单解释一下笛卡尔积。

现在,我们有两个集合A和B。

1
A = {0,1}     B = {2,3,4}

集合 A×B 和 B×A的结果集就可以分别表示为以下这种形式:

1
2
3
A×B = {(0,2),(1,2),(0,3),(1,3),(0,4),(1,4)};

B×A = {(2,0),(2,1),(3,0),(3,1),(4,0),(4,1)};

以上A×B和B×A的结果就可以叫做两个集合相乘的笛卡尔积

从以上的数据分析我们可以得出以下两点结论:

  1. 两个集合相乘,不满足交换率,既 A×B ≠ B×A;

  2. A集合和B集合相乘,包含了集合A中元素和集合B中元素按顺序结合的所有的可能性。既两个集合相乘得到的新集合的元素个数是 A集合的元素个数 × B集合的元素个数;

  3. 其实和高中数学里的排列很类似,不过排列里含有(2,0)、(0,2),而笛卡尔积只有其中一个:AxB则是(0,2),BxA则是(2,0)。

数据库表连接数据行匹配时所遵循的算法就是以上提到的笛卡尔积,表与表之间的连接可以看成是在做乘法运算。

比如现在数据库中有两张表,student表和 student_subject表,如下所示:

我们执行以下的sql语句,只是纯粹的进行表连接。

1
2
SELECT * from student JOIN student_subject;
SELECT * from student_subject JOIN student;

看一下执行结果:

从执行结果上来看,结果符合我们以上提出的两点结论;

以第一条sql语句为例我们来看一下他的执行流程,

  1. from语句把student表 和 student_subject表从数据库文件加载到内存中。

  2. join语句相当于对两张表做了乘法运算,把student表中的每一行记录按照顺序和student_subject表中记录依次匹配。

  3. 匹配完成后,我们得到了一张有 (student中记录数 × student_subject表中记录数)条的临时表。 在内存中形成的临时表如表1.0所示。我们又把内存中表1.0所示的表称为笛卡尔积表

针对以上的理论,我们提出一个问题,难道表连接的时候都要先形成一张笛卡尔积表吗?

如果两张表的数据量都比较大的话,那样就会占用很大的内存空间这显然是不合理的。所以,我们在进行表连接查询的时候一般都会使用JOIN xxx ON xxx的语法,ON语句的执行是在JOIN语句之前的,也就是说两张表数据行之间进行匹配的时候,会先判断数据行是否符合ON语句后面的条件再决定是否JOIN

  因此,有一个显而易见的SQL优化的方案是,当两张表的数据量比较大,又需要连接查询时,应该使用 FROM table1 JOIN table2 ON xxx的语法,避免使用 FROM table1,table2 WHERE xxx 的语法,因为后者会在内存中先生成一张数据量比较大的笛卡尔积表,增加了内存的开销。

根据上一篇博客( http://www.cnblogs.com/cdf-opensource-007/p/6502556.html ),及本篇博客的分析,我们可以总结出一条查询sql语句的执行流程。

1. From
2. ON
3. JOIN
4. WHERE
5. GROUP BY
6. SELECT
7. HAVING
8. ORDER BY
9. LIMIT

最后,针对两张数据库表连接的底层实现,我用java代码模拟了一下,感兴趣的可以看一下,能够帮助我们理解:

1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
31
32
33
34
35
36
37
38
39
40
41
42
43
44
45
46
47
48
49
50
51
52
53
54
55
56
57
58
59
60
61
62
63
64
65
66
67
68
69
70
71
72
73
74
75
76
77
78
79
80
81
82
83
84
85
86
87
88
89
90
91
92
package com.opensource.util;

import java.util.Arrays;

public class DecareProduct {

public static void main(String[] args) {

//使用二维数组,模拟student表
String[][] student ={
{"0","jsonp"},
{"1","alice"}
};

//使用二维数组,模拟student_subject表
String[][] student_subject2 ={
{"0","0","语文"},
{"1","0","数学"}
};

//模拟 SELECT * from student JOIN student_subject;
String[][] resultTowArray1 = getTwoDimensionArray(student,student_subject2);
//模拟 SELECT * from student_subject JOIN student;
String[][] resultTowArray2 = getTwoDimensionArray(student_subject2,student);

int length1 = resultTowArray1.length;
for (int i = 0; i <length1 ; i++) {
System.out.println(Arrays.toString(resultTowArray1[i]));
}
System.err.println("-----------------------------------------------");
int length2 = resultTowArray2.length;
for (int i = 0; i <length2 ; i++) {
System.out.println(Arrays.toString(resultTowArray2[i]));
}
}

/**
* 模拟两张表连接的操作
* @param towArray1
* @param towArray2
* @return
*/
public static String[][] getTwoDimensionArray(String[][] towArray1,String[][] towArray2){

//获取二维数组的高(既该二维数组中有几个一维数组,用来指代数据库表中的记录数)
int high1 = towArray1.length;
int high2 = towArray2.length;

//获取二维数组的宽度(既二位数组中,一维数组的长度,用来指代数据库表中的列)
int wide1 = towArray1[0].length;
int wide2 = towArray2[0].length;

//计算出两个二维数组进行笛卡尔乘积运算后获得的结果集数组的高度和宽度,既笛卡尔积表的行数和列数
int resultHigh = high1 * high2;
int resultWide = wide1 + wide2;

//初始化结果集数组,既笛卡尔积表
String[][] resultArray = new String[resultHigh][resultWide];

//迭代变量
int index = 0;

//先对第二二维数组遍历
for (int i = 0; i < high2; i++) {

//拿出towArray2这个二维数组的元素
String[] tempArray = towArray2[i];

//循环嵌套,对第towArray1这个二维数组遍历
for (int j = 0; j < high1; j++) {

//初始化一个长度为'resultWide'的数组,作为结果集数组的元素,既笛卡尔积表中的一行
String[] tempExtened = new String[resultWide];

//拿出towArray1这个二维数组的元素
String[] tempArray1 = towArray1[j];

//把tempArray1和tempArray两个数组的元素拷贝到结果集数组的元素中去。(这里用到了数组扩容)
System.arraycopy(tempArray1, 0, tempExtened, 0, tempArray1.length);
System.arraycopy(tempArray, 0, tempExtened, tempArray1.length, tempArray.length);

//把tempExtened放入结果集数组中
resultArray[index] = tempExtened;

//迭代加一
index++;
}
}

return resultArray;
}
}

执行结果:

几个join的笛卡尔积:

  • 两表直接连接,笛卡尔积的结果数量是两表的数据量相乘
  • 带where/on条件id相等的笛卡尔积和inner join结果相同,但是inner join效率快一点
  • left join:TEST_A表的ID为空时拼接TEST_B表的内容为空,
  • right join则相反
  • full join:等于left join和right join的并集

因此如果程序的确需要多表联合查询,尽量两两连接,并通过where或on或inner join缩小结果集,再将结果集对其他表继续连接……

JavaIO的装饰模式与笛卡尔积

在学习 java.io 包的时候,InputStream 那一群类很让人反感,子类繁多就不用说,使用起来非常奇怪,因为它使用了装饰模式……

假设我们想以缓存的方式从文件中读取字节流,一般常见的操作总是:先创建一个FileInputStream,然后把这个FileInputStream放入BufferedInputStream构造函数中去创建BufferedInputStream。完成这些工作后才能开始读取文件:

1
2
3
4
5
6
7
8
9
10
11
12
13
try (FileInputStream fis = new FileInputStream("c:/a.txt");
BufferedInputStream bis = new BufferedInputStream(fis)) {

byte[] buffer = new byte[1024];
int len;
StringBuilder result = new StringBuilder();
while ((len = bis.read(buffer)) != -1) {
result.append(new String(buffer, 0, len));
}

} catch (IOException e) {
//handle
}

为什么 sun 不能直接创建以缓存方式从文件中读取数据的输入流类呢?

或者说为什么InputStream选择装饰者模式,而非直接继承的方法来扩展,也就是装饰者模式VS继承。

为了回答这个问题,就以InputStream与FilterInputStream两者组合,如果我用了继承,看看我们的类图是什么样的:

似曾相识,我们再看一下:

InputStream:[ FileInputStreamByteArrayInput StreamSequenceInputStreamObjectInputreamPipedInputStreamStringBufferInputStream……还包括其他二方、三方继承InputStream自实现的InputStream子类,目前至少有两百多个各种实现]

FilterInputStream(它也继承自InputStream):[BufferedInputStreamDataInputStreamPushbackInputStream……]

两者假设进行任意组合,即可构成一个所谓的输出流类,那么这种输出流类的数量将是一个笛卡儿积,即爆炸增长,同时InputStream内部还可以进行互相组合。

而如果采用装饰模式,具体你们怎么搭配我不关心,只需要套个装饰,即变成了一个新的功能的输出流类

SQL与笛卡尔积 转自: