Oracle如何根据SQL_TEXT生成SQL_ID

2013-03-29  |  14:09分类:MySQL,ORACLE,PHP  |  标签:  |  

本文纯属八卦,基本没有任何实用价值。Oracle总是都会通过SQL_ID来标志一个唯一的SQL。SQL_ID与SQL_TEXT一一对应。如果两个SQL文本有任何不同,包括空格等任何不可见字符,都会导致SQL_ID不同。本文八卦的内容是:Oracle如何根据SQL_TEXT内容散列成一个13位的字符串。为什么这个字符串会是13位?为什么这个字符经常以数字开头?

本文参考TANEL PODER和Slavik的两篇介绍(12),详细介绍转换原理,顺便给出PHP/Perl实现代码。

0. 概述

Oracle先计算SQL_TEXT的md5散列值;取散列值的低64位(bits),每次取5位(最后一次4位),使用Base32将其依次转换成可见字符,就是你最终看到的SQL_ID。原理就是这样。

不过实际转换过程中有一些要注意的事项:

(a) Oracle在计算md5散列时,会在SQL_TEXT末尾加一个不可见字符\0,AWR报表中经常有这样的SQL_TEXT

(b) 注意little-endian的问题

(c) Base32转码的可见字符为0123456789abcdfghjkmnpqrstuvwxyz

(d) 编写程序的时候需要注意大数精度的问题,本文中Perl/PHP程序都使用了数学大数处理函数

1. 详细过程

1.1 示例

我们考虑如下给定SQL:

select sysdate from dual;

在Oracle 10g中执行并查询v$SQL,可以看到这个SQL的SQL_ID是

SQL > select sql_id, hash_value from v$sql 2 where sql_text = 'select sysdate from dual'; SQL_ID HASH_VALUE ------------- ---------- 7h35uxf5uhmm1 2343063137

1.2 SQL_ID计算的详细过程

1.2.1 散列值的计算

将SQL_TEXT末尾加上一个空字符\0,然后进行md5散列:

use Digest::MD5 qw(md5 md5_hex md5_base64); $stmt = "select sysdate from dual\0"; $hash = md5 $stmt;

select sysdate from dual\0的MD5散列值为abd4dbb3096b15f1ebba0c78614ea88b,共128位(明明是32位,怎么说128位?),取低64位为:"ebba0c78 614ea88b"。

md5散列的字节码如下(128位):

|10101011|11010100|11011011|10110011| |00001001|01101011|00010101|11110001| |11101011|10111010|00001100|01111000| |01100001|01001110|10101000|10001011|
1.2.2 取低64位整数

md5散列值的低64位为:

|11101011|10111010|00001100|01111000| |01100001|01001110|10101000|10001011|

分为两部分,高32位和低32位,分别为:ebba0c78 614ea88b,对应二进制字节流为:|11101011|10111010|00001100|01111000|和|01100001|01001110|10101000|10001011|。可以直接使用unpack函数将散列值解开。这里需要注意,取模运算为整数运算,而我这里的环境是x86_64 little-endian,所以取模运算时对应的整数字节序(人读取的时候):

|01111000|00001100|10111010|11101011| |10001011|10101000|01001110|01100001|

perl代码:

my($a,$b,$msb,$lsb) = unpack("V*",$hash);
1.2.3 Base32转换为可见字符

Oracle使用了Base32将字节流转换为可见字符。

一个Base32字符对应字节流的5位(bits),这里总计64位,所以是64/5,一共13个字符。其中12个字符为5位,有一个字符总是四位(SQL_ID的第一位)。

我们来看本案例的字节流,每五位转换为一个Base32的编码,取最后5为00001(十进制1),对应Base32编码为1;取倒数第二个五位10011(十进制19),取倒数第三个五位为010011(十进制19)...

Oracle使用的Base32对应编码字符为:

0123456789abcdfghjkmnpqrstuvwxyz

编码和字符对应关系

编码 00 01 02 03 04 05 06 07 08 09 10 11 12 13 14 15 字符 0 1 2 3 4 5 6 7 8 9 a b c d f g ----------------------------------------------------- 编码 16 17 18 19 20 21 22 23 24 25 26 27 28 29 30 31 字符 h j k m n p q r s t u v w x y z

所以,上面编码1、19、19对应的字符为1、m、m,这也正是SQL_ID对应的最后三位:

7h35uxf5uhmm1

3 代码片段

3P程序代码如下:

3.1 Perl

#!/usr/bin/perl -w use Digest::MD5 qw(md5 md5_hex md5_base64); use Math::BigInt; my $stmt = "select sysdate from dual\0"; my $hash = md5 $stmt; my($a,$b,$msb,$lsb) = unpack("V*",$hash); my $sqln = $msb*(2**32)+$lsb; my $stop = log($sqln) / log(32) + 1; my $sqlid = ''; my $charbase32 = '0123456789abcdfghjkmnpqrstuvwxyz'; my @chars = split '', $charbase32; for($i=0; $i < $stop-1; $i++){ my $x = Math::BigInt->new($sqln); my $seq = $x->bdiv(32**$i)->bmod(32); $sqlid = $chars[$seq].$sqlid; } print "SQL is:\n $stmt \nSQL_ID is\n $sqlid\n";

3.2 PHP

function stmt_2_sqlid($stmt){ $h = md5($stmt."\0",TRUE); $un = unpack("V*",$h); $msb = $un[3] + 0; if($msb < 0) {$msb = pow(2,32) + $msb;} $lsb = $un[4] + 0; if($lsb < 0) {$lsb = pow(2,32) + $lsb;} $sqln = bcadd(bcmul($msb , bcpow(2,32)) , $lsb); $stop = log($sqln) / log(32) + 1; $sqlid = ''; $alphabet = '0123456789abcdfghjkmnpqrstuvwxyz'; for($i = 0; $i < $stop-1; $i++){ $seq = bcmod((bcdiv($sqln,bcpow(32,$i),5)),32); $sqlid = $alphabet[$seq].$sqlid; } return $sqlid; } $stmt = 'select sysdate from dual'; echo stmt_2_sqlid($stmt);

3.3 Python

参考:Oracle sql_id and hash value

4. 最后

一个略有趣的事实,SQL_ID的第一位经常会是数字。这是因为是64位(bits),按照5位一个字符划分,最后一个字符总是只有4位,范围总是0到15,对应字符为0123456789abcdfg,也就是说超过50%的SQL_ID都是以数字开头的。

好了,八卦结束。

喜欢本文,那就收藏到:

发表您的评论