海量資料庫的查詢最佳化及分頁演算法方案

日期:2008-07-17  作者:喜騰小二  來源:PHPChina


很多人不知道SQL陳述式在SQL SERVER中是如何執行的,他們擔心自己所寫的SQL陳述式會被SQL SERVER誤解。比如:
select * from table1 where name='zhangsan' and tID > 10000
 和執行:
select * from table1 where tID > 10000 and name='zhangsan'
  一些人不知道以上兩條陳述式的執行效率是否一樣,因為如果簡單的從陳述式先後上看,這兩個陳述式的確是不一樣,如果tID是一個聚合索引,那麼後一句僅僅從表的10000條以後的記錄中尋找就行了;而前一句則要先從全表中尋找看有幾個name='zhangsan'的,而後再根據限制條件條件tID>10000來提出查詢結果。
  事實上,這樣的擔心是不必要的。SQL SERVER中有一個“查詢分析最佳化器”,它可以計算出where子句中的搜尋條件並確定哪個索引能縮小表掃瞄的搜尋空間,也就是說,它能實現自動最佳化。
  雖然查詢最佳化器可以根據where子句自動的進行查詢最佳化,但大家仍然有必要瞭解一下“查詢最佳化器”的工作原理,如非這樣,有時查詢最佳化器就會不按照您的本意進行快速查詢。
  在查詢分析階段,查詢最佳化器檢視查詢的每個階段並決定限制需要掃瞄的資料量是否有用。如果一個階段可以被用作一個掃瞄參數(SARG),那麼就稱之為可最佳化的,並且可以利用索引快速獲得所需資料。
  SARG的定義:用於限制搜尋的一個操作,因為它通常是指一個特定的比對,一個值得範圍內的比對或者兩個以上條件的AND連線。形式如下:
列名 運運算元 <常數 或 變數>

<常數 或 變數> 運運算元列名
  列名可以出現在運運算元的一邊,而常數或變數出現在運運算元的另一邊。如:
Name=’張三’
價格>5000
5000<價格
Name=’張三’ and 價格>5000
  如果一個運算式不能滿足SARG的形式,那它就無法限制搜尋的範圍了,也就是SQL SERVER必須對每一行都判斷它是否滿足Where子句中的所有條件。所以一個索引對於不滿足SARG形式的運算式來說是無用的。
  介紹完SARG後,我們來總結一下使用SARG以及在實踐中遇到的和某些資料上結論不同的經驗:

  1、Like陳述式是否屬於SARG取決於所使用的萬用字元的類型

  如:name like ‘張%’ ,這就屬於SARG

  而:name like ‘%張’ ,就不屬於SARG。

  原因是萬用字元%在字串的開通使得索引無法使用。

  2、or 會引起全表掃瞄

Name=’張三’ and 價格>5000 符號SARG,而:Name=’張三’ or 價格>5000 則不符合SARG。使用or會引起全表掃瞄。

  3、非運運算元、函式引起的不滿足SARG形式的陳述式

  不滿足SARG形式的陳述式最典型的情況就是包括非運運算元的陳述式,如:NOT、!=、<>、!<、!>、NOT EXISTS、NOT IN、NOT LIKE等,另外還有函式。下麵就是幾個不滿足SARG形式的例子:

ABS(價格)<5000

Name like ‘%三’

  有些運算式,如:

Where 價格*2>5000

  SQL SERVER也會認為是SARG,SQL SERVER會將此式轉化為:

Where 價格>2500/2

  但我們不推薦這樣使用,因為有時SQL SERVER不能保證這種轉化與原始運算式是完全等價的。

  4、IN 的作用相當與OR

  陳述式:

Select * from table1 where tid in (2,3)

  和

Select * from table1 where tid=2 or tid=3

  是一樣的,都會引起全表掃瞄,如果tid上有索引,其索引也會失效。

  5、盡量少用NOT

  6、exists 和 in 的執行效率是一樣的

  很多資料上都顯示說,exists要比in的執行效率要高,同時應盡可能的用not exists來代替not in。但事實上,我試驗了一下,發現二者無論是前麵帶不帶not,二者之間的執行效率都是一樣的。因為涉及子查詢,我們試驗這次用SQL SERVER自帶的pubs資料庫。執行前我們可以把SQL SERVER的statistics I/O狀態開啟。

  (1)select title,price from titles where title_id in (select title_id from sales where qty>30)

  該句的執行結果為:

  表 'sales'。掃瞄計數 18,邏輯讀 56 次,實體讀 0 次,預讀 0 次。

  表 'titles'。掃瞄計數 1,邏輯讀 2 次,實體讀 0 次,預讀 0 次。

  (2)select title,price from titles where exists (select * from sales where sales.title_id=titles.title_id and qty>30)

  第二句的執行結果為:

  表 'sales'。掃瞄計數 18,邏輯讀 56 次,實體讀 0 次,預讀 0 次。

  表 'titles'。掃瞄計數 1,邏輯讀 2 次,實體讀 0 次,預讀 0 次。

  我們從此可以看到用exists和用in的執行效率是一樣的。

  7、用函式charindex()和前麵加萬用字元%的LIKE執行效率一樣

  前麵,我們談到,如果在LIKE前麵加上萬用字元%,那麼將會引起全表掃瞄,所以其執行效率是低下的。但有的資料介紹說,用函式charindex()來代替LIKE速度會有大的提昇,經我試驗,發現這種幫助也是錯誤的:

select gid,title,fariqi,reader from tgongwen where charindex('刑偵支隊',reader)>0 and fariqi>'2004-5-5'

  用時:7秒,另外:掃瞄計數 4,邏輯讀 7155 次,實體讀 0 次,預讀 0 次。

select gid,title,fariqi,reader from tgongwen where reader like '%' + '刑偵支隊' + '%' and fariqi>'2004-5-5'

  用時:7秒,另外:掃瞄計數 4,邏輯讀 7155 次,實體讀 0 次,預讀 0 次。

  8、union並不絕對比or的執行效率高

  我們前麵已經談到了在where子句中使用or會引起全表掃瞄,一般的,我所見過的資料都是推薦這裡用union來代替or。事實證明,這種說法對於大部分都是適用的。

select gid,fariqi,neibuyonghu,reader,title from Tgongwen where fariqi='2004-9-16' or gid>9990000

  用時:68秒。掃瞄計數 1,邏輯讀 404008 次,實體讀 283 次,預讀 392163 次。

select gid,fariqi,neibuyonghu,reader,title from Tgongwen where fariqi='2004-9-16'

union

select gid,fariqi,neibuyonghu,reader,title from Tgongwen where gid>9990000

  用時:9秒。掃瞄計數 8,邏輯讀 67489 次,實體讀 216 次,預讀 7499 次。

  看來,用union在通常情況下比用or的效率要高的多。

  但經過試驗,筆者發現如果or兩邊的查詢列是一樣的話,那麼用union則反倒和用or的執行速度差很多,雖然這裡union掃瞄的是索引,而or掃瞄的是全表。

select gid,fariqi,neibuyonghu,reader,title from Tgongwen where fariqi='2004-9-16' or fariqi='2004-2-5'

  用時:6423毫秒。掃瞄計數 2,邏輯讀 14726 次,實體讀 1 次,預讀 7176 次。

select gid,fariqi,neibuyonghu,reader,title from Tgongwen where fariqi='2004-9-16'

union

select gid,fariqi,neibuyonghu,reader,title from Tgongwen where  fariqi='2004-2-5'

  用時:11640毫秒。掃瞄計數 8,邏輯讀 14806 次,實體讀 108 次,預讀 1144 次。

  9、欄位提取要按照“需多少、提多少”的原則,避免“select *”

  我們來做一個試驗:

select top 10000 gid,fariqi,reader,title from tgongwen order by gid desc

  用時:4673毫秒

select top 10000 gid,fariqi,title from tgongwen order by gid desc

  用時:1376毫秒

select top 10000 gid,fariqi from tgongwen order by gid desc

  用時:80毫秒

  由此看來,我們每少提取一個欄位,資料的提取速度就會有相應的提昇。提昇的速度還要看您捨棄的欄位的大小來判斷。

  10、count(*)不比count(欄位)慢

  某些資料上說:用*會統計所有列,顯然要比一個世界的列名效率低。這種說法其實是沒有根據的。我們來看:

select count(*) from Tgongwen

  用時:1500毫秒

select count(gid) from Tgongwen

  用時:1483毫秒

select count(fariqi) from Tgongwen

  用時:3140毫秒

select count(title) from Tgongwen

  用時:52050毫秒

  從以上可以看出,如果用count(*)和用count(主鍵)的速度是相當的,而count(*)卻比其他任何除主鍵以外的欄位彙總速度要快,而且欄位越長,彙總的速度就越慢。我想,如果用count(*), SQL SERVER可能會自動尋找最小欄位來彙總的。當然,如果您直接寫count(主鍵)將會來的更直接些。

  11、order by按聚集索引列排序效率最高

  我們來看:(gid是主鍵,fariqi是聚合索引列)

select top 10000 gid,fariqi,reader,title from tgongwen

  用時:196 毫秒。 掃瞄計數 1,邏輯讀 289 次,實體讀 1 次,預讀 1527 次。

select top 10000 gid,fariqi,reader,title from tgongwen order by gid asc

  用時:4720毫秒。 掃瞄計數 1,邏輯讀 41956 次,實體讀 0 次,預讀 1287 次。

select top 10000 gid,fariqi,reader,title from tgongwen order by gid desc

  用時:4736毫秒。 掃瞄計數 1,邏輯讀 55350 次,實體讀 10 次,預讀 775 次。

select top 10000 gid,fariqi,reader,title from tgongwen order by fariqi asc

  用時:173毫秒。 掃瞄計數 1,邏輯讀 290 次,實體讀 0 次,預讀 0 次。

select top 10000 gid,fariqi,reader,title from tgongwen order by fariqi desc

  用時:156毫秒。 掃瞄計數 1,邏輯讀 289 次,實體讀 0 次,預讀 0 次。

  從以上我們可以看出,不排序的速度以及邏輯讀次數都是和“order by 聚集索引列” 的速度是相當的,但這些都比“order by 非聚集索引列”的查詢速度是快得多的。

  同時,按照某個欄位進行排序的時候,無論是正序還是倒序,速度是基本相當的。

  12、高效的TOP

  事實上,在查詢和提取超大容量的資料集時,影響資料庫回應時間的最大因素不是資料尋找,而是實體的I/0操作。如:

select top 10 * from (

select top 10000 gid,fariqi,title from tgongwen

where neibuyonghu='辦公室'

order by gid desc) as a

order by gid asc

  這條陳述式,從理論上講,整條陳述式的執行時間應該比子句的執行時間長,但事實相反。因為,子句執行後返回的是10000條記錄,而整條陳述式僅返回10條陳述式,所以影響資料庫回應時間最大的因素是實體I/O操作。而限制實體I/O操作此處的最有效方法之一就是使用TOP關鍵詞了。TOP關鍵詞是SQL SERVER中經過係統最佳化過的一個用來提取前幾條或前幾個百分比資料的詞。經筆者在實踐中的應用,發現TOP確實很好用,效率也很高。但這個詞在另外一個大型資料庫ORACLE中卻沒有,這不能說不是一個遺憾,雖然在ORACLE中可以用其他方法(如:rownumber)來解決。在以後的關於“實現韆萬級資料的分頁顯示存儲過程”的討論中,我們就將用到TOP這個關鍵詞。

  到此為止,我們上麵討論了如何實現從大容量的資料庫中快速地查詢出您所需要的資料方法。當然,我們介紹的這些方法都是“軟”方法,在實踐中,我們還要考慮各種“硬”因素,如:網路效能、伺服器的效能、操作係統的效能,甚至網路介麵卡、交換機等。

 三、實現小資料量和海量資料的通用分頁顯示存儲過程

  建立一個web 應用,分頁浏覽功能必不可少。這個問題是資料庫處理中十分常見的問題。經典的資料分頁方法是:ADO 紀錄集分頁法,也就是利用ADO自帶的分頁功能(利用遊標)來實現分頁。但這種分頁方法僅適用於較小資料量的情形,因為遊標本身有缺點:遊標是存放在記憶體中,很費記憶體。遊標一建立,就將相關的記錄鎖住,直到取消遊標。遊標提供了對特定集合中逐行掃瞄的手段,一般使用遊標來逐行遍歷資料,根據取出資料條件的不同進行不同的操作。而對於多表和大表中定義的遊標(大的資料集合)迴圈很容易使程式進入一個漫長的等待甚至當機。

  更重要的是,對於非常大的資料模型而言,分頁檢索時,如果按照傳統的每次都載入整個資料源的方法是非常浪費資源的。現在流行的分頁方法一般是檢索页面大小的塊區的資料,而非檢索所有的資料,然後單步執行當前行。

  最早較好地實現這種根據页面大小和頁碼來提取資料的方法大概就是“俄羅斯存儲過程”。這個存儲過程用了遊標,由於遊標的侷限性,所以這個方法並沒有得到大家的普遍認可。

  後來,網上有人改造了此存儲過程,下麵的存儲過程就是結合我們的辦公自動化實例寫的分頁存儲過程:

Create procedure pagination1

(@pagesize int,  --页面大小,如每頁存儲20條記錄

@pageindex int   --當前頁碼

)

as

set nocount on

begin

declare @indextable table(id int identity(1,1),nid int)  --定義表變數

declare @PageLowerBound int  --定義此頁的底碼

declare @PageUpperBound int  --定義此頁的頂碼

set @PageLowerBound=(@pageindex-1)*@pagesize

set @PageUpperBound=@PageLowerBound+@pagesize

set rowcount @PageUpperBound

insert into @indextable(nid) select gid from TGongwen where fariqi >dateadd(day,-365,getdate()) order by fariqi desc

select O.gid,O.mid,O.title,O.fadanwei,O.fariqi from TGongwen O,@indextable t where O.gid=t.nid

and t.id>@PageLowerBound and t.id<=@PageUpperBound order by t.id

end

set nocount off

  以上存儲過程運用了SQL SERVER的最新技術――表變數。應該說這個存儲過程也是一個非常優秀的分頁存儲過程。當然,在這個過程中,您也可以把其中的表變數寫成暫時表:Create TABLE #Temp。但很明顯,在SQL SERVER中,用暫時表是沒有用表變數快的。所以筆者剛開始使用這個存儲過程時,感覺非常的不錯,速度也比原來的ADO的好。但後來,我又發現了比此方法更好的方法。

  筆者曾在網上看到了一篇小短文《從資料表中取出第n條到第m條的記錄的方法》,全文如下:

從publish 表中取出第 n 條到第 m 條的記錄:
Select TOP m-n+1 *
FROM publish
Where (id NOT IN
    (Select TOP n-1 id
     FROM publish))

id 為publish 表的關鍵字

  我當時看到這篇文章的時候,真的是精神為之一振,覺得思路非常得好。等到後來,我在作辦公自動化係統(ASP.NET+ C#+SQL SERVER)的時候,忽然想起了這篇文章,我想如果把這個陳述式改造一下,這就可能是一個非常好的分頁存儲過程。於是我就滿網上找這篇文章,沒想到,文章還沒找到,卻找到了一篇根據此陳述式寫的一個分頁存儲過程,這個存儲過程也是目前較為流行的一種分頁存儲過程,我很後悔沒有爭先把這段文字改造成存儲過程:

Create PROCEDURE pagination2
(
@SQL nVARCHAR(4000),    --不帶排序陳述式的SQL陳述式
@Page int,              --頁碼
@RecsPerPage int,       --每頁容納的記錄數
@ID VARCHAR(255),       --需要排序的不重複的ID號
@Sort VARCHAR(255)      --排序欄位及規則
)
AS

DECLARE @Str nVARCHAR(4000)

SET @Str='Select   TOP '+CAST(@RecsPerPage AS VARCHAR(20))+' * FROM ('+@SQL+') T Where T.'+@ID+'NOT IN
(Select   TOP '+CAST((@RecsPerPage*(@Page-1)) AS VARCHAR(20))+' '+@ID+' FROM ('+@SQL+') T9 orDER BY '+@Sort+') orDER BY '+@Sort

PRINT @Str

EXEC sp_ExecuteSql @Str
GO

  其實,以上陳述式可以簡化為:

Select TOP 頁大小 *

FROM Table1

Where (ID NOT IN

          (Select TOP 頁大小*頁數 id

         FROM 表

         orDER BY id))

orDER BY ID

  但這個存儲過程有一個緻命的缺點,就是它含有NOT IN字樣。雖然我可以把它改造為:

Select TOP 頁大小 *

FROM Table1

Where not exists

(select * from (select top (頁大小*頁數) * from table1 order by id) b where b.id=a.id )

order by id

  即,用not exists來代替not in,但我們前麵已經談過了,二者的執行效率實際上是沒有區別的。

  既便如此,用TOP 結合NOT IN的這個方法還是比用遊標要來得快一些。

  雖然用not exists並不能挽救上個存儲過程的效率,但使用SQL SERVER中的TOP關鍵字卻是一個非常明智的選擇。因為分頁最佳化的最終目的就是避免產生過大的記錄集,而我們在前麵也已經提到了TOP的優勢,透過TOP 即可實現對資料量的控制。

  在分頁演算法中,影響我們查詢速度的關鍵因素有兩點:TOP和NOT IN。TOP可以提高我們的查詢速度,而NOT IN會減慢我們的查詢速度,所以要提高我們整個分頁演算法的速度,就要徹底改造NOT IN,同其他方法來替代它。

  我們知道,幾乎任何欄位,我們都可以透過max(欄位)或min(欄位)來提取某個欄位中的最大或最小值,所以如果這個欄位不重複,那麼就可以利用這些不重複的欄位的max或min作為分水嶺,使其成為分頁演算法中分開每頁的參照物。在這裡,我們可以用運運算元“>”或“<”號來完成這個使命,使查詢陳述式符合SARG形式。如:

Select top 10 * from table1 where id>200

  於是就有了如下分頁方案:

select top 頁大小 *

from table1

where id>

      (select max (id) from

      (select top ((頁碼-1)*頁大小) id from table1 order by id) as T

       )    

  order by id

  在選擇即不重複值,又容易分辨大小的列時,我們通常會選擇主鍵。下表列出了筆者用有着1000萬資料的辦公自動化係統中的表,在以GID(GID是主鍵,但並不是聚集索引。)為排序列、提取gid,fariqi,title欄位,分別以第1、10、100、500、1000、1萬、10萬、25萬、50萬頁為例,測試以上三種分頁方案的執行速度:(單位:毫秒)

頁  碼
方案1
方案2
方案3

1
60
30
76

10
46
16
63

100
1076
720
130

500
540
12943
83

1000
17110
470
250

1萬
24796
4500
140

10萬
38326
42283
1553

25萬
28140
128720
2330

50萬
121686
127846
7168


  從上表中,我們可以看出,三種存儲過程在執行100頁以下的分頁指令時,都是可以信任的,速度都很好。但第一種方案在執行分頁1000頁以上後,速度就降了下來。第二種方案大約是在執行分頁1萬頁以上後速度開始降了下來。而第三種方案卻始終沒有大的降勢,後勁仍然很足。

  在確定了第三種分頁方案後,我們可以據此寫一個存儲過程。大家知道SQL SERVER的存儲過程是事先編譯好的SQL陳述式,它的執行效率要比透過WEB页面傳來的SQL陳述式的執行效率要高。下麵的存儲過程不僅含有分頁方案,還會根據页面傳來的參數來確定是否進行資料總數統計。

-- 獲取指定頁的資料

Create PROCEDURE pagination3

@tblName   varchar(255),       -- 表名

@strGetFields varchar(1000) = '*',  -- 需要返回的列

@fldName varchar(255)='',      -- 排序的欄位名

@PageSize   int = 10,          -- 頁尺寸

@PageIndex  int = 1,           -- 頁碼

@doCount  bit = 0,   -- 返回記錄總數, 非 0 值則返回

@OrderType bit = 0,  -- 設定排序類型, 非 0 值則遞減

@strWhere  varchar(1500) = ''  -- 查詢條件 (注意: 不要加 where)

AS

declare @strSQL   varchar(5000)       -- 主陳述式

declare @strTmp   varchar(110)        -- 暫時變數

declare @strOrder varchar(400)        -- 排序類型



if @doCount != 0

  begin

    if @strWhere !=''

    set @strSQL = "select count(*) as Total from [" + @tblName + "] where "+@strWhere

    else

    set @strSQL = "select count(*) as Total from [" + @tblName + "]"

end  

--以上程式碼的意思是如果@doCount傳遞過來的不是0,就執行總數統計。以下的所有程式碼都是@doCount為0的情況

else

begin



if @OrderType != 0

begin

    set @strTmp = "<(select min"

set @strOrder = " order by [" + @fldName +"] desc"

--如果@OrderType不是0,就執行遞減,這句很重要!

end

else

begin

    set @strTmp = ">(select max"

    set @strOrder = " order by [" + @fldName +"] asc"

end



if @PageIndex = 1

begin

    if @strWhere != ''  

    set @strSQL = "select top " + str(@PageSize) +" "+@strGetFields+ "  from [" + @tblName + "] where " + @strWhere + " " + @strOrder

     else

     set @strSQL = "select top " + str(@PageSize) +" "+@strGetFields+ "  from ["+ @tblName + "] "+ @strOrder

--如果是第一頁就執行以上程式碼,這樣會加快執行速度

end

else

begin

--以下程式碼賦予了@strSQL以真正執行的SQL程式碼

set @strSQL = "select top " + str(@PageSize) +" "+@strGetFields+ "  from ["

    + @tblName + "] where [" + @fldName + "]" + @strTmp + "(["+ @fldName + "]) from (select top " + str((@PageIndex-1)*@PageSize) + " ["+ @fldName + "] from [" + @tblName + "]" + @strOrder + ") as tblTmp)"+ @strOrder



if @strWhere != ''

    set @strSQL = "select top " + str(@PageSize) +" "+@strGetFields+ "  from ["

        + @tblName + "] where [" + @fldName + "]" + @strTmp + "(["

        + @fldName + "]) from (select top " + str((@PageIndex-1)*@PageSize) + " ["

        + @fldName + "] from [" + @tblName + "] where " + @strWhere + " "

        + @strOrder + ") as tblTmp) and " + @strWhere + " " + @strOrder

end

end  

exec (@strSQL)

GO

  上麵的這個存儲過程是一個通用的存儲過程,其注釋已寫在其中了。

  在大資料量的情況下,特別是在查詢最後幾頁的時候,查詢時間一般不會超過9秒;而用其他存儲過程,在實踐中就會導緻逾時,所以這個存儲過程非常適用於大容量資料庫的查詢。

  筆者希望能夠透過對以上存儲過程的解析,能給大家帶來一定的啓示,並給工作帶來一定的效率提昇,同時希望同行提出更優秀的即時資料分頁演算法。

四、聚集索引的重要性和如何選擇聚集索引

  在上一節的標題中,筆者寫的是:實現小資料量和海量資料的通用分頁顯示存儲過程。這是因為在將本存儲過程應用於“辦公自動化”係統的實踐中時,筆者發現這第三種存儲過程在小資料量的情況下,有如下現象:

  1、分頁速度一般維持在1秒和3秒之間。

  2、在查詢最後一頁時,速度一般為5秒至8秒,哪怕分頁總數隻有3頁或30萬頁。

  雖然在超大容量情況下,這個分頁的實現過程是很快的,但在分前幾頁時,這個1-3秒的速度比起第一種甚至沒有經過最佳化的分頁方法速度還要慢,藉使用者的話說就是“還沒有ACCESS資料庫速度快”,這個認識足以導緻使用者放鍥使用您開發的係統。

  筆者就此分析了一下,原來產生這種現象的癥結是如此的簡單,但又如此的重要:排序的欄位不是聚集索引!

  本篇文章的題目是:“查詢最佳化及分頁演算法方案”。筆者隻所以把“查詢最佳化”和“分頁演算法”這兩個聯係不是很大的論題放在一起,就是因為二者都需要一個非常重要的東西――聚集索引。

  在前麵的討論中我們已經提到了,聚集索引有兩個最大的優勢:

  1、以最快的速度縮小查詢範圍。

  2、以最快的速度進行欄位排序。

  第1條多用在查詢最佳化時,而第2條多用在進行分頁時的資料排序。

  而聚集索引在每個表內又隻能建立一個,這使得聚集索引顯得更加的重要。聚集索引的挑選可以說是實現“查詢最佳化”和“高效分頁”的最關鍵因素。

  但要既使聚集索引列既符合查詢列的需要,又符合排序列的需要,這通常是一個矛盾。

  筆者前麵“索引”的討論中,將fariqi,即使用者發文日期作為了聚集索引的起始列,日期的精確度為“日”。這種作法的優點,前麵已經提到了,在進行劃時間段的快速查詢中,比用ID主鍵列有很大的優勢。

  但在分頁時,由於這個聚集索引列存在着重複記錄,所以無法使用max或min來最為分頁的參照物,進而無法實現更為高效的排序。而如果將ID主鍵列作為聚集索引,那麼聚集索引除了用以排序之外,沒有任何用處,實際上是浪費了聚集索引這個寶貴的資源。

   為解決這個矛盾,筆者後來又新增了一個日期列,其預設值為getdate()。使用者在寫入記錄時,這個列自動寫入當時的時間,時間精確到毫秒。即使這樣,為了避免可能性很小的重合,還要在此列上建立UNIQUE約束。將此日期列作為聚集索引列。

  有了這個時間型聚集索引列之後,使用者就既可以用這個列尋找使用者在插入資料時的某個時間段的查詢,又可以作為唯一列來實現max或min,成為分頁演算法的參照物。

  經過這樣的最佳化,筆者發現,無論是大資料量的情況下還是小資料量的情況下,分頁速度一般都是幾十毫秒,甚至0毫秒。而用日期段縮小範圍的查詢速度比原來也沒有任何遲鈍。

  聚集索引是如此的重要和珍貴,所以筆者總結了一下,一定要將聚集索引建立在:

  1、您最頻繁使用的、用以縮小查詢範圍的欄位上;

  2、您最頻繁使用的、需要排序的欄位上。

  結束語:

  本篇文章彙集了筆者近段在使用資料庫方麵的心得,是在做“辦公自動化”係統時實踐經驗的積累。希望這篇文章不僅能夠給大家的工作帶來一定的說明,也希望能讓大家能夠體會到分析問題的方法;最重要的是,希望這篇文章能夠抛磚引玉,掀起大家的學習和討論的興趣,以共同促進,共同為公安科技強警事業和金盾工程做出自己最大的努力。

  最後需要幫助的是,在試驗中,我發現使用者在進行大資料量查詢的時候,對資料庫速度影響最大的不是記憶體大小,而是CPU。在我的P4 2.4機器上試驗的時候,檢視“資源管理員”,CPU經常出現持續到100%的現象,而記憶體用量卻並沒有改變或者說沒有大的改變。即使在我們的HP ML 350 G3伺服器上試驗時,CPU峰值也能達到90%,一般持續在70%左右。

  本文的試驗資料都是來自我們的HP ML 350伺服器。伺服器配置:雙Inter Xeon 超執行緒 CPU 2.4G,記憶體1G,操作係統Windows Server 2003 Enterprise Edition,資料庫SQL Server 2000 SP3。 

<<<返回技術中心

技術文章

站內新聞