生成100萬條8位不重復(fù)數(shù)據(jù)的示例
USE tempdb
GO
-- 創(chuàng)建測試表
CREATE TABLE tb(id char(8))
-- 創(chuàng)建用于自動過濾重復(fù)值的唯一索引
CREATE UNIQUE INDEX IX_tb ON tb(id)
WITH IGNORE_DUP_KEY
GO
-- 測試數(shù)據(jù)插入的處理時間, 記錄開始處理的時間點
DECLARE @dt datetime
SET @dt = GETDATE()
-- 插入隨機數(shù)據(jù)
SET NOCOUNT ON
DECLARE @row int
SET @row = 1000000 -- 設(shè)置總記錄數(shù)
WHILE @row >0
BEGIN
-- 顯示提示信息, 表示還需要插入多行數(shù)據(jù)
RAISERROR('need %d rows', 10, 1, @row) WITH NOWAIT
-- 插入隨機的位編碼數(shù)據(jù)
SET ROWCOUNT @row
INSERT tb SELECT
id = RIGHT(100000000 + CONVERT(bigint, ABS(CHECKSUM(NEWID()))), 8)
FROM syscolumns c1, syscolumns c2
SET @row = @row - @@ROWCOUNT
END
-- 顯示插入數(shù)據(jù)使用的時間
SELECT BeginDate = @dt, EndDate = GETDATE(),
Second = DATEDIFF(Second, @dt, GETDATE()),
GO
-- 顯示最終的結(jié)果記錄是否正確
SELECT COUNT(*) FROM tb
GO
-- 刪除測試
DROP TABLE tb
解決中用到的技巧:
1. 控制產(chǎn)生的數(shù)據(jù)不重復(fù),直接使用唯一索引中的IGNORE_DUP_KEY選項,使插入數(shù)據(jù)中的重復(fù)值自動過濾,避免手工處理重復(fù)
2. 使用CHECKSUM配合NEWID()函數(shù),使生成的數(shù)據(jù)盡量隨機,一般生成隨機數(shù)會考慮使用RAND()函數(shù),但這個函數(shù)是產(chǎn)生偽隨機值,用下面的語句測試一下,會發(fā)現(xiàn)產(chǎn)生的數(shù)據(jù)全部是一樣的,這不適用于想批量生成多個隨機數(shù),而NEWID()函數(shù)生成的是GUID,基本上不會有重復(fù)的,再通過CHECKSUM將其轉(zhuǎn)化成數(shù)字,這樣產(chǎn)生重復(fù)的可能性會比較小
SELECT TOP 10
RAND()
FROM sysobjects
3. 在效率控制,使用循環(huán)+批量生成的方式,而不是傳統(tǒng)的逐個生成。在SQL Server中,每個插入語句都會有一個內(nèi)部的事務(wù)處理,如果逐條插入,則事務(wù)的開銷太大,效率勢必非常低;不考慮一次性生成100萬數(shù)據(jù),一則因為生成的數(shù)據(jù)可能有重復(fù)的,去掉重復(fù)就沒有100萬了,二則一次性生成100萬數(shù)據(jù),消耗的內(nèi)存和CPU資源也很高,一般的電腦可能承受不住