qileilove

          blog已經轉移至github,大家請訪問 http://qaseven.github.io/

          如何優化MySQL insert性能

            對于一些數據量較大的系統,面臨的問題除了是查詢效率低下,還有一個很重要的問題就是插入時間長。我們就有一個業務系統,每天的數據導入需要4-5個鐘。這種費時的操作其實是很有風險的,假設程序出了問題,想重跑操作那是一件痛苦的事情。因此,提高大數據量系統的MySQL insert效率是很有必要的。

            經過對MySQL的測試,發現一些可以提高insert效率的方法,供大家參考參考。

            1、一條SQL語句插入多條數據。

            常用的插入語句如:

          INSERT INTO `insert_table` (`datetime`, `uid`, `content`, `type`) VALUES ('0', 'userid_0', 'content_0', 0);
          INSERT INTO `insert_table` (`datetime`, `uid`, `content`, `type`) VALUES ('1', 'userid_1', 'content_1', 1);

            修改成:

          INSERT INTO `insert_table` (`datetime`, `uid`, `content`, `type`) VALUES ('0', 'userid_0', 'content_0', 0), ('1', 'userid_1', 'content_1', 1);

            修改后的插入操作能夠提高程序的插入效率。這里第二種SQL執行效率高的主要原因有兩個,一是減少SQL語句解析的操作,只需要解析一次就能進行數據的插入操作,二是SQL語句較短,可以減少網絡傳輸的IO。

            這里提供一些測試對比數據,分別是進行單條數據的導入與轉化成一條SQL語句進行導入,分別測試1百、1千、1萬條數據記錄。

            2、在事物中進行插入處理。

            把插入修改成:

          START TRANSACTION;
          INSERT INTO `insert_table` (`datetime`, `uid`, `content`, `type`) VALUES ('0', 'userid_0', 'content_0', 0);
          INSERT INTO `insert_table` (`datetime`, `uid`, `content`, `type`) VALUES ('1', 'userid_1', 'content_1', 1);
          ...
          COMMIT;

            使用事物可以提高數據的插入效率,這是因為進行一個INSERT操作時,MySQL內部會建立一個事物,在事物內進行真正插入處理。通過使用事物可以減少創建事物的消耗,所有插入都在執行后才進行提交操作。

            這里也提供了測試對比,分別是不使用事物與使用事物在記錄數為1百、1千、1萬的情況。

            性能測試

            這里提供了同時使用上面兩種方法進行INSERT效率優化的測試。即多條數據合并為同一個SQL,并且在事物中進行插入。

            從測試結果可以看到,insert的效率大概有50倍的提高,這個一個很客觀的數字。

            注意事項:

            1、SQL語句是有長度限制,在進行數據合并在同一SQL中務必不能超過SQL長度限制,通過max_allowed_packe配置可以修改,默認是1M。

            2、事物需要控制大小,事物太大可能會影響執行的效率。MySQL有innodb_log_buffer_size配置項,超過這個值會日志會使用磁盤數據,這時,效率會有所下降。所以比較好的做法是,在事物大小達到配置項數據級前進行事物提交。

          posted on 2012-10-25 09:49 順其自然EVO 閱讀(353) 評論(0)  編輯  收藏 所屬分類: 數據庫

          <2012年10月>
          30123456
          78910111213
          14151617181920
          21222324252627
          28293031123
          45678910

          導航

          統計

          常用鏈接

          留言簿(55)

          隨筆分類

          隨筆檔案

          文章分類

          文章檔案

          搜索

          最新評論

          閱讀排行榜

          評論排行榜

          主站蜘蛛池模板: 本溪| 原平市| 建瓯市| 库车县| 布尔津县| 福清市| 济南市| 买车| 台江县| 南康市| 墨竹工卡县| 如皋市| 县级市| 阿城市| 绥化市| 武功县| 鄯善县| 朝阳区| 德惠市| 平潭县| 临江市| 华容县| 浏阳市| 岳阳县| 大竹县| 隆昌县| 怀远县| 突泉县| 正宁县| 始兴县| 昌邑市| 称多县| 濮阳市| 永吉县| 龙山县| 金湖县| 汝阳县| 横山县| 富裕县| 朝阳县| 新乡市|