qileilove

          blog已經轉移至github,大家請訪問 http://qaseven.github.io/

          一個用于網站自動化測試的生態系統實現

            這是我在從事網站自動化測試工作當中構建出的一個“生態系統”。“生態系統”這個概念是我從公司的前輩身上學到的,他一直以來都認為自動化測試人員不應僅僅局限于編寫測試代碼,還應該讓整個自動化測試的過程(測試代碼的持續集成、分發、執行等)都自動化,形成一個“系統”,這個系統的自動化程度越高,自動化測試人員就越省力。
            一、概念
            這里我畫了一張示意圖:
            之所以稱之為“生態系統”,是因為建成之后需要的人為干涉很少,其余的時間都是系統內部循環運作。作為自動化測試人員的你只需要提交代碼,之后便可以在AutomationDashboard上看到運行的結果了,其余的事情都由系統內部消化。當然,結果的分析還是需要人來完成,機器還沒有聰明到可以靈活分析出各種各樣讓case fail掉的原因。
            我們可以把整個系統看作一個黑盒子,那么上面的圖可以變成:
            實際上這里畫的人不僅限于自動化測試人員,也可以是:
            (1)產品的管理者,比如產品經理需要從自動化回歸測試知道這次release有無推遲風險;
            (2)團隊的管理者,比如開發經理、QA經理需要從自動化的daily/weekly regression知道最近的代碼質量如何;
            (3)開發人員,他們也許會想通過quick regression(提交的產品代碼被部署到測試環境之后運行的測試)知道自己剛提交的代碼有沒有破壞系統的基本功能;
            (4)其他幫忙做自動化測試的開發人員、剛剛開始學習編寫自動化測試代碼的手動測試人員,他們不必關心生態系統的內部實現。
            二、實現
            說完概念,接下來該說說具體實現了。我這里講的是我認為最適合我所測試的產品的實現,工具不止一種,方式不止一種。Jenkins可以用TeamCity或其它CI替換,git也可以是svn或tfs,AutomationDahsboard可以用.NET、SpringMVC、ROR等等實現,運行測試的slave可以是Windows/Linux/Mac(土豪!),總之選擇一種最適合你所測試的產品的實現。還有一點就是自動化測試代碼是用關鍵字驅動思想實現的,這是另外一個話題了,有時間另外寫篇文。
            好,進入正題。依次說說系統的每個重要組成部分吧:
            1、SCM(Source Code Management)。我選的是git,可以是git服務器(公司自己搭建了一個git server),也可以是一個bare repo(http://www.saintsjd.com/2011/01/what-is-a-bare-git-repository/) 。
            2、CI(continuous integration)。我選的是部署方便、插件豐富的Jenkins。
            它的職責是:
            (1)從git上取出代碼,build(.NET對應msbuild,如果是ruby則不用build了,直接部署即可);
            (2)把build好的*.dll部署(這里即是拷貝)到所有的slave上;
            (3)啟動或停止所有slave上的AutomationService(后面還會講到AutomationService),從而控制測試的執行。我在Jenkins的這些個job配置起來還是比較繁瑣的,要細講又可以另外寫一篇文了。這里就特別提到兩個很實用的插件吧:
            (1)Parameterized Trigger Plugin(https://wiki.jenkins-ci.org/display/JENKINS/Parameterized+Trigger+Plugin):可以在一個build step中觸發其它project的build。
            它最有用的就是這個“Block until the triggered projects finish their builds”選項,勾上的話Jenkins就能在所有trigger的project完成build之后(而非僅僅trigger其它project的build,不等它們完成就繼續下一個build step)再繼續下一個build step,做到真正的依次執行每個build step。
            (2)NodeLabel Parameter Plugin(https://wiki.jenkins-ci.org/display/JENKINS/NodeLabel+Parameter+Plugin):在所有“Possible nodes”標有指定標簽(“Label”)的Jenkins節點(就是Jenkins master或Jenkins slave)上觸發指定project(被觸發的project是參數化的)。
            比如我有一個project叫“StartClassicROLATServiceOnAllNodes”,它有一個build step是這樣設定的:
            再來看看“StartClassicROLATServiceOnASingleNode”這個project的設定:
            這個project有一個Node類型的參數,參數名“NodeX”與之前Label Factory中的“NodeX”對應,“Possible nodes”選的是“ALL”,那么列出的所有node(master、10.107.122.152、10.107.122.153、10.107.122.154)都在判斷范圍之內(判斷其是否有“Node”標簽,有則執行project)。
            另外,列出的所有node我都為其加了一個“Node”標簽。
            這樣,當我trigger “StartClassicROLATServiceOnAllNodes”之后,就會在master、10.107.122.152、10.107.122.153、10.107.122.154這4個node上同時執行“StartClassicROLATServiceOnASingleNode”。
           3、AutomationDashboard,這里姑且譯作“自動化測試控制面板”吧。實際上它應該和Jenkins一起并稱控制面板,不過因為Jenkins有API可以調用,所以想做的畫兩者也是可以統一成一個web界面的。這個dashboard完全是用.NET+IIS+SQLServer一點點從數據庫設計構建、數據訪問層、業務層、表現層做起來的,要細講……額……又會是另外一篇文了(Oh man, not again!)。反正我覺得,雖然我是做自動化測試工作的,但不應該把自己局限于測試。為了更好地進行自動化測試,開發網站、安裝配置虛擬機以及其它要用到的工具,都應該抽時間去學習、掌握。
            好,來說說這個dashboard。這里只講兩個主要組成部分,一個網站(以下簡稱dashboard)、一個Windows Service(以下簡稱ATService)和一個console application(以下稱ConsoleRunner):
            (1)dashboard,它的主要功能:
            a、展示測試的運行狀況:有多少正在運行/執行完畢,分別在哪臺slave上執行等等。
            b、通過call Jenkins的API來trigger Jenkins的job,間接控制測試的執行。
            c、展示測試的結果:發生錯誤的是哪個case、出錯時間、錯誤信息、代碼回溯(stack trace)、甚至可以包含一張出錯時的截圖。
            主要界面如下:
            a、Summary,顧名思義是匯總信息,case有多少pass多少fail、case按分類每一類有多少等等。(其實這里我少做了一張很重要的圖,就是coverage餅狀圖)
            b、Queue,測試隊列,包含當前正在運行的、運行完的、等待運行的test fixture或test case(依據測試工具的不同,NUnit、JUnit、RSpec等,fixture的叫法可能不同,總之就是包含多個test case的集合)。可以啟動、停止、終止(終止之后可以清空)測試執行或清空當前隊列。
            c、TestCase,生態系統中的所有測試用例會展示在這里,可以看到它們最后一次執行的時間和狀態(pass/fail),點擊某條case可以跳轉到該條case的所有test result。可以按狀態(pass/fail/other)篩選用例,可以勾選部分用例重新執行、或重新執行所有fail的case。“Reload Test Cases”主要是考慮到*.dll文件中的test case可能會在某次部署之后發生變化,需要重新加載。不過后來我修改了Jenkins里的job在每次部署之后都自動重新加載,所以這個按鈕其實沒什么用了。
            d、TestSuite,包含多個fixture的集合是一個suite。勾選多個suite點擊“Run Suite”即可把這些suite中包含的fixture添加到Queue。
            這里的suite是對NUnit中的Category的一個補充,點擊“New Suite”你可以任意選擇fixture來組成自己想要的suite:
            e、TestResult,展示所有test case的運行結果,可以按test case id進行篩選,點擊TC#這一列的id就只顯示這條case的結果。
            點右邊的藍色“i”圖標可以跳到這條結果的詳細頁面,截圖功能暫未啟用,根據RunnerMessage和RunnerStackTrace可以知道報錯的代碼位置,進而嘗試重現問題。
           (2)ATService。這個Windows Service(slave都是Windows,稍后會講)被安裝到了每個slave上,用以向dashboard詢問“現在有沒有分配給我的test fixture/case?”,如果有且當前slave空閑的話就抓過來運行,運行完畢匯報結果。
            還記得Queue(隊列)吧?無論你在TestCase還是TestSuite頁面挑選了test case/suite想要運行,都只是把它們添加到隊列當中(準確地說就是往Queue這張數據庫表中INSERT記錄),而不會給它們分配slave。只有當Jenkins啟動了slave上的ATService之后,ATService才會去Queue表中自己抓取(就是打上標記說這條fixture/case已經有主了,其它slave就不會再去抓)還沒有運行過且沒有分配有slave的test fixture/case。
            (3)ConsoleRunner,最開始的那個圖中沒有畫出來。這個console程序主要供Jenkins調用。Jenkins不是可以讓job定時運行么?正好,定時調用這個console application,傳幾個參數,就可以在指定時間往Queue里填充fixture/case,然后再啟動ATService開始執行測試。這樣就能實現quick/daily/weekly/full regression的無人值守運行了。
            4、Slave
            我選擇在Windows上運行測試:
            (1)公司IT一般只提供Windows操作系統的虛擬機
            (2)產品在Windows上的用戶占絕大多數(其實這個有點廢話,桌面操作系統Windows依然是世界王者。誠然,我自己業余時用Linux做開發,Mac在國內外也是相當流行的,但GoogleAnalytics顯示的統計結果就是大部分訪問都來自Windows。什么,你說iOS/Android?額……移動端現在仍然是產品的短板……)
            如果選擇Linux的話要注意下selenium webdriver的native event設定(http://code.google.com/p/selenium/wiki/AdvancedUserInteractions#Native_events_versus_synthetic_events)。
            關于瀏覽器,Firefox、Chrome、IE皆可,webdriver的瀏覽器兼容性已經很不錯了。瀏覽器兼容性是個有點頭疼的問題,想支持很多瀏覽器的話有時會增加很多開發、測試成本,我一般在Firefox上跑就足夠了。什么?數字?馬桶?企鵝?您想多了,selenium官方不支持。
            你能找到多少臺slave來執行測試?多多益善哦!找不到那么多實體機就自己配虛擬機吧,分布式運行可以給你的自動化測試生態系統裝上火箭!在更短的時間內運行完更多測試,從而更快地從測試中獲得反饋!
            嗯,差不多就這么多了。還有很多細節就留在之后的文中再說了。自我感覺這個生態系統還是有很多可以完善、增加的功能,而且這個實現方式、運作機制可能也并非適用于你所測試的產品,不過現在對于我測的產品來說是夠用的了。
            不管怎樣實現,我想表達的核心觀點是:
            做自動化測試不要局限于自動化測試代碼的編寫,我們要自動化的不僅僅是manual test case,還應包括整個automation test的process!測試代碼持續集成、部署(分發)、執行、結果展示,自動化的環節越多、越徹底,為你節約的時間就越多,你可以用這些節約的時間做更有意義的事情。人類發明計算機,用代碼編寫程序,其實就是一種自動化的過程。以前要靠手工勞動完成的現在都交給電腦做了——服務器不正是勤勤懇懇地重復執行著我們寫好的程序么?構建自動化測試生態系統是同樣的道理,因為機器能比人更可靠地完成重復勞動。
            如果你還在手動拷貝*.dll,還需要打開NUnit手動執行測試,還在1臺機器上運行測試,那么,現在就是該提高生產力的時候了!

          posted on 2014-03-13 11:34 順其自然EVO 閱讀(698) 評論(0)  編輯  收藏 所屬分類: 敏捷測試設計模式學習

          <2014年3月>
          2324252627281
          2345678
          9101112131415
          16171819202122
          23242526272829
          303112345

          導航

          統計

          常用鏈接

          留言簿(55)

          隨筆分類

          隨筆檔案

          文章分類

          文章檔案

          搜索

          最新評論

          閱讀排行榜

          評論排行榜

          主站蜘蛛池模板: 寿光市| 汪清县| 西乡县| 泾阳县| 上饶县| 隆德县| 潍坊市| 河间市| 包头市| 施甸县| 新竹县| 石城县| 桃江县| 新源县| 辽宁省| 汶上县| 鲁山县| 郎溪县| 滨州市| 武宁县| 龙泉市| 平湖市| 巴林左旗| 武平县| 太白县| 永善县| 扶绥县| 嘉荫县| 体育| 仙桃市| 泽库县| 铜梁县| 武邑县| 四会市| 屯门区| 上栗县| 虞城县| 潮安县| 阳朔县| 巫山县| 什邡市|