組織beta測(cè)試的十二個(gè)最高秘訣
組織beta測(cè)試的十二個(gè)最高秘訣
這篇文章中,作者以誠(chéng)懇的筆觸將自己在組織beta測(cè)試的親身感受與大家分享,希望可以給廣大開發(fā)人員帶來幫助。
下面是一些關(guān)于如何組織一次軟件的beta測(cè)試的秘訣。需要注意的是,這里所說的“軟件”指的是面向大量用戶的軟件,也就是我所稱的“包裝盒軟件(注:“包裝盒軟件”指的是在商場(chǎng)中上架銷售、有獨(dú)立包裝、外面用熱收縮塑料膜密封的軟件商品。)”(shrink-wrap)。這些秘訣對(duì)商業(yè)項(xiàng)目和開源項(xiàng)目都適用。不管你開發(fā)軟件的目的是獲得報(bào)酬,還是獲得眼球效應(yīng),或是提高在同行中的知名度,都可以參考這些秘訣。但是,我關(guān)注的只是有大量用戶的軟件產(chǎn)品,而不是公司內(nèi)部的IT項(xiàng)目。
1. 開放式的beta測(cè)試是沒用的。要是你那樣做,只可能有兩種結(jié)果。一種結(jié)果是你有太多的測(cè)試者(就像Netscape那樣),這些人向你反饋了大量的意見,你從中根本不可能得到有用的數(shù)據(jù)。另一種結(jié)果是,現(xiàn)有的測(cè)試者根本不向你反饋他們的使用情況,導(dǎo)致你無法得到足夠的數(shù)據(jù)。
2. 要想找到那些能夠向你反饋意見的測(cè)試者,最好的方法是訴諸他們“言行一致”的心理。你需要讓他們自己承諾會(huì)向你發(fā)送反饋意見,或者更好的方法是,讓他們自己申請(qǐng)參加beta測(cè)試。一旦他們采取了某些主動(dòng)行為,比如填寫一張申請(qǐng)表,在“我同意盡快發(fā)回反饋意見和軟件故障報(bào)告”的選項(xiàng)上打勾,許多人就會(huì)發(fā)送反饋意見,因?yàn)樗麄兿胍?#8220;言行一致”。
3. 不要妄想一次完整的beta測(cè)試的所有步驟能夠在少于8-10周的時(shí)間內(nèi)完成。我曾經(jīng)試過,結(jié)果是除非老天幫忙,否則根本不可能做到。
4. 不要妄想在測(cè)試中發(fā)布新的軟件版本的頻率能夠快于每?jī)芍芤淮巍N以?jīng)試過,結(jié)果是除非老天幫忙,否則根本不可能有效。
5. 一次beta測(cè)試中計(jì)劃發(fā)布的軟件版本不要少于4個(gè)。我從來沒試過少于4個(gè)版本,因?yàn)樘黠@了,那樣不可能達(dá)到測(cè)試目的。
6. 如果在測(cè)試過程中你為軟件添加了一個(gè)功能,那么哪怕這個(gè)功能非常微小,整個(gè)8個(gè)星期的測(cè)試也要回到起點(diǎn),從頭來過,而且你還需要再發(fā)布3個(gè)或4個(gè)新版本。我犯過的最大錯(cuò)誤之一就是,在CityDesk 2.0的beta測(cè)試接近尾聲的時(shí)候,我向軟件中加入了一些保留空格的代碼,這產(chǎn)生了一些意想不到的副作用(如果我們可以這樣說),測(cè)試的時(shí)間不夠了,我本應(yīng)該將測(cè)試時(shí)間加長(zhǎng)、進(jìn)一步收集數(shù)據(jù)的。
7. 即使你有一個(gè)申請(qǐng)參加beta測(cè)試的步驟,最后也只有五分之一的測(cè)試者會(huì)向你提交反饋意見。
8. 我們制定了一條政策,所有向我們提交反饋意見的測(cè)試者都將免費(fèi)獲贈(zèng)一份正版軟件。不管你的反饋意見是正面的,還是負(fù)面的,只要你提交給我們,就能獲得贈(zèng)品。但是,在測(cè)試結(jié)束的時(shí)候,那些不提交反饋意見的測(cè)試者什么也不會(huì)得到。
9. 你需要的嚴(yán)肅測(cè)試者(即那些會(huì)把反饋意見寫成3頁(yè)紙發(fā)送給你的人)的最小數(shù)量大約是100人左右。如果你獨(dú)立開發(fā)軟件,那么這是你能夠處理的反饋意見的最大數(shù)量。如果你有一支測(cè)試管理團(tuán)隊(duì)或?qū)iT的beta測(cè)試經(jīng)理,那么設(shè)法分別為每個(gè)處理反饋意見的人找到100個(gè)嚴(yán)肅測(cè)試者。
10. 根據(jù)第7條,即使你有一個(gè)參加beta測(cè)試的申請(qǐng)步驟,最后也只有五分之一的測(cè)試者會(huì)真地使用你的產(chǎn)品并將反饋意見發(fā)送給你。那么,假定你有一個(gè)質(zhì)量控制部門,里面一共有3個(gè)測(cè)試管理人員,這就意味著你必須批準(zhǔn)1500份參加beta測(cè)試的申請(qǐng)表,因?yàn)檫@樣才能產(chǎn)生300個(gè)嚴(yán)肅測(cè)試者。批準(zhǔn)的數(shù)量少于這個(gè)數(shù)目的話,你就不會(huì)得到充分的反饋意見;批準(zhǔn)的數(shù)量多于這個(gè)數(shù)目的話,你就會(huì)被許許多多重復(fù)的反饋意見淹沒。
11. 大多數(shù)beta測(cè)試的參與者只是在第一次拿到這個(gè)程序的時(shí)候才會(huì)去試用一下,然后就喪失了興趣。此后每次你推出一個(gè)新的版本并發(fā)送給他們,他們也不會(huì)有興趣重新測(cè)試它。除非他們每天都在用這個(gè)程序,但是對(duì)于大多數(shù)人來說,這是不可能的。因此,你需要錯(cuò)開不同版本的測(cè)試對(duì)象,將你的所有beta測(cè)試參與者分成四組,每次發(fā)布一個(gè)新版本的時(shí)候,就把一個(gè)新的組加入測(cè)試,這樣就能保證每個(gè)版本都有第一次使用這個(gè)程序的測(cè)試者。
12. 不要混淆技術(shù)beta和市場(chǎng)beta。我上面談的這些都是針對(duì)技術(shù)beta,它的目標(biāo)是發(fā)現(xiàn)軟件中的錯(cuò)誤和得到及時(shí)的用戶反饋意見。市場(chǎng)beta則是軟件正式發(fā)布前的預(yù)覽版本,對(duì)象主要是新聞媒體、大客戶和那些寫入門教程的家伙(該教程必須在軟件上市的同一天問世)。對(duì)于市場(chǎng)beta,你的目的并不是得到反饋意見。(雖然無論你怎么做,那些寫書的家伙很可能都會(huì)滔滔不絕地告訴你一大堆意見。如果你置之不理,這些意見就會(huì)被復(fù)制粘貼進(jìn)他們自己的書里。)
這篇文章中,作者以誠(chéng)懇的筆觸將自己在組織beta測(cè)試的親身感受與大家分享,希望可以給廣大開發(fā)人員帶來幫助。
下面是一些關(guān)于如何組織一次軟件的beta測(cè)試的秘訣。需要注意的是,這里所說的“軟件”指的是面向大量用戶的軟件,也就是我所稱的“包裝盒軟件(注:“包裝盒軟件”指的是在商場(chǎng)中上架銷售、有獨(dú)立包裝、外面用熱收縮塑料膜密封的軟件商品。)”(shrink-wrap)。這些秘訣對(duì)商業(yè)項(xiàng)目和開源項(xiàng)目都適用。不管你開發(fā)軟件的目的是獲得報(bào)酬,還是獲得眼球效應(yīng),或是提高在同行中的知名度,都可以參考這些秘訣。但是,我關(guān)注的只是有大量用戶的軟件產(chǎn)品,而不是公司內(nèi)部的IT項(xiàng)目。
1. 開放式的beta測(cè)試是沒用的。要是你那樣做,只可能有兩種結(jié)果。一種結(jié)果是你有太多的測(cè)試者(就像Netscape那樣),這些人向你反饋了大量的意見,你從中根本不可能得到有用的數(shù)據(jù)。另一種結(jié)果是,現(xiàn)有的測(cè)試者根本不向你反饋他們的使用情況,導(dǎo)致你無法得到足夠的數(shù)據(jù)。
2. 要想找到那些能夠向你反饋意見的測(cè)試者,最好的方法是訴諸他們“言行一致”的心理。你需要讓他們自己承諾會(huì)向你發(fā)送反饋意見,或者更好的方法是,讓他們自己申請(qǐng)參加beta測(cè)試。一旦他們采取了某些主動(dòng)行為,比如填寫一張申請(qǐng)表,在“我同意盡快發(fā)回反饋意見和軟件故障報(bào)告”的選項(xiàng)上打勾,許多人就會(huì)發(fā)送反饋意見,因?yàn)樗麄兿胍?#8220;言行一致”。
3. 不要妄想一次完整的beta測(cè)試的所有步驟能夠在少于8-10周的時(shí)間內(nèi)完成。我曾經(jīng)試過,結(jié)果是除非老天幫忙,否則根本不可能做到。
4. 不要妄想在測(cè)試中發(fā)布新的軟件版本的頻率能夠快于每?jī)芍芤淮巍N以?jīng)試過,結(jié)果是除非老天幫忙,否則根本不可能有效。
5. 一次beta測(cè)試中計(jì)劃發(fā)布的軟件版本不要少于4個(gè)。我從來沒試過少于4個(gè)版本,因?yàn)樘黠@了,那樣不可能達(dá)到測(cè)試目的。
6. 如果在測(cè)試過程中你為軟件添加了一個(gè)功能,那么哪怕這個(gè)功能非常微小,整個(gè)8個(gè)星期的測(cè)試也要回到起點(diǎn),從頭來過,而且你還需要再發(fā)布3個(gè)或4個(gè)新版本。我犯過的最大錯(cuò)誤之一就是,在CityDesk 2.0的beta測(cè)試接近尾聲的時(shí)候,我向軟件中加入了一些保留空格的代碼,這產(chǎn)生了一些意想不到的副作用(如果我們可以這樣說),測(cè)試的時(shí)間不夠了,我本應(yīng)該將測(cè)試時(shí)間加長(zhǎng)、進(jìn)一步收集數(shù)據(jù)的。
7. 即使你有一個(gè)申請(qǐng)參加beta測(cè)試的步驟,最后也只有五分之一的測(cè)試者會(huì)向你提交反饋意見。
8. 我們制定了一條政策,所有向我們提交反饋意見的測(cè)試者都將免費(fèi)獲贈(zèng)一份正版軟件。不管你的反饋意見是正面的,還是負(fù)面的,只要你提交給我們,就能獲得贈(zèng)品。但是,在測(cè)試結(jié)束的時(shí)候,那些不提交反饋意見的測(cè)試者什么也不會(huì)得到。
9. 你需要的嚴(yán)肅測(cè)試者(即那些會(huì)把反饋意見寫成3頁(yè)紙發(fā)送給你的人)的最小數(shù)量大約是100人左右。如果你獨(dú)立開發(fā)軟件,那么這是你能夠處理的反饋意見的最大數(shù)量。如果你有一支測(cè)試管理團(tuán)隊(duì)或?qū)iT的beta測(cè)試經(jīng)理,那么設(shè)法分別為每個(gè)處理反饋意見的人找到100個(gè)嚴(yán)肅測(cè)試者。
10. 根據(jù)第7條,即使你有一個(gè)參加beta測(cè)試的申請(qǐng)步驟,最后也只有五分之一的測(cè)試者會(huì)真地使用你的產(chǎn)品并將反饋意見發(fā)送給你。那么,假定你有一個(gè)質(zhì)量控制部門,里面一共有3個(gè)測(cè)試管理人員,這就意味著你必須批準(zhǔn)1500份參加beta測(cè)試的申請(qǐng)表,因?yàn)檫@樣才能產(chǎn)生300個(gè)嚴(yán)肅測(cè)試者。批準(zhǔn)的數(shù)量少于這個(gè)數(shù)目的話,你就不會(huì)得到充分的反饋意見;批準(zhǔn)的數(shù)量多于這個(gè)數(shù)目的話,你就會(huì)被許許多多重復(fù)的反饋意見淹沒。
11. 大多數(shù)beta測(cè)試的參與者只是在第一次拿到這個(gè)程序的時(shí)候才會(huì)去試用一下,然后就喪失了興趣。此后每次你推出一個(gè)新的版本并發(fā)送給他們,他們也不會(huì)有興趣重新測(cè)試它。除非他們每天都在用這個(gè)程序,但是對(duì)于大多數(shù)人來說,這是不可能的。因此,你需要錯(cuò)開不同版本的測(cè)試對(duì)象,將你的所有beta測(cè)試參與者分成四組,每次發(fā)布一個(gè)新版本的時(shí)候,就把一個(gè)新的組加入測(cè)試,這樣就能保證每個(gè)版本都有第一次使用這個(gè)程序的測(cè)試者。
12. 不要混淆技術(shù)beta和市場(chǎng)beta。我上面談的這些都是針對(duì)技術(shù)beta,它的目標(biāo)是發(fā)現(xiàn)軟件中的錯(cuò)誤和得到及時(shí)的用戶反饋意見。市場(chǎng)beta則是軟件正式發(fā)布前的預(yù)覽版本,對(duì)象主要是新聞媒體、大客戶和那些寫入門教程的家伙(該教程必須在軟件上市的同一天問世)。對(duì)于市場(chǎng)beta,你的目的并不是得到反饋意見。(雖然無論你怎么做,那些寫書的家伙很可能都會(huì)滔滔不絕地告訴你一大堆意見。如果你置之不理,這些意見就會(huì)被復(fù)制粘貼進(jìn)他們自己的書里。)
posted on 2011-12-26 11:46 順其自然EVO 閱讀(160) 評(píng)論(0) 編輯 收藏