隨筆-314  評論-209  文章-0  trackbacks-0

           

          在程序中,文本文件經常用來存儲標準的ASCII碼文本,比如英文、加減乘除等號這些運算符號。文本文件也可能用于存儲一些其他非ASCII字符,如基于GBK的簡體中文,基于GIG5的繁體中文等等。在存儲這些字符時需要正確指定文件的編碼格式;而在讀取這些文本文件時,有時候就需要自動判定文件的編碼格式。

          按照給定的字符集存儲文本文件時,在文件的最開頭的三個字節中就有可能存儲著編碼信息,所以,基本的原理就是只要讀出文件前三個字節,判定這些字節的值,就可以得知其編碼的格式。其實,如果項目運行的平臺就是中文操作系統,如果這些文本文件在項目內產生,即開發人員可以控制文本的編碼格式,只要判定兩種常見的編碼就可以了:GBK和UTF-8。由于中文Windows默認的編碼是GBK,所以一般只要判定UTF-8編碼格式。

          對于UTF-8編碼格式的文本文件,其前3個字節的值就是-17、-69、-65,所以,判定是否是UTF-8編碼格式的代碼片段如下:
          Java代碼 復制代碼
          1. java.io.File f=new java.io.File("待判定的文本文件名");   
          2. try{   
          3.   java.io.InputStream ios=new java.io.FileInputStream(f);   
          4.   byte[] b=new byte[3];   
          5.   ios.read(b);   
          6.   ios.close();   
          7.   if(b[0]==-17&&b[1]==-69&&b[2]==-65)   
          8.      System.out.println(f.getName()+"編碼為UTF-8");   
          9.   else System.out.println(f.getName()+"可能是GBK");   
          10. }catch(Exception e){   
          11.    e.printStackTrace();   
          12. }   

          上述代碼只是簡單判定了是否是UTF-8格式編碼的文本文件,如果項目對要判定的文本文件編碼不可控(比如用戶上傳的一些HTML、XML等文本),可以采用一個現成的開源項目:cpdetector,它所在的網址是:http://cpdetector.sourceforge.net/。它的類庫很小,只有500K左右,利用該類庫判定文本文件的代碼如下:
          Java代碼 復制代碼
          1. /*------------------------------------------------------------------------  
          2.   detector是探測器,它把探測任務交給具體的探測實現類的實例完成。  
          3.   cpDetector內置了一些常用的探測實現類,這些探測實現類的實例可以通過add方法  
          4.   加進來,如ParsingDetector、 JChardetFacade、ASCIIDetector、UnicodeDetector。    
          5.   detector按照“誰最先返回非空的探測結果,就以該結果為準”的原則返回探測到的  
          6.   字符集編碼。  
          7. --------------------------------------------------------------------------*/  
          8. cpdetector.io.CodepageDetectorProxy detector =   
          9. cpdetector.io.CodepageDetectorProxy.getInstance();   
          10. /*-------------------------------------------------------------------------  
          11.   ParsingDetector可用于檢查HTML、XML等文件或字符流的編碼,構造方法中的參數用于  
          12.   指示是否顯示探測過程的詳細信息,為false不顯示。  
          13. ---------------------------------------------------------------------------*/  
          14. detector.add(new cpdetector.io.ParsingDetector(false));    
          15. /*--------------------------------------------------------------------------  
          16.   JChardetFacade封裝了由Mozilla組織提供的JChardet,它可以完成大多數文件的編碼  
          17.   測定。所以,一般有了這個探測器就可滿足大多數項目的要求,如果你還不放心,可以  
          18.   再多加幾個探測器,比如下面的ASCIIDetector、UnicodeDetector等。  
          19.  ---------------------------------------------------------------------------*/    
          20. detector.add(cpdetector.io.JChardetFacade.getInstance());   
          21. //ASCIIDetector用于ASCII編碼測定   
          22. detector.add(cpdetector.io.ASCIIDetector.getInstance());   
          23. //UnicodeDetector用于Unicode家族編碼的測定   
          24. detector.add(cpdetector.io.UnicodeDetector.getInstance());   
          25. java.nio.charset.Charset charset = null;   
          26. File f=new File("待測的文本文件名");   
          27. try {   
          28.       charset = detector.detectCodepage(f.toURL());   
          29. catch (Exception ex) {ex.printStackTrace();}   
          30. if(charset!=null){   
          31.      System.out.println(f.getName()+"編碼是:"+charset.name());   
          32. }else  
          33.     System.out.println(f.getName()+"未知");  

          上面代碼中的detector不僅可以用于探測文件的編碼,也可以探測任意輸入的文本流的編碼,方法是調用其重載形式:
          Java代碼 復制代碼
          1. charset=detector.detectCodepage(待測的文本輸入流,測量該流所需的讀入字節數);  

          上面的字節數由程序員指定,字節數越多,判定越準確,當然時間也花得越長。要注意,字節數的指定不能超過文本流的最大長度。

          判定文件編碼的具體應用舉例:
          屬性文件(.properties)是Java程序中的常用文本存儲方式,象STRUTS框架就是利用屬性文件存儲程序中的字符串資源。它的內容如下所示:
          Java代碼 復制代碼
          1. #注釋語句   
          2. 屬性名=屬性值   

          讀入屬性文件的一般方法是:
          Java代碼 復制代碼
          1. FileInputStream ios=new FileInputStream("屬性文件名");   
          2. Properties prop=new Properties();   
          3. prop.load(ios);   
          4. ios.close();   

          利用java.io.Properties的load方法讀入屬性文件雖然方便,但如果屬性文件中有中文,在讀入之后就會發現出現亂碼現象。發生這個原因是load方法使用字節流讀入文本,在讀入后需要將字節流編碼成為字符串,而它使用的編碼是“iso-8859-1”,這個字符集是ASCII碼字符集,不支持中文編碼,所以這時需要使用顯式的轉碼:
          Java代碼 復制代碼
          1. String value=prop.getProperty("屬性名");   
          2. String encValue=new String(value.getBytes("iso-8859-1"),"屬性文件的實際編碼");   

          在上面的代碼中,屬性文件的實際編碼就可以利用上面的方法獲得。當然,象這種屬性文件是項目內部的,我們可以控制屬性文件的編碼格式,比如約定采用Windows內定的GBK,就直接利用"gbk"來轉碼,如果約定采用UTF-8,也可以是使用"UTF-8"直接轉碼。如果想靈活一些,做到自動探測編碼,就可利用上面介紹的方法測定屬性文件的編碼,從而方便開發人員的工作。
          posted on 2008-06-16 14:44 xzc 閱讀(857) 評論(1)  編輯  收藏 所屬分類: Java

          評論:
          # re: 判定文件編碼或文本流編碼的方法 2009-04-21 16:28 | wwdz
          請教一個問題:
          我正在做畢設,其中有一個功能是區分不帶BOM標記的大尾序和小尾序的UTF-16文件,請問您有好的方法嗎?謝謝  回復  更多評論
            
          主站蜘蛛池模板: 崇州市| 漳浦县| 札达县| 沁源县| 长白| 衡阳市| 涞水县| 井研县| 呼和浩特市| 天祝| 白山市| 垦利县| 青龙| 珲春市| 东辽县| 莒南县| 诸城市| 华宁县| 峨眉山市| 藁城市| 中宁县| 天祝| 麻江县| 丘北县| 常州市| 三原县| 旺苍县| 绥中县| 洛川县| 常德市| 鸡东县| 禹州市| 桃园市| 伊金霍洛旗| 深州市| 松阳县| 许昌县| 大足县| 永寿县| 桑日县| 怀柔区|