隨筆 - 6  文章 - 129  trackbacks - 0
          <2025年6月>
          25262728293031
          1234567
          891011121314
          15161718192021
          22232425262728
          293012345

          常用鏈接

          留言簿(14)

          隨筆檔案(6)

          文章分類(467)

          文章檔案(423)

          相冊(cè)

          收藏夾(18)

          JAVA

          搜索

          •  

          積分與排名

          • 積分 - 827210
          • 排名 - 49

          最新評(píng)論

          閱讀排行榜

          評(píng)論排行榜

          搞清常用編碼特性是解決字符集編碼問(wèn)題的基礎(chǔ)。字符集編碼的識(shí)別與轉(zhuǎn)換、分析各種亂碼產(chǎn)生的原因、編程操作各種編碼字符串(例如字符數(shù)計(jì)算、截?cái)嗵幚恚┑榷夹枰宄幋a的特性。

          了解一種字符集編碼主要是要了解該編碼的編碼范圍,編碼對(duì)應(yīng)的字符集(都包含哪些字符),和其他字符集編碼之間的關(guān)系等。

          ASCII

          ASCII碼是7位編碼,編碼范圍是0x00-0x7F。ASCII字符集包括英文字母、阿拉伯?dāng)?shù)字和標(biāo)點(diǎn)符號(hào)等字符。其中0x00-0x20和0x7F共33個(gè)控制字符。

          只支持ASCII碼的系統(tǒng)會(huì)忽略每個(gè)字節(jié)的最高位,只認(rèn)為低7位是有效位。HZ字符編碼就是早期為了在只支持7位ASCII系統(tǒng)中傳輸中文而設(shè)計(jì)的編碼。早期很多郵件系統(tǒng)也只支持ASCII編碼,為了傳輸中文郵件必須使用BASE64或者其他編碼方式。

          GB2312

          GB2312是基于區(qū)位碼設(shè)計(jì)的,區(qū)位碼把編碼表分為94個(gè)區(qū),每個(gè)區(qū)對(duì)應(yīng)94個(gè)位,每個(gè)字符的區(qū)號(hào)和位號(hào)組合起來(lái)就是該漢字的區(qū)位碼。區(qū)位碼一般 用10進(jìn)制數(shù)來(lái)表示,如1601就表示16區(qū)1位,對(duì)應(yīng)的字符是“啊”。在區(qū)位碼的區(qū)號(hào)和位號(hào)上分別加上0xA0就得到了GB2312編碼。

          區(qū)位碼中01-09區(qū)是符號(hào)、數(shù)字區(qū),16-87區(qū)是漢字區(qū),10-15和88-94是未定義的空白區(qū)。它將收錄的漢字分成兩級(jí):第一級(jí)是常用漢字 計(jì)3755個(gè),置于16-55區(qū),按漢語(yǔ)拼音字母/筆形順序排列;第二級(jí)漢字是次常用漢字計(jì)3008個(gè),置于56-87區(qū),按部首/筆畫順序排列。一級(jí)漢 字是按照拼音排序的,這個(gè)就可以得到某個(gè)拼音在一級(jí)漢字區(qū)位中的范圍,很多根據(jù)漢字可以得到拼音的程序就是根據(jù)這個(gè)原理編寫的。

          GB2312字符集中除常用簡(jiǎn)體漢字字符外還包括希臘字母、日文平假名及片假名字母、俄語(yǔ)西里爾字母等字符,未收錄繁體中文漢字和一些生僻字。可以用繁體漢字測(cè)試某些系統(tǒng)是不是只支持GB2312編碼。

          GB2312的編碼范圍是0xA1A1-0x7E7E,去掉未定義的區(qū)域之后可以理解為實(shí)際編碼范圍是0xA1A1-0xF7FE。

          EUC-CN可以理解為GB2312的別名,和GB2312完全相同。

          區(qū)位碼更應(yīng)該認(rèn)為是字符集的定義,定義了所收錄的字符和字符位置,而GB2312及EUC-CN是實(shí)際計(jì)算機(jī)環(huán)境中支持這 種字符集的編碼。HZ和ISO-2022-CN是對(duì)應(yīng)區(qū)位碼字符集的另外兩種編碼,都是用7位編碼空間來(lái)支持漢字。區(qū)位碼和GB2312編碼的關(guān)系有點(diǎn)像 Unicode和UTF-8。

          GBK

          GBK編碼是GB2312編碼的超集,向下完全兼容GB2312,同時(shí)GBK收錄了Unicode基本多文種平面中的所有CJK漢字。同 GB2312一樣,GBK也支持希臘字母、日文假名字母、俄語(yǔ)字母等字符,但不支持韓語(yǔ)中的表音字符(非漢字字符)。GBK還收錄了GB2312不包含的 漢字部首符號(hào)、豎排標(biāo)點(diǎn)符號(hào)等字符。

          GBK的整體編碼范圍是為0x8140-0xFEFE,不包括低字節(jié)是0×7F的組合。高字節(jié)范圍是0×81-0xFE,低字節(jié)范圍是0x40-7E和0x80-0xFE。

          低字節(jié)是0x40-0x7E的GBK字符有一定特殊性,因?yàn)檫@些字符占用了ASCII碼的位置,這樣會(huì)給一些系統(tǒng)帶來(lái)麻煩。

          有些系統(tǒng)中用0x40-0x7E中的字符(如“|”)做特殊符號(hào),在定位這些符號(hào)時(shí)又沒(méi)有判斷這些符號(hào)是不是屬于某個(gè) GBK字符的低字節(jié),這樣就會(huì)造成錯(cuò)誤判斷。在支持GB2312的環(huán)境下就不存在這個(gè)問(wèn)題。需要注意的是支持GBK的環(huán)境中小于0x80的某個(gè)字節(jié)未必就 是ASCII符號(hào);另外就是最好選用小于0×40的ASCII符號(hào)做一些特殊符號(hào),這樣就可以快速定位,且不用擔(dān)心是某個(gè)漢字的另一半。Big5編碼中也存在相應(yīng)問(wèn)題。

          CP936和GBK的有些許差別,絕大多數(shù)情況下可以把CP936當(dāng)作GBK的別名。

          GB18030

          GB18030編碼向下兼容GBK和GB2312,兼容的含義是不僅字符兼容,而且相同字符的編碼也相同。GB18030收錄了所有Unicode3.1中的字符,包括中國(guó)少數(shù)民族字符,GBK不支持的韓文字符等等,也可以說(shuō)是世界大多民族的文字符號(hào)都被收錄在內(nèi)。

          GBK和GB2312都是雙字節(jié)等寬編碼,如果算上和ASCII兼容所支持的單字節(jié),也可以理解為是單字節(jié)和雙字節(jié)混合的變長(zhǎng)編碼。GB18030編碼是變長(zhǎng)編碼,有單字節(jié)、雙字節(jié)和四字節(jié)三種方式。

          GB18030的單字節(jié)編碼范圍是0x00-0x7F,完全等同與ASCII;雙字節(jié)編碼的范圍和GBK相同,高字節(jié)是0x81-0xFE,低字節(jié) 的編碼范圍是0x40-0x7E和0x80-FE;四字節(jié)編碼中第一、三字節(jié)的編碼范圍是0x81-0xFE,二、四字節(jié)是0x30-0x39。

          Windows中CP936代碼頁(yè)使用0x80來(lái)表示歐元符號(hào),而在GB18030編碼中沒(méi)有使用0x80編碼位,用其他位置來(lái)表示歐元符號(hào)。這可以理解為是GB18030向下兼容性上的一點(diǎn)小問(wèn)題;也可以理解為0x80是CP936對(duì)GBK的擴(kuò)展,而GB18030只是和GBK兼容良好。



          posted on 2007-09-13 15:00 Ke 閱讀(1205) 評(píng)論(0)  編輯  收藏 所屬分類: encoding
          主站蜘蛛池模板: 牙克石市| 绵阳市| 淮滨县| 塘沽区| 盘山县| 镇赉县| 都江堰市| 宽甸| 新野县| 神农架林区| 青浦区| 永川市| 阳春市| 岑溪市| 赤壁市| 谷城县| 上栗县| 长汀县| 宁城县| 丰台区| 马公市| 施甸县| 吉隆县| 郴州市| 大宁县| 长顺县| 始兴县| 依安县| 沙湾县| 信宜市| 巴彦淖尔市| 萨迦县| 永安市| 佛坪县| 太康县| 镇巴县| 屏南县| 永春县| 济宁市| 澄城县| 延长县|