反向索引：

正向索引（草稿，不完全，因?yàn)槭盏絝ield info的影響，不同的field存儲(chǔ)內(nèi)容不同，且fieldInfo的有些信息,TOKENIZED BINARY COMPRESSED也是保存在.fdt的每個(gè)document相關(guān)段的bits中,而不是.fnm中）:

Lucene在1.9版本的時(shí)候就已經(jīng)加入了對(duì)GCJ的支持，利用GCJ編譯Lucene，并且使用新的GCJIndexInput.java讀寫(xiě)文件系統(tǒng)，
直接調(diào)用操作系統(tǒng)級(jí)別的native方法，相信讀寫(xiě)性能能夠極大得提高啊。

具體代碼可見(jiàn)Lucene的gcj目錄，編譯使用ant gcj

說(shuō)明見(jiàn)Similarity.java的javadoc信息：


算法請(qǐng)參考javadoc的，它使用的是Vector Space Model (VSM) of Information Retrieval。

Lucene的索引文件，會(huì)包含很多個(gè)segments文件，每個(gè)segment中包含多個(gè)documents文件，一個(gè)segment中會(huì)有完整的正向索引和反向索引。
在搜索時(shí)，Lucene會(huì)遍歷這些segments，以segments為基本單位獨(dú)立搜索每個(gè)segments文件，而后再把搜索結(jié)果合并。

建立索引文件的過(guò)程，實(shí)際就是把documents文件一個(gè)個(gè)加入索引中，Lucene的做法是最開(kāi)始為每個(gè)新加入的document獨(dú)立生成一個(gè)segment，放在內(nèi)存中。而后，當(dāng)內(nèi)存中segments數(shù)量到達(dá)一個(gè)闕值時(shí)，合并這些segments，新生成一個(gè)segment加入文件系統(tǒng)的segments列表中。
而當(dāng)文件系統(tǒng)的segments數(shù)量過(guò)多時(shí)，勢(shì)必影響搜索效率，因此需要不斷合并這些segments文件。

那么Lucene的合并策略是什么？如何保證合適的segments數(shù)量呢？

其實(shí)Lucene有兩套基本的策略：
第一種策略實(shí)現(xiàn)代碼位于IndexWriter#optimize()函數(shù)，其實(shí)就是把所有segments文件合并成一個(gè)文件。合并的算法是遞歸合并列表最后的mergeFactor個(gè)segments文件直到合并成一個(gè)文件。這兒mergeFactor是Lucene的一個(gè)參數(shù)。
btw: 從算法細(xì)節(jié)上看，其實(shí)我不是喜歡這段實(shí)現(xiàn)，因?yàn)榱斜淼淖詈髆ergeFactor個(gè)文件內(nèi)容實(shí)際被掃描了segmens_count/mergeFactor次。如果分段歸納合并的方式不知道是否更好，每個(gè)segment文件內(nèi)容都將被掃描 ceil(Log_mergeFactor(segmens_count)) 或ceil(Log_mergeFactor(segmens_count)) +1次，是否更好?

第二種策略實(shí)現(xiàn)代碼位于IndexWriter#maybeMergeSegments()函數(shù)中，這個(gè)代碼就復(fù)雜了，它的基本策略就是要求確保合并后兩個(gè)公式的成立:
假定segments是個(gè)有序列表，B表示maxBufferedDocs，f(n)=ceil(log_M(ceil(n/B)))，M表示mergeFactor，這兒maxBufferedDocs和mergeFactor是兩個(gè)參數(shù)
1. 如果第i個(gè)segment的documents數(shù)量為x，第i+1個(gè)segment的documents數(shù)量為y，那么f(x)>f(y)一定成立
2. f(n)值相同的segments的數(shù)量不得超過(guò)M。
那么maybeMergeSegments()函數(shù)是如何確保這兩個(gè)公式成立的呢?
1.首先，從代碼：
這兒minMergeDocs=maxBufferedDocs, 因此可以看出，當(dāng)內(nèi)存中緩存的segments被合并寫(xiě)回磁盤(pán)時(shí)生成的segment的document count等于或小于maxBufferedDocs（即minMergeDocs）。
補(bǔ)充：因?yàn)閙aybeMergeSegments()運(yùn)行在同步代碼中，因此只要ramSegmentInfos.size==minMergerDocs(即maxBufferedDocs)就會(huì)寫(xiě)回磁盤(pán)，因此應(yīng)該不存在ramSegmentInfos.size>maxBufferedDocs才寫(xiě)回的情況。而且，但如果是這種情況，因?yàn)楹喜⒑蟮膕egment文件的document count過(guò)大，后面的maybeMergeSegments()將不做合并處理直接退出，上述公式就可能不成立，那么算法將有錯(cuò)。
----
2.
2.1 因此maybeMergeSegments()第一次執(zhí)行時(shí)，所有segments的document count都小于等于maxBufferedDocs。此時(shí)，從i=0開(kāi)始，合并i~i+mergeFactor-1個(gè)文件，如果合并后的doc count>maxBufferedDocs時(shí)，保留第i個(gè)segment，否則繼續(xù)合并改變后的i~i+mergeFactor-1，直到doc count>maxBufferedDocs或所有segments文件個(gè)數(shù)已經(jīng)<mergeFactor了。經(jīng)過(guò)這樣一輪的合并，除了最后<mergeFactor個(gè)的doc counts<=maxBufferedDocs文件外，其它文件的doc counts一定都>maxBufferedDocs并<maxBufferedDocs*mergeFactor了。
 2.2 這時(shí)，不理會(huì)最后<mergeFactor個(gè)doc count<maxBufferedDocs的文件，而后按2.1的同理規(guī)則，合并之前的文件，讓這些文件的最后<mergerFactor個(gè)segment符合 maxBufferedDocs<doc counts<=maxBufferedDocs*mergeFactor，之前的segment文件都符合maxBufferedDocs*mergeFactor<doc counts<=maxBufferedDocs*mergeFactor^2
2.3 重復(fù)2.2，最后得到的列表就會(huì)滿(mǎn)足上述兩等式的成立
---
3
之后，每次從內(nèi)存緩存中flush出一個(gè)新的segment時(shí)，也就是往這個(gè)segments列表的最后增加一個(gè)doc_count<=maxBufferedDocs的文件，同樣執(zhí)行上述步驟2進(jìn)行合并，能夠始終保證上述兩公式的成立。
----
4
4.1
IndexWriter#addIndexesNoOptimize同樣借鑒使用了maybeMergeSegments()算法，區(qū)別此時(shí)，實(shí)際是已有一個(gè)符合兩公式的segments序列T，在T之后追加上隨意順序的segments序列S。這時(shí)，我們先找到S中doc count值最大的那個(gè)segment，計(jì)算出它屬于的區(qū)間f(x)，使得maxBufferedDocs*mergeFactor^x<doc counts<=maxBufferedDocs*mergeFactor^(x+1)，而后按2.2的算法合并出除了最后<mergerFactor個(gè)segments外， 之前所有segments都符合 a. doc count>maxBufferedDocs*mergeFactor^(x+1) b.符合上述2等式。
btw: 因?yàn)檫@兒調(diào)用IndexWriter#addIndexesNoOptimize傳入的參數(shù)是maxBufferedDocs*mergeFactor^(x+1)，因?yàn)镾所有segment的doc count都一定小于maxBufferedDocs*mergeFactor^(x+1)，因此S的所有元素都會(huì)參與收縮合并。
4.2 將最后<mergerFactor個(gè)doc count<maxBufferedDocs*mergeFactor^(x+1)的segments合并，如果合并后的segment的doc count大于maxBufferedDocs*mergeFactor^(x+1)，就繼續(xù)2.2步驟，使得整個(gè)隊(duì)列符合上述兩公式
-----

上述兩種策略，最終確保了Lucene中的segments不會(huì)太多,確保效率。

BTW：實(shí)際上，如果documents太多時(shí)，Lucene還支持把docuements分成幾個(gè)組，每個(gè)組用獨(dú)立的進(jìn)程或電腦進(jìn)行索引，而后再多個(gè)目錄的索引合并起來(lái)，具體可參考IndexWriter#addIndexesNoOptimize和IndexWriter#addIndexes函數(shù)

FieldSelectorResult:枚舉，分別為
        LOAD Document#getFieldable和Document#getField不會(huì)返回null
        LAZY_LOAD :Lazy的Field意味著在搜索結(jié)果里這個(gè)Field的值缺省是不讀取的，只有當(dāng)你真正對(duì)這個(gè)Field取值的時(shí)候才會(huì)去取。所以如果你要對(duì)它取值，你得保證IndexReader還沒(méi)有close。 Document#getField不能使用，只能使用Document#getFieldable
        NO_LOAD Document#getField和Document#getFieldable都返回null，Document#add不被調(diào)用。
        LOAD_AND_BREAK 類(lèi)似LOAD，Document#getField和Document#getFieldable都可用，但返回后就結(jié)束，Document可能沒(méi)有完整的field的Set，參考LoadFirstFieldSelector 。
        LOAD_FOR_MERGE 類(lèi)似LOAD，但不壓縮任何數(shù)據(jù)。只被SegmentMerger的一個(gè)FieldSelector匿名內(nèi)嵌實(shí)現(xiàn)類(lèi)使用。Document#getField和Document#getFieldable可返回null.
        SIZE 返回Field的size而不是value. Size表示存儲(chǔ)這個(gè)field需要的bytes數(shù)，string數(shù)值使用2*chars。size被存儲(chǔ)為a binary value，表現(xiàn)為as an int in a byte[]，with the higher order byte first in [0]。
        SIZE_AND_BREAK 類(lèi)似SIZE，但立刻break from the field loading loop, i.e. stop loading further fields, after the size is loaded

======================================

Field中三大enum: Store Index和TermVector：

       ------------------------------------
        Store.COMPRESS  Store the original field value in the index in a compressed form. This is useful for long documents and for binary valued fields.壓縮存儲(chǔ)；
        Store.YES Store the original field value in the index. This is useful for short texts like a document's title which should be displayed with the results. The value is stored in its original form, i.e. no analyzer is used before it is stored. 索引文件本來(lái)只存儲(chǔ)索引數(shù)據(jù), 此設(shè)計(jì)將原文內(nèi)容直接也存儲(chǔ)在索引文件中，如文檔的標(biāo)題。
        Store.NO  Do not store the field value in the index. 原文不存儲(chǔ)在索引文件中，搜索結(jié)果命中后，再根據(jù)其他附加屬性如文件的Path，數(shù)據(jù)庫(kù)的主鍵等，重新連接打開(kāi)原文，適合原文內(nèi)容較大的情況。
        決定了Field對(duì)象的 this.isStored 和        this.isCompressed
     ------------------------------------
        Index.NO Do not index the field value. This field can thus not be searched, but one can still access its contents provided it is Field.Store stored. 不進(jìn)行索引，存放不能被搜索的內(nèi)容如文檔的一些附加屬性如文檔類(lèi)型, URL等。
        Index.TOKENIZED Index the field's value so it can be searched. An Analyzer will be used to tokenize and possibly further normalize the text before its terms will be stored in the index. This is useful for common text. 分詞索引
        Index.UN_TOKENIZED  Index the field's value without using an Analyzer, so it can be searched. As no analyzer is used the value will be stored as a single term. This is useful for unique Ids like product numbers. 不分詞進(jìn)行索引，如作者名，日期等，Rod Johnson本身為一單詞，不再需要分詞。

        Index.NO_NORMS 不分詞，建索引。norms是什么???字段值???。但是Field的值不像通常那樣被保存，而是只取一個(gè)byte，這樣節(jié)約存儲(chǔ)空間???? Index the field's value without an Analyzer, and disable the storing of norms.  No norms means that index-time boosting and field length normalization will be disabled.  The benefit is less memory usage as norms take up one byte per indexed field for every document in the index.Note that once you index a given field <i>with</i> norms enabled, disabling norms will have no effect.  In other words, for NO_NORMS to have the above described effect on a field, all instances of that field must be indexed with NO_NORMS from the beginning.
        決定了Field對(duì)象的 this.isIndexed  this.isTokenized  this.omitNorms
     ------------------------------------
        Lucene 1.4.3新增的：
        TermVector.NO Do not store term vectors.  不保存term vectors
        TermVector.YES Store the term vectors of each document. A term vector is a list of the document's terms and their number of occurences in that document. 保存term vectors。
        TermVector.WITH_POSITIONS Store the term vector + token position information 保存term vectors。（保存值和token位置信息）
        TermVector.WITH_OFFSETS Store the term vector + Token offset information
        TermVector.WITH_POSITIONS_OFFSETS Store the term vector + Token position and offset information 保存term vectors。（保存值和Token的offset）
        決定了Field對(duì)象的this.storeTermVector this.storePositionWithTermVector this.storeOffsetWithTermVector

Closure: http://en.wikipedia.org/wiki/Closure_%28computer_science%29
我還比較喜歡Microsoft的一段說(shuō)明，位于鏈接http://msdn.microsoft.com/msdnmag/issues/07/09/BasicInstincts/Default.aspx?loc=zh中，查找“Lambda 表達(dá)式和變量提升”

最早接觸Closure是在學(xué)javascript, 前年還寫(xiě)了篇關(guān)于Closure對(duì)javascript內(nèi)存泄露的文章http://www.aygfsteel.com/tim-wu/archive/2006/05/29/48729.html
一直以為這就是函數(shù)式語(yǔ)言的特性，頂多就是.net的委托和它有幾分相識(shí)，
沒(méi)想到現(xiàn)在Java7也要支持了，有興趣的朋友可以去讀讀：
http://www.javac.info/
沒(méi)細(xì)讀，不知道Lambda在Java這種強(qiáng)類(lèi)型檢查的語(yǔ)言中表現(xiàn)的如何。

作為函數(shù)語(yǔ)言，Ruby中一直都有closure的用法，http://samdanielson.com/2007/3/19/proc-new-vs-lambda-in-ruby有個(gè)簡(jiǎn)單例子。

 最近，ruby 1.9又提供了新的定義lambda

參見(jiàn) http://www.infoq.com/cn/news/2008/01/new-lambda-syntax

VB 2008也支持了，這個(gè)鏈接有個(gè)例子，又是Lambda，又是范型，，又是委托回調(diào)，很有意思：
http://msdn.microsoft.com/msdnmag/issues/07/09/BasicInstincts/Default.aspx?loc=zh
VB中“需要注意的一點(diǎn)限制是，lambda 表達(dá)式完全就是一個(gè)單個(gè)表達(dá)式。在 Visual Basic 2008 中，您在 lambda 表達(dá)式中只能有一個(gè)單個(gè)表達(dá)式。在本專(zhuān)欄中，我將進(jìn)一步向您展示 Visual Basic 2008 中引入的一個(gè)新的三元運(yùn)算符，它將允許您構(gòu)造條件表達(dá)式，但目前的功能不支持在 lambda 表達(dá)式中使用任意語(yǔ)句。”

以下內(nèi)容均為轉(zhuǎn)載,url見(jiàn)具體鏈接:

最常見(jiàn)的四個(gè)Analyzer,說(shuō)明:  http://windshowzbf.bokee.com/3016397.html 
WhitespaceAnalyzer  僅僅是去除空格，對(duì)字符沒(méi)有l(wèi)owcase化,不支持中文
SimpleAnalyzer :功能強(qiáng)于WhitespaceAnalyzer,將除去letter之外的符號(hào)全部過(guò)濾掉,并且將所有的字符lowcase化,不支持中文
StopAnalyzer: StopAnalyzer的功能超越了SimpleAnalyzer，在SimpleAnalyzer的基礎(chǔ)上.增加了去除StopWords的功能,不支持中文.類(lèi)中使用一個(gè)static數(shù)組保存了ENGLISH_STOP_WORDS, 太常見(jiàn)不index的words
StandardAnalyzer: 用Javacc定義的一套EBNF，嚴(yán)禁的語(yǔ)法。有人說(shuō)英文的處理能力同于StopAnalyzer.支持中文采用的方法為單字切分。未仔細(xì)比較，不敢確定。

其他的擴(kuò)展:
ChineseAnalyzer:來(lái)自于Lucene的sand box.性能類(lèi)似于StandardAnalyzer,缺點(diǎn)是不支持中英文混和分詞.
CJKAnalyzer:chedong寫(xiě)的CJKAnalyzer的功能在英文處理上的功能和StandardAnalyzer相同.但是在漢語(yǔ)的分詞上，不能過(guò)濾掉標(biāo)點(diǎn)符號(hào)，即使用二元切分
TjuChineseAnalyzer: http://windshowzbf.bokee.com/3016397.html寫(xiě)的,功能最為強(qiáng)大.TjuChineseAnlyzer的功能相當(dāng)強(qiáng)大,在中文分詞方面由于其調(diào)用的為ICTCLAS的java接口.所以其在中文方面性能上同與ICTCLAS.其在英文分詞上采用了Lucene的StopAnalyzer,可以去除 stopWords,而且可以不區(qū)分大小寫(xiě),過(guò)濾掉各類(lèi)標(biāo)點(diǎn)符號(hào).

 

例子:
http://www.langtech.org.cn/index.php/uid-5080-action-viewspace-itemid-68, 還有簡(jiǎn)單的代碼分析

Analyzing "The quick brown fox jumped over the lazy dogs"

WhitespaceAnalyzer:

[The] [quick] [brown] [fox] [jumped] [over] [the] [lazy] [dogs]

SimpleAnalyzer:

[the] [quick] [brown] [fox] [jumped] [over] [the] [lazy] [dogs]

StopAnalyzer:

[quick] [brown] [fox] [jumped] [over] [lazy] [dogs]

StandardAnalyzer:

[quick] [brown] [fox] [jumped] [over] [lazy] [dogs]

Analyzing "XY&Z Corporation - xyz@example.com"

WhitespaceAnalyzer:

[XY&Z] [Corporation] [-] [xyz@example.com]

SimpleAnalyzer:

[xy] [z] [corporation] [xyz] [example] [com]

StopAnalyzer:

[xy] [z] [corporation] [xyz] [example] [com]

StandardAnalyzer:

[xy&z] [corporation] [xyz@example.com]

 

參考連接:
http://macrochen.blogdriver.com/macrochen/1167942.html
http://macrochen.blogdriver.com/macrochen/1153507.html

http://my.dmresearch.net/bbs/viewthread.php?tid=8318
http://windshowzbf.bokee.com/3016397.html

推薦
http://gceclub.sun.com.cn/developer/technicalArticles/Intl/Supplementary/index_zh_CN.html
http://www.linuxpk.com/3821.html
=======================================
BMP的解釋?zhuān)?br /> http://zh.wikipedia.org/w/index.php?title=%E5%9F%BA%E6%9C%AC%E5%A4%9A%E6%96%87%E7%A8%AE%E5%B9%B3%E9%9D%A2&variant=zh-cn
http://zh.wikipedia.org/w/index.php?title=%E8%BE%85%E5%8A%A9%E5%B9%B3%E9%9D%A2&variant=zh-cn#.E7.AC.AC.E4.B8.80.E8.BC.94.E5.8A.A9.E5.B9.B3.E9.9D.A2
1個(gè)BMP和16個(gè)輔助plane，需要21個(gè)bits.

======================================
ISO-10646與Unicode關(guān)系
http://zh.wikipedia.org/wiki/%E9%80%9A%E7%94%A8%E5%AD%97%E7%AC%A6%E9%9B%86

ISO-10646術(shù)語(yǔ)	Unicode術(shù)語(yǔ)
UCS-2	BMP UTF-16
UCS-4	UTF-32

注意：UTF-16可看成是UCS-2的父集。在沒(méi)有輔助平面字符前，UTF-16與UCS-2所指的是同一的意思。但當(dāng)引入輔助平面字符後，就只稱(chēng)為UTF-16了，因?yàn)槲覀儠?huì)使用2個(gè)UTF-16，也就似乎4bytes保存一個(gè)輔助平面字符。現(xiàn)在若有軟件聲稱(chēng)自己支援UCS-2編碼，那其實(shí)是暗指它不能支援輔助平面字符的委婉語(yǔ)。
======================================
UTF-8要完整表達(dá)unicode需要4bytes，表達(dá)BMP需要3bytes，見(jiàn)http://en.wikipedia.org/wiki/UTF-8，注意“The range D800-DFFF is disallowed by Unicode. The encoding scheme reliably transforms values in that range, but they are not valid scalar values in Unicode. See Table 3-7 in the Unicode 5.0 standard. ”

======================================
BOM Byte Order Mark，在UCS編碼中有一個(gè)叫做"ZERO WIDTH NO-BREAK SPACE"的字符，它的編碼是FEFF。而FFFE在UCS中是不存在的字符，所以不應(yīng)該出現(xiàn)在實(shí)際傳輸中。UCS規(guī)范建議我們?cè)趥鬏斪止?jié)流前，先傳輸字符"ZERO WIDTH NO-BREAK SPACE"。
這樣如果接收者收到FEFF，就表明這個(gè)字節(jié)流是Big-Endian的；如果收到FFFE，就表明這個(gè)字節(jié)流是Little-Endian的。
字符"ZERO WIDTH NO-BREAK SPACE"又被稱(chēng)作BOM。UTF-8不需要BOM來(lái)表明字節(jié)順序，但可以用BOM來(lái)表明編碼方式。字符"ZERO WIDTH NO-BREAK SPACE"(也就是U+FEFF)的UTF-8編碼是EF BB BF（就是11101111,10111011,10111111）。所以如果接收者收到以EF BB BF開(kāi)頭的字節(jié)流，就知道這是UTF-8編碼了。
Windows就是使用BOM來(lái)標(biāo)記文本文件的編碼方式的。

除了FEFF，英文wiki http://en.wikipedia.org/wiki/UTF-8還解釋說(shuō)明了一些目前不會(huì)出現(xiàn)在utf-8字節(jié)流中的byte值。

=========================================
Java
http://www.jorendorff.com/articles/unicode/java.html
http://gceclub.sun.com.cn/developer/technicalArticles/Intl/Supplementary/index_zh_CN.html 完美解釋java中的unicode。另外提到j(luò)ava中utf-8其實(shí)有兩種格式，分別是標(biāo)準(zhǔn)utf-8和改良utf-8。對(duì)于文本輸入，Java 2 SDK 提供用于接受“\Uxxxxxx”格式字符串的代碼點(diǎn)輸入方法，這里大寫(xiě)的“U”表示轉(zhuǎn)義序列包含六個(gè)十六進(jìn)制數(shù)字，因此允許使用增補(bǔ)字符。小寫(xiě)的“u”表示轉(zhuǎn)義序列“\uxxxx”的原始格式。
http://dlog.cn/html/diary/showlog.vm?sid=2&cat_id=-1&log_id=557 介紹了String的JDK5新增方法
http://blog.csdn.net/qinysong/archive/2006/09/05/1179480.aspx 連著三篇用實(shí)例說(shuō)明，語(yǔ)言比較亂，說(shuō)的也不盡正確，但他用了做試驗(yàn)的java代碼有點(diǎn)意思，能幫助思考代碼中一些tricky的現(xiàn)象。
http://topic.csdn.net/u/20070928/22/5207088c-c47d-43ed-8416-26f850631cff.html 有一些回答，
http://topic.csdn.net/u/20070515/14/57af3319-28de-4851-b4cf-db65b2ead01c.html 有些試驗(yàn)代碼，價(jià)值不大
http://www.w3china.org/blog/more.asp?name=hongrui&id=24817 有些java實(shí)例代碼，沒(méi)細(xì)看。

另：
Java 1.0 supports Unicode version 1.1.
Java 1.1 onwards supports Unicode version 2.0.
J2SE 1.4中的字符處理是基于Unicode 3.0標(biāo)準(zhǔn)的。
J2SE v 1.5 supports Unicode 4.0 character set.

而：
Unicode 3.0：1999年九月；涵蓋了來(lái)自ISO 10646-1的十六位元通用字元集（UCS）基本多文種平面（Basic Multilingual Plane）

Unicode 3.1：2001年三月；新增從ISO 10646-2定義的輔助平面（Supplementary Planes)

所以：
代碼點(diǎn)在U+0000到U+FFFF之間的就用\u0000到\uffff表示
U+10000到U+1FFFF之間的用   \ud800到\udbff中的作為第一個(gè)單元,   用\udc00到\udfff作為第二單元,組合起來(lái)表示
char這個(gè)概念就是指\u0000到\uffff,這是占兩個(gè)字節(jié)
其余的用code   point這個(gè)概念
JDK   1.5   以上支持   Unicode   4.0，也就是   Unicode   的范圍是   U+0000～U+10FFFF，
超過(guò)   U+FFFF   的字符采用代碼點(diǎn)（也就是   int   類(lèi)型的數(shù)據(jù)）來(lái)表示，具體的可以
參考一下下面這個(gè)鏈接的文章《Java   平臺(tái)中的增補(bǔ)字符》，對(duì)此作了很詳細(xì)的介
紹。 http://gceclub.sun.com.cn/developer/technicalArticles/Intl/Supplementary/index_zh_CN.html


================================
http://www.aygfsteel.com/tim-wu/archive/2007/09/12/144550.html

================================

U-00000000 - U-0000007F:	0xxxxxxx
U-00000080 - U-000007FF:	110xxxxx 10xxxxxx
U-00000800 - U-0000FFFF:	1110xxxx 10xxxxxx 10xxxxxx
U-00010000 - U-001FFFFF:	11110xxx 10xxxxxx 10xxxxxx 10xxxxxx
U-00200000 - U-03FFFFFF:	111110xx 10xxxxxx 10xxxxxx 10xxxxxx 10xxxxxx
U-04000000 - U-7FFFFFFF:	1111110x 10xxxxxx 10xxxxxx 10xxxxxx 10xxxxxx 10xxxxxx

但目前ISO和Unicode組織都不會(huì)規(guī)定10FFFF以上的字符

代碼範(fàn)圍 十六進(jìn)制	標(biāo)量值(scalar value 二進(jìn)制	UTF-8 二進(jìn)制 / 十六進(jìn)制	註釋
000000 - 00007F 128個(gè)代碼	00000000 00000000 0zzzzzzz	0zzzzzzz(00-7F)	ASCII等值範(fàn)圍，位元組由零開(kāi)始
	七個(gè)z	七個(gè)z
000080 - 0007FF 1920個(gè)代碼	00000000 00000yyy yyzzzzzz	110yyyyy(C2-DF) 10zzzzzz(80-BF)	第一個(gè)位元組由110開(kāi)始，接著的位元組由10開(kāi)始
	三個(gè)y；二個(gè)y；六個(gè)z	五個(gè)y；六個(gè)z
000800 - 00FFFF 63488個(gè)代碼	00000000 xxxxyyyy yyzzzzzz	1110xxxx(E0-EF) 10yyyyyy 10zzzzzz	第一個(gè)位元組由1110開(kāi)始，接著的位元組由10開(kāi)始
	四個(gè)x；四個(gè)y；二個(gè)y；六個(gè)z	四個(gè)x；六個(gè)y；六個(gè)z
010000 - 10FFFF 1048576個(gè)代碼	000wwwxx xxxxyyyy yyzzzzzz	11110www(F0-F4) 10xxxxxx 10yyyyyy 10zzzzzz	由11110開(kāi)始，接著的位元組由10開(kāi)始
	三個(gè)w；二個(gè)x；四個(gè)x；四個(gè)y；二個(gè)y；六個(gè)z	三個(gè)w；六個(gè)x；六個(gè)y；六個(gè)z

================================
參考：http://blog.csdn.net/qinysong/archive/2006/09/05/1179480.aspx，但該文對(duì)unicode版本說(shuō)明有誤，說(shuō)明見(jiàn)上

在大約 1993 年之后開(kāi)發(fā)的大多數(shù)現(xiàn)代編程語(yǔ)言都有一個(gè)特別的數(shù)據(jù)類(lèi)型, 叫做 Unicode/ISO 10646-1 字符. 在 Ada95 中叫 Wide_Character, 在 Java 中叫 char.

ISO C 也詳細(xì)說(shuō)明了處理多字節(jié)編碼和寬字符 (wide characters) 的機(jī)制, 1994 年 9 月 Amendment 1 to ISO C 發(fā)表時(shí)又加入了更多. 這些機(jī)制主要是為各類(lèi)東亞編碼而設(shè)計(jì)的, 它們比處理 UCS 所需的要健壯得多. UTF-8 是 ISO C 標(biāo)準(zhǔn)調(diào)用多字節(jié)字符串的編碼的一個(gè)例子, wchar_t 類(lèi)型可以用來(lái)存放 Unicode 字符.

代碼為QueryParser.jj，語(yǔ)法為JavaCC實(shí)現(xiàn)的LL()：
完整文檔：http://lucene.apache.org/java/2_0_0/queryparsersyntax.html

和正則一樣：
?表示0個(gè)或1個(gè)
+表示一個(gè)或多個(gè)
*表示0個(gè)或多個(gè)


以下是Token部分：

以下為解析部分

 

btw: 猜測(cè): javacc中,如果使用[],則允許出現(xiàn)0次或1次