Lucene学习教程

 

1.1 什么是lucene

Lucene是一个全文搜索框架，而不是应用产品。因此它并不像www.baidu.com 或者google Desktop那么拿来就能用，它只是提供了一种工具让你能实现这些产品。

 

2 lucene的工作方式 
lucene提供的服务实际包含两部分：一入一出。所谓入是写入，即将你提供的源（本质是字符串）写入索引或者将其从索引中删除；所谓出是读出，即向用户提供全文搜索服务，让用户可以通过关键词定位源。 
2.1写入流程 
源字符串首先经过analyzer处理，包括：分词，分成一个个单词；去除stopword（可选）。 
将源中需要的信息加入Document的各个Field中，并把需要索引的Field索引起来，把需要存储的Field存储起来。 
将索引写入存储器，存储器可以是内存或磁盘。 
2.2读出流程 
用户提供搜索关键词，经过analyzer处理。 
对处理后的关键词搜索索引找出对应的Document。 
用户根据需要从找到的Document中提取需要的Field。

      
3 一些需要知道的概念 
3.1 analyzer 
Analyzer是分析器，它的作用是把一个字符串按某种规则划分成一个个词语，并去除其中的无效词语，这里说的无效词语是指英文中的“of”、“the”，中文中的“的”、“地”等词语，这些词语在文章中大量出现，但是本身不包含什么关键信息，去掉有利于缩小索引文件、提高效率、提高命中率。 
分词的规则千变万化，但目的只有一个：按语义划分。这点在英文中比较容易实现，因为英文本身就是以单词为单位的，已经用空格分开；而中文则必须以某种方法将连成一片的句子划分成一个个词语。具体划分方法下面再详细介绍，这里只需了解分析器的概念即可。 
3.2 document 
用户提供的源是一条条记录，它们可以是文本文件、字符串或者数据库表的一条记录等等。一条记录经过索引之后，就是以一个Document的形式存储在索引文件中的。用户进行搜索，也是以Document列表的形式返回。 
3.3 field 
一个Document可以包含多个信息域，例如一篇文章可以包含“标题”、“正文”、“最后修改时间”等信息域，这些信息域就是通过Field在Document中存储的。 
Field有两个属性可选：存储和索引。通过存储属性你可以控制是否对这个Field进行存储；通过索引属性你可以控制是否对该Field进行索引。这看起来似乎有些废话，事实上对这两个属性的正确组合很重要，下面举例说明：还是以刚才的文章为例子，我们需要对标题和正文进行全文搜索，所以我们要把索引属性设置为真，同时我们希望能直接从搜索结果中提取文章标题，所以我们把标题域的存储属性设置为真，但是由于正文域太大了，我们为了缩小索引文件大小，将正文域的存储属性设置为假，当需要时再直接读取文件；我们只是希望能从搜索解果中提取最后修改时间，不需要对它进行搜索，所以我们把最后修改时间域的存储属性设置为真，索引属性设置为假。上面的三个域涵盖了两个属性的三种组合，还有一种全为假的没有用到，事实上Field不允许你那么设置，因为既不存储又不索引的域是没有意义的。 
3.4 term 
term是搜索的最小单位，它表示文档的一个词语，term由两部分组成：它表示的词语和这个词语所出现的field。 
3.5 tocken 
tocken是term的一次出现，它包含trem文本和相应的起止偏移，以及一个类型字符串。一句话中可以出现多次相同的词语，它们都用同一个term表示，但是用不同的tocken，每个tocken标记该词语出现的地方。 
3.6 segment 
添加索引时并不是每个document都马上添加到同一个索引文件，它们首先被写入到不同的小文件，然后再合并成一个大索引文件，这里每个小文件都是一个segment。

 

4 lucene的结构 
lucene包括core和sandbox两部分，其中core是lucene稳定的核心部分，sandbox包含了一些附加功能，例如highlighter、各种分析器。 
Lucene core有七个包：analysis，document，index，queryParser，search，store，util。 
4.1 analysis 
Analysis包含一些内建的分析器，例如按空白字符分词的WhitespaceAnalyzer，添加了stopwrod过滤的StopAnalyzer，最常用的StandardAnalyzer。 
4.2 document 
Document包含文档的数据结构，例如Document类定义了存储文档的数据结构，Field类定义了Document的一个域。 
4.3 index 
Index包含了索引的读写类，例如对索引文件的segment进行写、合并、优化的IndexWriter类和对索引进行读取和删除操作的 IndexReader类，这里要注意的是不要被IndexReader这个名字误导，以为它是索引文件的读取类，实际上删除索引也是由它完成， IndexWriter只关心如何将索引写入一个个segment，并将它们合并优化；IndexReader则关注索引文件中各个文档的组织形式。 
4.4 queryParser 
QueryParser包含了解析查询语句的类，lucene的查询语句和sql语句有点类似，有各种保留字，按照一定的语法可以组成各种查询。 Lucene有很多种Query类，它们都继承自Query，执行各种特殊的查询，QueryParser的作用就是解析查询语句，按顺序调用各种 Query类查找出结果。 
4.5 search 
Search包含了从索引中搜索结果的各种类，例如刚才说的各种Query类，包括TermQuery、BooleanQuery等就在这个包里。 
4.6 store 
Store包含了索引的存储类，例如Directory定义了索引文件的存储结构，FSDirectory为存储在文件中的索引，RAMDirectory为存储在内存中的索引，MmapDirectory为使用内存映射的索引。 
4.7 util 
Util包含一些公共工具类，例如时间和字符串之间的转换工具。 

5 如何建索引 
5.1 最简单的能完成索引的代码片断 

Java代码 
IndexWriter writer = new IndexWriter(“/data/index/”, new StandardAnalyzer(), true);   
Document doc = new Document();   
doc.add(new Field("title", "lucene introduction", Field.Store.YES, Field.Index.TOKENIZED));   
doc.add(new Field("content", "lucene works well", Field.Store.YES, Field.Index.TOKENIZED));   
writer.addDocument(doc);   
writer.optimize();   
writer.close();  

下面我们分析一下这段代码。 
首先我们创建了一个writer，并指定存放索引的目录为“/data/index”，使用的分析器为StandardAnalyzer，第三个参数说明如果已经有索引文件在索引目录下，我们将覆盖它们。 
然后我们新建一个document。 
我们向document添加一个field，名字是“title”，内容是“lucene introduction”，对它进行存储并索引。
再添加一个名字是“content”的field，内容是“lucene works well”，也是存储并索引。 
然后我们将这个文档添加到索引中，如果有多个文档，可以重复上面的操作，创建document并添加。 
添加完所有document，我们对索引进行优化，优化主要是将多个segment合并到一个，有利于提高索引速度。 
随后将writer关闭，这点很重要。 

对，创建索引就这么简单！ 
当然你可能修改上面的代码获得更具个性化的服务。 

5.2 将索引直接写在内存 
你需要首先创建一个RAMDirectory，并将其传给writer，代码如下： 

Java代码 
Directory dir = new RAMDirectory();   
IndexWriter writer = new IndexWriter(dir, new StandardAnalyzer(), true);   
Document doc = new Document();   
doc.add(new Field("title", "lucene introduction", Field.Store.YES, Field.Index.TOKENIZED));   
doc.add(new Field("content", "lucene works well", Field.Store.YES, Field.Index.TOKENIZED));   
writer.addDocument(doc);   
writer.optimize();   
writer.close();  

5.3 索引文本文件 
如果你想把纯文本文件索引起来，而不想自己将它们读入字符串创建field，你可以用下面的代码创建field： 

Field field = new Field("content", new FileReader(file)); 

这里的file就是该文本文件。该构造函数实际上是读去文件内容，并对其进行索引，但不存储。 

6 如何维护索引 
索引的维护操作都是由IndexReader类提供。 

6.1 如何删除索引 
lucene提供了两种从索引中删除document的方法，一种是 

void deleteDocument(int docNum) 

这种方法是根据document在索引中的编号来删除，每个document加进索引后都会有个唯一编号，所以根据编号删除是一种精确删除，但是这个编号是索引的内部结构，一般我们不会知道某个文件的编号到底是几，所以用处不大。另一种是 

void deleteDocuments(Term term) 

这种方法实际上是首先根据参数term执行一个搜索操作，然后把搜索到的结果批量删除了。我们可以通过这个方法提供一个严格的查询条件，达到删除指定document的目的。 
下面给出一个例子： 

Java代码 
Directory dir = FSDirectory.getDirectory(PATH, false);   
IndexReader reader = IndexReader.open(dir);   
Term term = new Term(field, key);   
reader.deleteDocuments(term);   
reader.close();  

6.2 如何更新索引 
lucene并没有提供专门的索引更新方法，我们需要先将相应的document删除，然后再将新的document加入索引。例如： 

Java代码 
Directory dir = FSDirectory.getDirectory(PATH, false);   
IndexReader reader = IndexReader.open(dir);   
Term term = new Term(“title”, “lucene introduction”);   
reader.deleteDocuments(term);   
reader.close();   
 
IndexWriter writer = new IndexWriter(dir, new StandardAnalyzer(), true);   
Document doc = new Document();   
doc.add(new Field("title", "lucene introduction", Field.Store.YES, Field.Index.TOKENIZED));   
doc.add(new Field("content", "lucene is funny", Field.Store.YES, Field.Index.TOKENIZED));   
writer.addDocument(doc);   
writer.optimize();   
writer.close();  

7 如何搜索 
lucene的搜索相当强大，它提供了很多辅助查询类，每个类都继承自Query类，各自完成一种特殊的查询，你可以像搭积木一样将它们任意组合使用，完成一些复杂操作；另外lucene还提供了Sort类对结果进行排序，提供了Filter类对查询条件进行限制。你或许会不自觉地拿它跟SQL语句进行比较：“lucene能执行and、or、order by、where、like ‘%xx%’操作吗？”回答是：“当然没问题！” 

7.1 各种各样的Query 
下面我们看看lucene到底允许我们进行哪些查询操作： 

7.1.1 TermQuery 
首先介绍最基本的查询，如果你想执行一个这样的查询：“在content域中包含‘lucene’的document”，那么你可以用TermQuery： 

Term t = new Term("content", " lucene"; 
Query query = new TermQuery(t); 

7.1.2 BooleanQuery 
如果你想这么查询：“在content域中包含java或perl的document”，那么你可以建立两个TermQuery并把它们用BooleanQuery连接起来： 

Java代码 
TermQuery termQuery1 = new TermQuery(new Term("content", "java");   
TermQuery termQuery 2 = new TermQuery(new Term("content", "perl");   
BooleanQuery booleanQuery = new BooleanQuery();   
booleanQuery.add(termQuery 1, BooleanClause.Occur.SHOULD);   
booleanQuery.add(termQuery 2, BooleanClause.Occur.SHOULD);  

7.1.3 WildcardQuery 
如果你想对某单词进行通配符查询，你可以用WildcardQuery，通配符包括’?’匹配一个任意字符和’*’匹配零个或多个任意字符，例如你搜索’use*’，你可能找到’useful’或者’useless’： 

Java代码 
Query query = new WildcardQuery(new Term("content", "use*");   

7.1.4 PhraseQuery 
你可能对中日关系比较感兴趣，想查找‘中’和‘日’挨得比较近（5个字的距离内）的文章，超过这个距离的不予考虑，你可以： 

Java代码 
PhraseQuery query = new PhraseQuery();   
query.setSlop(5);   
query.add(new Term("content ", “中”));   
query.add(new Term(“content”, “日”));  

那么它可能搜到“中日合作……”、“中方和日方……”，但是搜不到“中国某高层领导说日本欠扁”。 

7.1.5 PrefixQuery 
如果你想搜以‘中’开头的词语，你可以用PrefixQuery： 

Java代码 
PrefixQuery query = new PrefixQuery(new Term("content ", "中");  

7.1.6 FuzzyQuery 
FuzzyQuery用来搜索相似的term，使用Levenshtein算法。假设你想搜索跟‘wuzza’相似的词语，你可以： 

Java代码 
Query query = new FuzzyQuery(new Term("content", "wuzza");  
你可能得到‘fuzzy’和‘wuzzy’。 

7.1.7 RangeQuery 
另一个常用的Query是RangeQuery，你也许想搜索时间域从20060101到20060130之间的document，你可以用RangeQuery： 

Java代码 
RangeQuery query = new RangeQuery(new Term(“time”, “20060101”), new Term(“time”, “20060130”), true);  

最后的true表示用闭合区间。 

7.2 QueryParser 
看了这么多Query，你可能会问：“不会让我自己组合各种Query吧，太麻烦了！”当然不会，lucene提供了一种类似于SQL语句的查询语句，我们姑且叫它lucene语句，通过它，你可以把各种查询一句话搞定，lucene会自动把它们查分成小块交给相应Query执行。下面我们对应每种Query演示一下： 
TermQuery可以用“field:key”方式，例如“content:lucene”。 
BooleanQuery中‘与’用‘+’，‘或’用‘ ’，例如“content:java contenterl”。 
WildcardQuery仍然用‘?’和‘*’，例如“content:use*”。 
PhraseQuery用‘~’，例如“content:"中日"~5”。 
PrefixQuery用‘*’，例如“中*”。 
FuzzyQuery用‘~’，例如“content: wuzza ~”。 
RangeQuery用‘[]’或‘{}’，前者表示闭区间，后者表示开区间，例如“time:[20060101 TO 20060130]”，注意TO区分大小写。 
你可以任意组合query string，完成复杂操作，例如“标题或正文包括lucene，并且时间在20060101到20060130之间的文章”可以表示为：“+ (title:lucene content:lucene) +time:[20060101 TO 20060130]”。代码如下： 

Java代码 
Directory dir = FSDirectory.getDirectory(PATH, false);   
IndexSearcher is = new IndexSearcher(dir);   
QueryParser parser = new QueryParser("content", new StandardAnalyzer());   
Query query = parser.parse("+(title:lucene content:lucene) +time:[20060101 TO 20060130]";   
Hits hits = is.search(query);   
for (int i = 0; i < hits.length(); i++)   
{   
Document doc = hits.doc(i);   
System.out.println(doc.get("title");   
}   
is.close();  

首先我们创建一个在指定文件目录上的IndexSearcher。 
然后创建一个使用StandardAnalyzer作为分析器的QueryParser，它默认搜索的域是content。 
接着我们用QueryParser来parse查询字串，生成一个Query。 
然后利用这个Query去查找结果，结果以Hits的形式返回。 
这个Hits对象包含一个列表，我们挨个把它的内容显示出来。 

7.3 Filter 
filter的作用就是限制只查询索引的某个子集，它的作用有点像SQL语句里的where，但又有区别，它不是正规查询的一部分，只是对数据源进行预处理，然后交给查询语句。注意它执行的是预处理，而不是对查询结果进行过滤，所以使用filter的代价是很大的，它可能会使一次查询耗时提高一百倍。 
最常用的filter是RangeFilter和QueryFilter。RangeFilter是设定只搜索指定范围内的索引；QueryFilter是在上次查询的结果中搜索。 
Filter的使用非常简单，你只需创建一个filter实例，然后把它传给searcher。继续上面的例子，查询“时间在20060101到20060130之间的文章”除了将限制写在query string中，你还可以写在RangeFilter中： 

Java代码 
Directory dir = FSDirectory.getDirectory(PATH, false);   
IndexSearcher is = new IndexSearcher(dir);   
QueryParser parser = new QueryParser("content", new StandardAnalyzer());   
Query query = parser.parse("title:lucene content:lucene";   
RangeFilter filter = new RangeFilter("time", "20060101", "20060230", true, true);   
Hits hits = is.search(query, filter);   
for (int i = 0; i < hits.length(); i++)   
{   
Document doc = hits.doc(i);   
System.out.println(doc.get("title");   
}   
is.close();  

7.4 Sort 
有时你想要一个排好序的结果集，就像SQL语句的“order by”，lucene能做到：通过Sort。 
Sort sort = new Sort(“time”); //相当于SQL的“order by time” 
Sort sort = new Sort(“time”, true); // 相当于SQL的“order by time desc” 
下面是一个完整的例子： 

Java代码 
Directory dir = FSDirectory.getDirectory(PATH, false);   
IndexSearcher is = new IndexSearcher(dir);   
QueryParser parser = new QueryParser("content", new StandardAnalyzer());   
Query query = parser.parse("title:lucene content:lucene";   
RangeFilter filter = new RangeFilter("time", "20060101", "20060230", true, true);   
Sort sort = new Sort(“time”);   
Hits hits = is.search(query, filter, sort);   
for (int i = 0; i < hits.length(); i++)   
{   
Document doc = hits.doc(i);   
System.out.println(doc.get("title");   
}   
is.close();  

8 分析器 
在前面的概念介绍中我们已经知道了分析器的作用，就是把句子按照语义切分成一个个词语。英文切分已经有了很成熟的分析器： StandardAnalyzer，很多情况下StandardAnalyzer是个不错的选择。甚至你会发现StandardAnalyzer也能对中文进行分词。 
但是我们的焦点是中文分词，StandardAnalyzer能支持中文分词吗？实践证明是可以的，但是效果并不好，搜索“如果”会把“牛奶不如果汁好喝”也搜索出来，而且索引文件很大。那么我们手头上还有什么分析器可以使用呢？core里面没有，我们可以在sandbox里面找到两个： ChineseAnalyzer和CJKAnalyzer。但是它们同样都有分词不准的问题。相比之下用StandardAnalyzer和 ChineseAnalyzer建立索引时间差不多，索引文件大小也差不多，CJKAnalyzer表现会差些，索引文件大且耗时比较长。 
要解决问题，首先分析一下这三个分析器的分词方式。StandardAnalyzer和ChineseAnalyzer都是把句子按单个字切分，也就是说 “牛奶不如果汁好喝”会被它们切分成“牛 奶 不 如 果 汁 好 喝”；而CJKAnalyzer则会切分成“牛奶 奶不 不如 如果 果汁 汁好好喝”。这也就解释了为什么搜索“果汁”都能匹配这个句子。 
以上分词的缺点至少有两个：匹配不准确和索引文件大。我们的目标是将上面的句子分解成“牛奶 不如 果汁好喝”。这里的关键就是语义识别，我们如何识别“牛奶”是一个词而“奶不”不是词语？我们很自然会想到基于词库的分词法，也就是我们先得到一个词库，里面列举了大部分词语，我们把句子按某种方式切分，当得到的词语与词库中的项匹配时，我们就认为这种切分是正确的。这样切词的过程就转变成匹配的过程，而匹配的方式最简单的有正向最大匹配和逆向最大匹配两种，说白了就是一个从句子开头向后进行匹配，一个从句子末尾向前进行匹配。基于词库的分词词库非常重要，词库的容量直接影响搜索结果，在相同词库的前提下，据说逆向最大匹配优于正向最大匹配。 
当然还有别的分词方法，这本身就是一个学科，我这里也没有深入研究。回到具体应用，我们的目标是能找到成熟的、现成的分词工具，避免重新发明车轮。经过网上搜索，用的比较多的是中科院的ICTCLAS和一个不开放源码但是免费的JE-Analysis。ICTCLAS有个问题是它是一个动态链接库， java调用需要本地方法调用，不方便也有安全隐患，而且口碑也确实不大好。JE-Analysis效果还不错，当然也会有分词不准的地方，相比比较方便放心。
9 性能优化 
一直到这里，我们还是在讨论怎么样使lucene跑起来，完成指定任务。利用前面说的也确实能完成大部分功能。但是测试表明lucene的性能并不是很好，在大数据量大并发的条件下甚至会有半分钟返回的情况。另外大数据量的数据初始化建立索引也是一个十分耗时的过程。那么如何提高lucene的性能呢？下面从优化创建索引性能和优化搜索性能两方面介绍。 

9.1 优化创建索引性能 
这方面的优化途径比较有限，IndexWriter提供了一些接口可以控制建立索引的操作，另外我们可以先将索引写入RAMDirectory，再批量写入FSDirectory，不管怎样，目的都是尽量少的文件IO，因为创建索引的最大瓶颈在于磁盘IO。另外选择一个较好的分析器也能提高一些性能。 

9.1.1 通过设置IndexWriter的参数优化索引建立 
setMaxBufferedDocs(int maxBufferedDocs) 
控制写入一个新的segment前内存中保存的document的数目，设置较大的数目可以加快建索引速度，默认为10。 
setMaxMergeDocs(int maxMergeDocs) 
控制一个segment中可以保存的最大document数目，值较小有利于追加索引的速度，默认Integer.MAX_VALUE，无需修改。 
setMergeFactor(int mergeFactor) 
控制多个segment合并的频率，值较大时建立索引速度较快，默认是10，可以在建立索引时设置为100。 

9.1.2 通过RAMDirectory缓写提高性能 
我们可以先把索引写入RAMDirectory，达到一定数量时再批量写进FSDirectory，减少磁盘IO次数。 

Java代码 
FSDirectory fsDir = FSDirectory.getDirectory("/data/index", true);   
RAMDirectory ramDir = new RAMDirectory();   
IndexWriter fsWriter = new IndexWriter(fsDir, new StandardAnalyzer(), true);   
IndexWriter ramWriter = new IndexWriter(ramDir, new StandardAnalyzer(), true);   
while (there are documents to index)   
{   
… create Document …   
ramWriter.addDocument(doc);   
if (condition for flushing memory to disk has been met)   
{   
fsWriter.addIndexes(new Directory[] { ramDir });   
ramWriter.close();   
ramWriter = new IndexWriter(ramDir, new StandardAnalyzer(), true);   
}   
}  

9.1.3 选择较好的分析器 
这个优化主要是对磁盘空间的优化，可以将索引文件减小将近一半，相同测试数据下由600M减少到380M。但是对时间并没有什么帮助，甚至会需要更长时间，因为较好的分析器需要匹配词库，会消耗更多cpu，测试数据用StandardAnalyzer耗时133分钟；用MMAnalyzer耗时150分钟。 

9.2 优化搜索性能 
虽然建立索引的操作非常耗时，但是那毕竟只在最初创建时才需要，平时只是少量的维护操作，更何况这些可以放到一个后台进程处理，并不影响用户搜索。我们创建索引的目的就是给用户搜索，所以搜索的性能才是我们最关心的。下面就来探讨一下如何提高搜索性能。 

9.2.1 将索引放入内存 
这是一个最直观的想法，因为内存比磁盘快很多。Lucene提供了RAMDirectory可以在内存中容纳索引： 

Java代码 
Directory fsDir = FSDirectory.getDirectory(“/data/index/”, false);   
Directory ramDir = new RAMDirectory(fsDir);   
Searcher searcher = new IndexSearcher(ramDir);  

但是实践证明RAMDirectory和FSDirectory速度差不多，当数据量很小时两者都非常快，当数据量较大时（索引文件400M）RAMDirectory甚至比FSDirectory还要慢一点，这确实让人出乎意料。 
而且lucene的搜索非常耗内存，即使将400M的索引文件载入内存，在运行一段时间后都会out of memory，所以个人认为载入内存的作用并不大。 

9.2.2 优化时间范围限制 
既然载入内存并不能提高效率，一定有其它瓶颈，经过测试发现最大的瓶颈居然是时间范围限制，那么我们可以怎样使时间范围限制的代价最小呢？ 
当需要搜索指定时间范围内的结果时，可以： 
1、用RangeQuery，设置范围，但是RangeQuery的实现实际上是将时间范围内的时间点展开，组成一个个BooleanClause加入到 BooleanQuery中查询，因此时间范围不可能设置太大，经测试，范围超过一个月就会抛BooleanQuery.TooManyClauses，可以通过设置 BooleanQuery.setMaxClauseCount(int maxClauseCount)扩大，但是扩大也是有限的，并且随着maxClauseCount扩大，占用内存也扩大 
2、用RangeFilter代替RangeQuery，经测试速度不会比RangeQuery慢，但是仍然有性能瓶颈，查询的90%以上时间耗费在 RangeFilter，研究其源码发现RangeFilter实际上是首先遍历所有索引，生成一个BitSet，标记每个document，在时间范围内的标记为true，不在的标记为false，然后将结果传递给Searcher查找，这是十分耗时的。 
3、进一步提高性能，这个又有两个思路： 
a、缓存Filter结果。既然RangeFilter的执行是在搜索之前，那么它的输入都是一定的，就是IndexReader，而 IndexReader是由Directory决定的，所以可以认为RangeFilter的结果是由范围的上下限决定的，也就是由具体的 RangeFilter对象决定，所以我们只要以RangeFilter对象为键，将filter结果BitSet缓存起来即可。lucene API已经提供了一个CachingWrapperFilter类封装了Filter及其结果，所以具体实施起来我们可以cache CachingWrapperFilter对象，需要注意的是，不要被CachingWrapperFilter的名字及其说明误导， CachingWrapperFilter看起来是有缓存功能，但的缓存是针对同一个filter的，也就是在你用同一个filter过滤不同 IndexReader时，它可以帮你缓存不同IndexReader的结果，而我们的需求恰恰相反，我们是用不同filter过滤同一个 IndexReader，所以只能把它作为一个封装类。 
b、降低时间精度。研究Filter的工作原理可以看出，它每次工作都是遍历整个索引的，所以时间粒度越大，对比越快，搜索时间越短，在不影响功能的情况下，时间精度越低越好，有时甚至牺牲一点精度也值得，当然最好的情况是根本不作时间限制。 
下面针对上面的两个思路演示一下优化结果（都采用800线程随机关键词随即时间范围）： 
第一组，时间精度为秒： 
方式 直接用RangeFilter 使用cache 不用filter 
平均每个线程耗时 10s 1s 300ms 

第二组，时间精度为天 
方式 直接用RangeFilter 使用cache 不用filter 
平均每个线程耗时 900ms 360ms 300ms 

由以上数据可以得出结论： 
1、 尽量降低时间精度，将精度由秒换成天带来的性能提高甚至比使用cache还好，最好不使用filter。 
2、 在不能降低时间精度的情况下，使用cache能带了10倍左右的性能提高。 

9.2.3 使用更好的分析器 
这个跟创建索引优化道理差不多，索引文件小了搜索自然会加快。当然这个提高也是有限的。较好的分析器相对于最差的分析器对性能的提升在20%以下。 

10 一些经验 
10.1关键词区分大小写 
or AND TO等关键词是区分大小写的，lucene只认大写的，小写的当做普通单词。 

10.2 读写互斥性 
同一时刻只能有一个对索引的写操作，在写的同时可以进行搜索 

10.3 文件锁 
在写索引的过程中强行退出将在tmp目录留下一个lock文件，使以后的写操作无法进行，可以将其手工删除 

10.4 时间格式 
lucene只支持一种时间格式yyMMddHHmmss，所以你传一个yy-MM-dd HH:mm:ss的时间给lucene它是不会当作时间来处理的 

10.5 设置boost 
有些时候在搜索时某个字段的权重需要大一些，例如你可能认为标题中出现关键词的文章比正文中出现关键词的文章更有价值，你可以把标题的boost设置的更大，那么搜索结果会优先显示标题中出现关键词的文章（没有使用排序的前题下）。使用方法： 
Field. setBoost(float boost);默认值是1.0，也就是说要增加权重的需要设置得比1大。

 

转载声明： 本文转自 http://www.javaeye.com/topic/210567 （JavaEve博客）

==============================================================================

 

Apache Lucene与Lucene.Net——全文检索服务器

 

Lucene并不是一个爬行搜索引擎，也不会自动地索引内容。我们得先将要索引的文档中的文本抽取出来，然后再将其加到Lucene索引中。标准的步骤是先初始化一个Analyzer、打开一个IndexWriter、然后再将文档一个接一个地加进去。

 

十年前，在Windows世界中使用开源项目简直是不可想象的一件事。现在.NET程序员在Java平台上验证并开发的企业级软件世界中也开始觉醒了。今天让我们一起来看看流行的全文检索引擎——Apache Lucene与Lucene.Net。

Apache Lucene与其兄弟Lucene.Net是经过了大规模测试的产品，他们已经为一些著名站点如Wikipedia、CNET及Monster.com提供了搜索功能。因此，没人会怀疑其功能与未来的发展。

Lucene并不是一个爬行搜索引擎，也不会自动地索引内容。我们得先将要索引的文档中的文本抽取出来，然后再将其加到Lucene索引中。标准的步骤是先初始化一个Analyzer、打开一个IndexWriter、然后再将文档一个接一个地加进去。一旦完成这些步骤，索引就可以在关闭前得到优化，同时所做的改变也会生效。这个过程可能比开发者习惯的方式更加手工化一些，但却在数据的索引上给予你更多的灵活性。

我们可以借助于一个对象模型来完成搜索，通过查询来建立条件。其次，Lucene可以解析并执行（可能由最终用户输入的）普通文本搜索字符串。使用.NET 3.5或后续版本的.NET开发者还有第三种选择：LINQ to Lucene。其项目主页上有一张图清晰地描述了Lucene的搜索语法与相应的LINQ to Lucene语法的区别。

如果你想试一下，可以参考Andrew Smith对Lucene.NET的介绍。无论你选择.NET还是Java版本，看看Erik Hatcher对Lucene的介绍都会大有好处。

查看英文原文：Apache Lucene and Lucene.Net – Full Text Search Servers

 

转载声明： 本文转自 http://www.infoq.com/cn/news/2008/11/Lucene （Info Q）

==============================================================================

Lucene-2.0学习文档

 

Lucene是apache组织的一个用java实现全文搜索引擎的开源项目。其功能非常的强大，api也很简单。总得来说用Lucene来进行建立和搜索和操作数据库是差不多的(有点像)，Document可以看作是数据库的一行记录，Field可以看作是数据库的字段。用lucene实现搜索引擎就像用JDBC实现连接数据库一样简单。

Lucene2.0，它与以前广泛应用和介绍的Lucene 1.4.3并不兼容。

Lucene2.0的下载地址是http://apache.justdn.org/lucene/java/

大家先看一个例子，通过这个例子来对lucene的一个大概的认识。

一个Junit测试用例：(为了让代码清晰好看，我们将异常都抛出)

a)    这是一个建立文件索引的例子

public void testIndexHello() throws IOException
{
Date date1 = new Date();        
//可以说是创建一个新的写入工具
//第一个参数是要索引建立在哪个目录里
//第二个参数是新建一个文本分析器,这里用的是标准的大家也可以自己写一个
//第三个参数如果是true，在建立索引之前先将c://index目录清空。
IndexWriter writer = new IndexWriter("c://index",new StandardAnalyzer(),true);        
// 这个是数据源的文件夹
File file = new File("c://file");
/* 例子主要是将C://file目录下的文件的内容进行建立索引，将文件路径作为搜索内容的附属. */
if(file.isDirectory())
{
String[] fileList = file.list();
for (int i = 0; i < fileList.length; i++)
{
//  建立一个新的文档,它可以看作是数据库的一行记录

Document doc = new Document();

File f = new File(file,

fileList[i]);

Reader reader = new BufferedReader(new FileReader(f));

doc.add(new Field("file",reader));//为doument添加field

doc.add(new Field("path",f.getAbsolutePath(),Field.Store.YES,Field.Index.NO));

writer.addDocument(doc);
}
}

writer.close();//这一步是必须的，只有这样数据才会被写入索引的目录里

Date date2 = new Date();

System.out.println("用时"+(date2.getTime()-date1.getTime())+"毫秒");

} 

注意：因为建立索引本来就是费时，所以说最后输出的用时会比较长，请不要奇怪。 

b)一个通过索引来全文检索的例子 

public void HelloSearch() throws IOException, ParseException 

{
IndexSearcher indexSearcher = new IndexSearcher("c://index");//和上面的IndexWriter一样是一个工具

QueryParser queryParser = new QueryParser("file",//这是一个分词器

new StandardAnalyzer());

BufferedReader br = new BufferedReader(new InputStreamReader(System.in));

Query query = queryParser.parse(br.readLine());//这个地方Query是抽象类大家也注意一下，下面会讲到的

Hits hits = indexSearcher.search(query);

Document doc = null;

System.out.print("正搜索…………….");

for (int i = 0; i < hits.length(); i++)
{
doc = hits.doc(i);

System.out.println("内容是："+doc.get("file"));//注意这里输出的是什么

System.out.println("文件的路径是：" + doc.get("path"));
}
} 

通过上面的两个例子应该可以看出Lucene还是比较简单的。

运行一下上面的两个例子，大家可能会说怎么doc.get(“file”);返回的是空呢,我们马上会讲到。

 

转载声明： 本文转自 http://www.360doc.com/content/06/1229/01/16773_311395.shtml （360 doc）

==============================================================================

 

Lucene.Net 基本用法

 

本文仅记录一些简单的使用方法，供初学者参考。
以下例子采用 Lucene.NET 1.9 版本，可取去 Lucene.Net 下载。

1. 基本应用
using System;
using System.Collections.Generic;
using System.Text;
using Lucene.Net;
using Lucene.Net.Analysis;
using Lucene.Net.Analysis.Standard;
using Lucene.Net.Documents;
using Lucene.Net.Index;
using Lucene.Net.QueryParsers;
using Lucene.Net.Search;
using Lucene.Net.Store;
using Lucene.Net.Util;

namespace ConsoleApplication1.Lucene
{
public class LuceneTest
{
private const string FieldName = "name";
private const string FieldValue = "value";

private Directory directory = new RAMDirectory();
private Analyzer analyzer = new StandardAnalyzer();

public LuceneTest()
{
}

private void Index()
{
IndexWriter writer = new IndexWriter(directory, analyzer, true);
writer.maxFieldLength = 1000;
 
for (int i = 1; i <= 100; i++)
{
Document document = new Document();

document.Add(new Field(FieldName, "name" + i, Field.Store.YES, Field.Index.UN_TOKENIZED));
document.Add(new Field(FieldValue, "Hello, World!", Field.Store.YES, Field.Index.TOKENIZED));

writer.AddDocument(document);
}

writer.Optimize();
writer.Close();
}

private void Search()
{
Query query = QueryParser.Parse("name*", FieldName, analyzer);

IndexSearcher searcher = new IndexSearcher(directory);

Hits hits = searcher.Search(query);
 
Console.WriteLine("符合条件记录:{0}; 索引库记录总数:{1}", hits.Length(), searcher.Reader.NumDocs());
for (int i = 0; i < hits.Length(); i++)
{
int docId = hits.Id(i);
string name = hits.Doc(i).Get(FieldName);
string value = hits.Doc(i).Get(FieldValue);
float score = hits.Score(i);

Console.WriteLine("{0}: DocId:{1}; Name:{2}; Value:{3}; Score:{4}", 
i + 1, docId, name, value, score);
}

searcher.Close();
}
}
}

除了 RAMDirectory，还可以使用 FSDirectory。(注意 FSDirectory.GetDirectory 的 create 参数，为 true 时将删除已有索引库文件，可以通过 IndexReader.IndexExists() 方法判断。)

从指定目录打开已有索引库。
private Directory directory = FSDirectory.GetDirectory("c:/index", false);

将索引库载入内存，以提高搜索速度。
private Directory directory = new RAMDirectory(FSDirectory.GetDirectory(@"c:/index", false));
//或
//private Directory directory = new RAMDirectory(c:/index");

2. 多字段搜索

使用 MultiFieldQueryParser 可以指定多个搜索字段。
Query query = MultiFieldQueryParser.Parse("name*", new string[] { FieldName, FieldValue }, analyzer);

IndexReader reader = IndexReader.Open(directory);
IndexSearcher searcher = new IndexSearcher(reader);
Hits hits = searcher.Search(query);

3. 多条件搜索

除了使用 QueryParser.Parse 分解复杂的搜索语法外，还可以通过组合多个 Query 来达到目的。
Query query1 = new TermQuery(new Term(FieldValue, "name1")); // 词语搜索
Query query2 = new WildcardQuery(new Term(FieldName, "name*")); // 通配符 
//Query query3 = new PrefixQuery(new Term(FieldName, "name1")); // 字段搜索 Field:Keyword，自动在结尾添加 *
//Query query4 = new RangeQuery(new Term(FieldNumber, NumberTools.LongToString(11L)), new Term(FieldNumber, NumberTools.LongToString(13L)), true); // 范围搜索
//Query query5 = new FilteredQuery(query, filter); // 带过滤条件的搜索
 
BooleanQuery query = new BooleanQuery();
query.Add(query1, BooleanClause.Occur.MUST);
query.Add(query2, BooleanClause.Occur.MUST);

IndexSearcher searcher = new IndexSearcher(reader);
Hits hits = searcher.Search(query);

4. 设置权重

可以给 Document 和 Field 增加权重(Boost)，使其在搜索结果排名更加靠前。缺省情况下，搜索结果以 Document.Score 作为排序依据，该数值越大排名越靠前。Boost 缺省值为 1。
Score = Score * Boost

通过上面的公式，我们就可以设置不同的权重来影响排名。

如下面的例子中根据 VIP 级别设定不同的权重。
Document document = new Document();
switch (vip)
{
case VIP.Gold: document.SetBoost(2F); break;
case VIP.Argentine: document.SetBoost(1.5F); break;
}

只要 Boost 足够大，那么就可以让某个命中结果永远排第一位，这就是百度等网站的"收费排名"业务。明显有失公平，鄙视一把。  

5. 排序

通过 SortField 的构造参数，我们可以设置排序字段，排序条件，以及倒排。
Sort sort = new Sort(new SortField(FieldName, SortField.DOC, false));

IndexSearcher searcher = new IndexSearcher(reader);
Hits hits = searcher.Search(query, sort);

排序对搜索速度影响还是很大的，尽可能不要使用多个排序条件。

6. 过滤

使用 Filter 对搜索结果进行过滤，可以获得更小范围内更精确的结果。

举个例子，我们搜索上架时间在 2005-10-1 到 2005-10-30 之间的商品。
对于日期时间，我们需要转换一下才能添加到索引库，同时还必须是索引字段。
// index
document.Add(FieldDate, DateField.DateToString(date), Field.Store.YES, Field.Index.UN_TOKENIZED);

//…

// search
Filter filter = new DateFilter(FieldDate, DateTime.Parse("2005-10-1"), DateTime.Parse("2005-10-30"));
Hits hits = searcher.Search(query, filter);

除了日期时间，还可以使用整数。比如搜索价格在 100 ~ 200 之间的商品。
Lucene.Net NumberTools 对于数字进行了补位处理，如果需要使用浮点数可以自己参考源码进行。
// index
document.Add(new Field(FieldNumber, NumberTools.LongToString((long)price), Field.Store.YES, Field.Index.UN_TOKENIZED));

//…

// search
Filter filter = new RangeFilter(FieldNumber, NumberTools.LongToString(100L), NumberTools.LongToString(200L), true, true);
Hits hits = searcher.Search(query, filter);

使用 Query 作为过滤条件。
QueryFilter filter = new QueryFilter(QueryParser.Parse("name2", FieldValue, analyzer));

我们还可以使用 FilteredQuery 进行多条件过滤。
Filter filter = new DateFilter(FieldDate, DateTime.Parse("2005-10-10"), DateTime.Parse("2005-10-15"));
Filter filter2 = new RangeFilter(FieldNumber, NumberTools.LongToString(11L), NumberTools.LongToString(13L), true, true);

Query query = QueryParser.Parse("name*", FieldName, analyzer);
query = new FilteredQuery(query, filter);
query = new FilteredQuery(query, filter2);

IndexSearcher searcher = new IndexSearcher(reader);
Hits hits = searcher.Search(query);

7. 分布搜索

我们可以使用 MultiReader 或 MultiSearcher 搜索多个索引库。
MultiReader reader = new MultiReader(new IndexReader[] { IndexReader.Open(@"c:/index"), IndexReader.Open(@"//server/index") });
IndexSearcher searcher = new IndexSearcher(reader);
Hits hits = searcher.Search(query);

或
IndexSearcher searcher1 = new IndexSearcher(reader1);
IndexSearcher searcher2 = new IndexSearcher(reader2);
MultiSearcher searcher = new MultiSearcher(new Searchable[] { searcher1, searcher2 });
Hits hits = searcher.Search(query);

还可以使用 ParallelMultiSearcher 进行多线程并行搜索。

8. 合并索引库

将 directory1 合并到 directory2 中。
Directory directory1 = FSDirectory.GetDirectory("index1", false);
Directory directory2 = FSDirectory.GetDirectory("index2", false);

IndexWriter writer = new IndexWriter(directory2, analyzer, false);
writer.AddIndexes(new Directory[] { directory });
Console.WriteLine(writer.DocCount());
writer.Close();

9. 显示搜索语法字符串

我们组合了很多种搜索条件，或许想看看与其对等的搜索语法串是什么样的。
BooleanQuery query = new BooleanQuery();
query.Add(query1, true, false);
query.Add(query2, true, false);
//…

Console.WriteLine("Syntax: {0}", query.ToString());

输出：
Syntax: +(name:name* value:name*) +number:[0000000000000000b TO 0000000000000000d]

呵呵，就这么简单。

10. 操作索引库

删除 (软删除，仅添加了删除标记。调用 IndexWriter.Optimize() 后真正删除。)
IndexReader reader = IndexReader.Open(directory);

// 删除指定序号(DocId)的 Document。
reader.Delete(123);

// 删除包含指定 Term 的 Document。
reader.Delete(new Term(FieldValue, "Hello"));

// 恢复软删除。
reader.UndeleteAll();

reader.Close();

增量更新 (只需将 create 参数设为 false，即可往现有索引库添加新数据。)
Directory directory = FSDirectory.GetDirectory("index", false);
IndexWriter writer = new IndexWriter(directory, analyzer, false);
writer.AddDocument(doc1);
writer.AddDocument(doc2);
writer.Optimize();
writer.Close();

11. 优化

批量向 FSDirectory 增加索引时，增大合并因子(mergeFactor )和最小文档合并数(minMergeDocs)有助于提高性能，减少索引时间。
IndexWriter writer = new IndexWriter(directory, analyzer, true);

writer.maxFieldLength = 1000; // 字段最大长度
writer.mergeFactor = 1000;
writer.minMergeDocs = 1000;

for (int i = 0; i < 10000; i++)
{
// Add Documentes…
}

writer.Optimize();
writer.Close();

相关参数说明 

转自《深入 Lucene 索引机制》

利用 Lucene，在创建索引的工程中你可以充分利用机器的硬件资源来提高索引的效率。当你需要索引大量的文件时，你会注意到索引过程的瓶颈是在往磁盘上写索引文件的过程中。为了解决这个问题, Lucene 在内存中持有一块缓冲区。但我们如何控制 Lucene 的缓冲区呢？幸运的是，Lucene 的类 IndexWriter 提供了三个参数用来调整缓冲区的大小以及往磁盘上写索引文件的频率。

1．合并因子 (mergeFactor)

这个参数决定了在 Lucene 的一个索引块中可以存放多少文档以及把磁盘上的索引块合并成一个大的索引块的频率。比如，如果合并因子的值是 10，那么当内存中的文档数达到 10 的时候所有的文档都必须写到磁盘上的一个新的索引块中。并且，如果磁盘上的索引块的隔数达到 10 的话，这 10 个索引块会被合并成一个新的索引块。这个参数的默认值是 10，如果需要索引的文档数非常多的话这个值将是非常不合适的。对批处理的索引来讲，为这个参数赋一个比较大的值会得到比较好的索引效果。

2．最小合并文档数 (minMergeDocs)

这个参数也会影响索引的性能。它决定了内存中的文档数至少达到多少才能将它们写回磁盘。这个参数的默认值是10，如果你有足够的内存，那么将这个值尽量设的比较大一些将会显著的提高索引性能。

3．最大合并文档数 (maxMergeDocs)

这个参数决定了一个索引块中的最大的文档数。它的默认值是 Integer.MAX_VALUE，将这个参数设置为比较大的值可以提高索引效率和检索速度，由于该参数的默认值是整型的最大值，所以我们一般不需要改动这个参数。

——————-迷糊中的分割线—————————--

Lucene 相关资源：

1. Lucene 官方网站
2. Apache Lucene
3. Lucene FAQ
4. Lucene.Net
5. Lucene API (Java)
6. DotLucene
7. Luke – Lucene Index Toolbox
8. Nutch
9. LUCENE.COM.CN 中国
10. Compass
11. 实战 Lucene，第 1 部分: 初识 Lucene
12. 深入 Lucene 索引机制

 

转载声明： 本文转自 http://www.rainsts.net/article.asp?id=313 （雨痕）

==============================================================================
原文链接：http://blog.csdn.net/sunboy_2050/article/details/5658555

 

from:http://www.oschina.net/question/565065_86335