关于C#在lucene.net下的中文切词

关于C#在lucene.net下的中文切词

2007-09-27 10:50 作者： 佚名 出处： 论坛整理 责任编辑：>幽灵

以下是引用片段： using System; using System.Collections.Generic; using System.Text; using Analyzer = Lucene.Net.Analysis.Analyzer; using SimpleAnalyzer = Lucene.Net.Analysis.SimpleAnalyzer; using StandardAnalyzer = Lucene.Net.Analysis.Standard.StandardAnalyzer; using Token = Lucene.Net.Analysis.Token; using TokenStream = Lucene.Net.Analysis.TokenStream; namespace MyLuceneTest {  class Program  {  [STAThread]  public static void Main(System.String[] args)  {  try  {  Test("中华人民共和国在1949年建立，从此开始了新中国的伟大篇章。长春市长春节致词", true);  }  catch (System.Exception e)  {  System.Console.Out.WriteLine(" caught a " + e.GetType() + ""n with message: " + e.Message + e.ToString());  }  }  internal static void Test(System.String text, bool verbose)  {  System.Console.Out.WriteLine(" Tokenizing string: " + text);  Test(new System.IO.StringReader(text), verbose, text.Length);  }  internal static void Test(System.IO.TextReader reader, bool verbose, long bytes)  {  //Analyzer analyzer = new StandardAnalyzer();  Analyzer analyzer = new Lucene.Fanswo.ChineseAnalyzer();  TokenStream stream = analyzer.TokenStream(null, reader);  System.DateTime start = System.DateTime.Now;  int count = 0;  for (Token t = stream.Next(); t != null; t = stream.Next())  {  if (verbose)  {  System.Console.Out.WriteLine("Token=" + t.ToString());  }  count++;  }  System.DateTime end = System.DateTime.Now;  long time = end.Ticks - start.Ticks;  System.Console.Out.WriteLine(time + " milliseconds to extract " + count + " tokens");  System.Console.Out.WriteLine((time * 1000.0) / count + " microseconds/token");  System.Console.Out.WriteLine((bytes * 1000.0 * 60.0 * 60.0) / (time * 1000000.0) + " megabytes/hour");  }  } }

　　测试结果：

　　

　　完毕!

　　分词的郊率上还有待在算法上提高。还有中文的标点符号没有处理，我将进一步完善。

　　本人文采不好，写不出很多文字，只有以代码代替一下我的言语。兄弟姐妹们给点意见哦。谢