子猴论坛 » 分词与中文分词 » 分词器下载 » 极易中文分词器 (转到动态网页)
本页主题: 极易中文分词器 加为IE收藏 | 收藏主题 | 上一主题 | 下一主题

战国刺客
级别: 论坛版主


精华: 0
发帖: 110
威望: 110 点
金钱: 1100 RMB
贡献值: 0 点
在线时间:0(小时)
注册时间:2008-07-30
最后登录:2008-10-21

 极易中文分词器

一、说明:
极易中文分词是目前网络上流传的一款很好用的中文分词器,是基于字典分词,不用字典则是按单字切分,以下是其特性:
分词算法:正向最大匹配 + 词尾多重消歧 + 22万精选词典

分词效率:每秒30万字(测试环境迅驰1.6,第一次分词需要1-2秒加载词典)

内存消耗:30M

支持分词粒度控制

支持Lucene分词接口

支持英文、数字、中文混合分词

支持中文词典动态维护

支持中英文噪声词过滤

支持人名匹配

支持地名匹配

支持数量词匹配

支持中文数字匹配

支持日期时间匹配

支持电子邮件匹配

支持商品编码匹配

二、组件API:
//采用正向最大匹配的中文分词算法,相当于分词粒度等于0
MMAnalyzer analyzer = new MMAnalyzer();

//参数为分词粒度:当字数等于或超过该参数,且能成词,该词就被切分出来
MMAnalyzer analyzer = new MMAnalyzer(int wordLength);

//字符串切分,常用于客户的关键字输入
analyzer.segment(String text, String separator);


词典维护API(静态方法):

//增加一个新词典,采用每行一个词的读取方式(注意:多线程状态下此时的分词效果将不可预料)
MMAnalyzer.addDictionary(Reader reader);

//增加一个新词
MMAnalyzer.addWord(String newWord);

//删除词库中的全部词语(注意:非常危险的操作,在没有加载新的词库前所有的分词都将失效)
MMAnalyzer.clear();

//词库中是否包含该词
MMAnalyzer.contains(String word);

//从词库中移除该词
MMAnalyzer.removeWord(String word);

//当前词库中包含的词语总数
MMAnalyzer.size(); 本地下载:je-analysis-1.5.3.jar

1.5.3 —— 2007-12-05
修正大数据量造成的1056数组越界异常

1.5.2 —— 2007-10-16
增加了地名的匹配
修正商品编码数字开头无法匹配的问题

1.5.1 —— 2007-01-22
修正细粒度分词错误的问题

1.5.0 —— 2007-01-18
全面支持Lucene 2.0
增强了词典维护的API
增加了商品编码的匹配
增加了Mail地址的匹配
实现了词尾消歧算法第二层的过滤
整理优化了词库

1.4.0 —— 2006-08-21
增加词典的动态扩展能力

1.3.3 —— 2006-07-23
修正无法多次增加词典的问题

1.3.2 —— 2006-07-03
修正细粒度分词错误的问题

1.3.1 —— 2006-06-23
修正在某些情况下分词遗漏的问题

1.3 —— 2006-06-22
实现了词尾消歧算法第一层的过滤
增加日期时间的匹配

1.2.2 —— 2006-06-13
完善了中英文噪声词典

1.2.1 —— 2006-06-10
修正中文数字成语无法识别的问题

1.2 —— 2006-06-08
增加中文数字的匹配(如:二零零六)
数量词采用“n”作为数字通配符
优化词典结构以便修改调整

1.1 —— 2006-06-06
增加扩展词典的静态读取方法

1.0.1 —— 2006-06-02
修正无法识别生僻字的问题

1.0 —— 2006-05-29
支持英文、数字、中文(简体)混合分词
常用的数量和人名的匹配
超过22万词的词库整理
实现正向最大匹配算法
支持分词粒度控制
暂无

三、组件Demo:
字符串切分  
package demo.analysis;  
  
import java.io.IOException;  
  
import jeasy.analysis.MMAnalyzer;  
  
public class Segment  
{  
          
     public static void main(String[] args)  
     {  
         String text = "据路透社报道,印度尼西亚社会事务部一官员星期二(29日)表示,"  
                + "日惹市附近当地时间27日晨5时53分发生的里氏6.2级地震已经造成至少5427人死亡,"  
                + "20000余人受伤,近20万人无家可归。";  
          
         MMAnalyzer analyzer = new MMAnalyzer();  
         try  
         {  
                 System.out.println(analyzer.segment(text, " | "));  
         }  
         catch (IOException e)  
         {  
                 e.printStackTrace();  
         }  
     }  
}  
  
生成效果:  
  
据 | 路透社 | 报道 | 印度尼西亚 | 社会 | 事务 | 部 | 官员 | 星期二 | 29日 | 表示 | 日惹 | 市 |
附近 | 当地时间 | 27日 | 晨 | 5时 | 53分 | 发生 | 里氏 | 6.2级 | 地震 | 已经 | 造成 | 至少 |
5427人 | 死亡 | 20000 | 余人 | 受伤 | 近 | 20万人 | 无家可归 |
  

Lucene搜索  
package demo.analysis;  
  
import jeasy.analysis.MMAnalyzer;  
  
import org.apache.lucene.analysis.Analyzer;  
import org.apache.lucene.document.Document;  
import org.apache.lucene.document.Field;  
import org.apache.lucene.index.IndexWriter;  
import org.apache.lucene.queryParser.QueryParser;  
import org.apache.lucene.search.Hits;  
import org.apache.lucene.search.IndexSearcher;  
import org.apache.lucene.search.Query;  
import org.apache.lucene.store.Directory;  
import org.apache.lucene.store.RAMDirectory;  
  
public class Segment  
{  
      
     public static void main(String[] args)  
     {  
         String fieldName = "text";  
         String text = "据路透社报道,印度尼西亚社会事务部一官员星期二(29日)表示,"  
             + "日惹市附近当地时间27日晨5时53分发生的里氏6.2级地震已经造成至少5427人死亡,"  
             + "20000余人受伤,近20万人无家可归。"; //检索内容  
  
         //采用正向最大匹配的中文分词算法  
         Analyzer analyzer = new MMAnalyzer();  
  
         Directory directory = new RAMDirectory();  
         //Directory directory = FSDirectory.getDirectory("/tmp/testindex", true);  
  
         try  
          {  
             IndexWriter iwriter = new IndexWriter(directory, analyzer, true);  
             iwriter.setMaxFieldLength(25000);  
             Document doc = new Document();  
             doc.add(new Field(fieldName, text, Field.Store.YES, Field.Index.TOKENIZED));  
             iwriter.addDocument(doc);  
             iwriter.close();  
              
             IndexSearcher isearcher = new IndexSearcher(directory);  
             QueryParser parser = new QueryParser(fieldName, analyzer);  
             Query query = parser.parse("印度尼西亚 6.2级地震");//检索词  
             Hits hits = isearcher.search(query);  
             System.out.println("命中:" + hits.length());  
  
             for (int i = 0; i < hits.length(); i++)  
             {  
                 Document hitDoc = hits.doc(i);  
                 System.out.println("内容:" + hitDoc.get(fieldName));  
             }  
  
             isearcher.close();  
             directory.close();  
         }  
         catch (Exception e)  
         {  
             e.printStackTrace();  
         }    
     }  
      
}  
  
生成效果:  
  
命中:1  
内容:据路透社报道,印度尼西亚社会事务部一官员星期二(29日)表示,日惹市附近当地时间27日晨5时53分发生的
里氏6.2级地震已经造成至少5427人死亡,20000余人受伤,近20万人无家可归。  

搜索词加亮  
package demo.analysis;  
  
import jeasy.analysis.MMAnalyzer;  
  
import org.apache.lucene.analysis.Analyzer;  
import org.apache.lucene.analysis.TokenStream;  
import org.apache.lucene.document.Document;  
import org.apache.lucene.document.Field;  
import org.apache.lucene.index.IndexReader;  
import org.apache.lucene.index.IndexWriter;  
import org.apache.lucene.index.TermPositionVector;  
import org.apache.lucene.queryParser.QueryParser;  
import org.apache.lucene.search.Hits;  
import org.apache.lucene.search.IndexSearcher;  
import org.apache.lucene.search.Query;  
import org.apache.lucene.search.highlight.Highlighter;  
import org.apache.lucene.search.highlight.QueryScorer;  
import org.apache.lucene.search.highlight.TokenSources;  
import org.apache.lucene.store.Directory;  
import org.apache.lucene.store.RAMDirectory;  
  
public class Segment  
{  
  
     public static void main(String[] args)  
     {  
         String fieldName = "text";  
         String text = "据路透社报道,印度尼西亚社会事务部一官员星期二(29日)表示,"  
             + "日惹市附近当地时间27日晨5时53分发生的里氏6.2级地震已经造成至少5427人死亡,"  
             + "20000余人受伤,近20万人无家可归。"; //检索内容  
  
         //采用正向最大匹配的中文分词算法  
         Analyzer analyzer = new MMAnalyzer();  
  
         Directory directory = new RAMDirectory();  
         //Directory directory = FSDirectory.getDirectory("/tmp/testindex", true);  
  
         try  
         {  
             IndexWriter iwriter = new IndexWriter(directory, analyzer, true);  
             iwriter.setMaxFieldLength(25000);  
             Document doc = new Document();  
             doc.add(new Field(fieldName, text, Field.Store.YES,  
                     Field.Index.TOKENIZED,  
                     Field.TermVector.WITH_POSITIONS_OFFSETS));  
             iwriter.addDocument(doc);  
             iwriter.close();  
  
             IndexSearcher isearcher = new IndexSearcher(directory);  
             QueryParser parser = new QueryParser(fieldName, analyzer);  
             Query query = parser.parse("印度尼西亚 6.2级地震");//检索词  
             Hits hits = isearcher.search(query);  
             System.out.println("命中:" + hits.length());  
  
             Highlighter highlighter = new Highlighter(new QueryScorer(query));  
             for (int i = 0; i < hits.length(); i++)  
             {  
                 text = hits.doc(i).get(fieldName);  
                 TermPositionVector tpv = (TermPositionVector) IndexReader.open(  
                     directory).getTermFreqVector(hits.id(i), fieldName);  
                 TokenStream tokenStream = TokenSources.getTokenStream(tpv);  
                 String result = highlighter.getBestFragments(tokenStream, text, 3, "...");  
                 System.out.println("内容:" + result);  
             }  
  
             isearcher.close();  
             directory.close();  
         }  
         catch (Exception e)  
         {  
             e.printStackTrace();  
         }  
     }  
  
}  
  
生成效果:  

命中:1  
内容:据路透社报道,<B>印度尼西亚</B>社会事务部一官员星期二(29日)表示,日惹市附近当地时间27日晨
5时53分发生的里氏<B>6.2级</B><B>地震</B>已经造成至少5427人死亡,20000余人受伤,近20万人无家可归

四、最新版本je-analysis-1.5.3下载地址:
http://www.zihou.com/download/je-analysis-1.5.3.jar
顶端 Posted: 2008-08-01 21:22 | 北京市朝阳区 [楼 主]
南足会小
级别: 禁止发言


精华: 0
发帖: 137
威望: 68 点
金钱: 685 RMB
贡献值: 0 点
在线时间:0(小时)
注册时间:2008-10-25
最后登录:1970-01-01

 

用户被禁言,该主题自动屏蔽!
顶端 Posted: 2008-10-25 00:57 | 重庆市 1 楼
女虫石南
级别: 禁止发言


精华: 0
发帖: 27
威望: 13 点
金钱: 135 RMB
贡献值: 0 点
在线时间:0(小时)
注册时间:2008-10-25
最后登录:1970-01-01

 

用户被禁言,该主题自动屏蔽!
顶端 Posted: 2008-10-25 06:09 | 重庆市 2 楼
子猴论坛 » 分词器下载
快速发帖 顶端
内容
HTML 代码不可用

使用签名
Wind Code自动转换

字数检查 恢复数据
按 Ctrl+Enter 直接提交
表情 [更多]
Powered by PHPWind v6.3.2 Code © 2003-08 PHPWind
This is html template view this page faster