ElasticSearch学习之(二)--中文分词器

迈不过友情╰ 2021-11-09 15:08 376阅读 0赞

### 一、什么是中文分词器 ###

学过英文的都知道，英文是以单词为单位的，单词与单词之间以空格或者逗号句号隔开。而中文则以字为单位，字又组成词，字和词再组成句子。所以对于英文，我们可以简单以空格判断某个字符串是否为一个单词，比如I love China，love 和 China很容易被程序区分开来；但中文“我爱中国”就不一样了，电脑不知道“中国”是一个词语还是“爱中”是一个词语。把中文的句子切分成有意义的词，就是中文分词，也称切词。我爱中国，分词的结果是：我  |  爱  |  中国。

### 二、中文分词器原理 ###

**1.原理      **

中文分词，即 Chinese Word Segmentation，即将一个汉字序列进行切分，得到一个个单独的词。表面上看，分词其实就是那么回事，但分词效果好不好对信息检索、实验结果还是有很大影响的，同时分词的背后其实是涉及各种各样的算法的。

中文分词与英文分词有很大的不同，对英文而言，一个单词就是一个词，而汉语是以字为基本的书写单位，词语之间没有明显的区分标记，需要人为切分。根据其特点，可以把分词算法分为四大类：

*  基于规则的分词方法
 *  基于统计的分词方法
 *  基于语义的分词方法
 *  基于理解的分词方法

**2.分词算法分类**

**基于规则的分词方法**

这种方法又叫作机械分词方法、基于字典的分词方法，它是按照一定的策略将待分析的汉字串与一个“充分大的”机器词典中的词条进行匹配。若在词典中找到某个字符串，则匹配成功。该方法有三个要素，即分词词典、文本扫描顺序和匹配原则。文本的扫描顺序有正向扫描、逆向扫描和双向扫描。匹配原则主要有最大匹配、最小匹配、逐词匹配和最佳匹配。

*  最大匹配法（MM）。基本思想是：假设自动分词词典中的最长词条所含汉字的个数为 i，则取被处理材料当前字符串序列中的前 i 个字符作为匹配字段，查找分词词典，若词典中有这样一个 i 字词，则匹配成功，匹配字段作为一个词被切分出来；若词典中找不到这样的一个 i 字词，则匹配失败，匹配字段去掉最后一个汉字，剩下的字符作为新的匹配字段，再进行匹配，如此进行下去，直到匹配成功为止。统计结果表明，该方法的错误率 为 1/169。
 *  逆向最大匹配法（RMM）。该方法的分词过程与 MM 法相同，不同的是从句子（或文章）末尾开始处理，每次匹配不成功时去掉的是前面的一个汉字。统计结果表明，该方法的错误率为 1/245。
 *  逐词遍历法。把词典中的词按照由长到短递减的顺序逐字搜索整个待处理的材料，一直到把全部的词切分出来为止。不论分词词典多大，被处理的材料多么小，都得把这个分词词典匹配一遍。
 *  设立切分标志法。切分标志有自然和非自然之分。自然切分标志是指文章中出现的非文字符号，如标点符号等；非自然标志是利用词缀和不构成词的词（包 括单音词、复音节词以及象声词等）。设立切分标志法首先收集众多的切分标志，分词时先找出切分标志，把句子切分为一些较短的字段，再用 MM、RMM 或其它的方法进行细加工。这种方法并非真正意义上的分词方法，只是自动分词的一种前处理方式而已，它要额外消耗时间扫描切分标志，增加存储空间存放那些非 自然切分标志。
 *  最佳匹配法（OM）。此法分为正向的最佳匹配法和逆向的最佳匹配法，其出发点是：在词典中按词频的大小顺序排列词条，以求缩短对分词词典的检索时 间，达到最佳效果，从而降低分词的时间复杂度，加快分词速度。实质上，这种方法也不是一种纯粹意义上的分词方法，它只是一种对分词词典的组织方式。OM 法的分词词典每条词的前面必须有指明长度的数据项，所以其空间复杂度有所增加，对提高分词精度没有影响，分词处理的时间复杂度有所降低。

此种方法优点是简单，易于实现。但缺点有很多：匹配速度慢；存在交集型和组合型歧义切分问题；词本身没有一个标准的定义，没有统一标准的词集；不同词典产生的歧义也不同；缺乏自学习的智能性。

**基于统计的分词方法**

该方法的主要思想：词是稳定的组合，因此在上下文中，相邻的字同时出现的次数越多，就越有可能构成一个词。因此字与字相邻出现的概率或频率能较好地反映成词的可信度。可以对训练文本中相邻出现的各个字的组合的频度进行统计，计算它们之间的互现信息。互现信息体现了汉字之间结合关系的紧密程度。当紧密程 度高于某一个阈值时，便可以认为此字组可能构成了一个词。该方法又称为无字典分词。

该方法所应用的主要的统计模型有：N 元文法模型（N-gram）、隐马尔可夫模型（Hiden Markov Model，HMM）、最大熵模型（ME）、条件随机场模型（Conditional Random Fields，CRF）等。

在实际应用中此类分词算法一般是将其与基于词典的分词方法结合起来，既发挥匹配分词切分速度快、效率高的特点，又利用了无词典分词结合上下文识别生词、自动消除歧义的优点。

**基于语义的分词方法**

语义分词法引入了语义分析，对自然语言自身的语言信息进行更多的处理，如扩充转移网络法、知识分词语义分析法、邻接约束法、综合匹配法、后缀分词法、特征词库法、矩阵约束法、语法分析法等。

*  扩充转移网络法。该方法以有限状态机概念为基础。有限状态机只能识别正则语言，对有限状态机作的第一次扩充使其具有递归能力，形成递归转移网络 （RTN）。在RTN 中，弧线上的标志不仅可以是终极符（语言中的单词）或非终极符（词类），还可以调用另外的子网络名字分非终极符（如字或字串的成词条件）。这样，计算机在 运行某个子网络时，就可以调用另外的子网络，还可以递归调用。词法扩充转移网络的使用， 使分词处理和语言理解的句法处理阶段交互成为可能，并且有效地解决了汉语分词的歧义。
 *  矩阵约束法。其基本思想是：先建立一个语法约束矩阵和一个语义约束矩阵， 其中元素分别表明具有某词性的词和具有另一词性的词相邻是否符合语法规则， 属于某语义类的词和属于另一词义类的词相邻是否符合逻辑，机器在切分时以之约束分词结果。

**基于理解的分词方法**

基于理解的分词方法是通过让计算机模拟人对句子的理解，达到识别词的效果。其基本思想就是在分词的同时进行句法、语义分析，利用句法信息和语义信息来处理歧义现象。它通常包括三个部分：分词子系统、句法语义子系统、总控部分。在总控部分的协调下，分词子系统可以获得有关词、句子等的句法和语义信息来对分词歧义进行判断，即它模拟了人对句子的理解过程。这种分词方法需要使用大量的语言知识和信息。目前基于理解的分词方法主要有专家系统分词法和神经网络分词法等。

*  专家系统分词法。从专家系统角度把分词的知识（包括常识性分词知识与消除歧义切分的启发性知识即歧义切分规则）从实现分词过程的推理机中独立出来，使知识库的维护与推理机的实现互不干扰，从而使知识库易于维护和管理。它还具有发现交集歧义字段和多义组合歧义字段的能力和一定的自学习功能。
 *  神经网络分词法。该方法是模拟人脑并行，分布处理和建立数值计算模型工作的。它将分词知识所分散隐式的方法存入神经网络内部，通过自学习和训练修改内部权值，以达到正确的分词结果，最后给出神经网络自动分词结果，如使用 LSTM、GRU 等神经网络模型等。
 *  神经网络专家系统集成式分词法。该方法首先启动神经网络进行分词，当神经网络对新出现的词不能给出准确切分时，激活专家系统进行分析判断，依据知识库进行推理，得出初步分析，并启动学习机制对神经网络进行训练。该方法可以较充分发挥神经网络与专家系统二者优势，进一步提高分词效率。

### 三、常用中文分词器工具 ###

### 1. jieba ###

支持三种分词模式：

*  精确模式，试图将句子最精确地切开，适合文本分析。
 *  全模式，将句子中所有的可能成词的词语都扫描出来，速度非常快，但是不能解决歧义。
 *  搜索引擎模式：在精确模式的基础上，对长词再次切分，提高召回率，适用于搜索引擎分词。

另外 jieba 支持繁体分词，支持自定义词典。 其使用的算法是基于统计的分词方法，主要有如下几种：

*  基于前缀词典实现高效的词图扫描，生成句子中汉字所有可能成词情况所构成的有向无环图 (DAG)
 *  采用了动态规划查找最大概率路径, 找出基于词频的最大切分组合
 *  对于未登录词，采用了基于汉字成词能力的 HMM 模型，使用了 Viterbi 算法

精确模式分词

首先我们来看下精确模式分词，使用 lcut() 方法，类似 cut() 方法，其参数和 cut() 是一致的，只不过返回结果是列表而不是生成器，默认使用精确模式，代码如下：

<table> 
 <tbody> 
  <tr> 
   <td> <p>1</p> <p>2</p> <p>3</p> <p>4</p> </td> 
   <td> <p>import&nbsp;jieba</p> <p>string&nbsp;=&nbsp;'这个把手该换了，我不喜欢日本和服，别把手放在我的肩膀上，工信处女干事每月经过下属科室都要亲口交代24口交换机等技术性器件的安装工作'</p> <p>result&nbsp;=&nbsp;jieba.lcut(string)</p> <p>print(len(result),&nbsp;'/'.join(result))</p> </td> 
  </tr> 
 </tbody> 
</table>

结果：

全模式分词

使用全模式分词需要添加 cut\_all 参数，将其设置为 True，代码如下：

<table> 
 <tbody> 
  <tr> 
   <td> <p>1</p> <p>2</p> </td> 
   <td> <p>result&nbsp;=&nbsp;jieba.lcut(string,&nbsp;cut_all=True)</p> <p>print(len(result),&nbsp;'/'.join(result))</p> </td> 
  </tr> 
 </tbody> 
</table>

结果如下：

搜索引擎模式分词

使用搜索引擎模式分词需要调用 cut\_for\_search() 方法，代码如下：

<table> 
 <tbody> 
  <tr> 
   <td> <p>1</p> <p>2</p> </td> 
   <td> <p>result&nbsp;=&nbsp;jieba.lcut_for_search(string)</p> <p>print(len(result),&nbsp;'/'.join(result))</p> </td> 
  </tr> 
 </tbody> 
</table>

结果如下：

另外可以加入自定义词典，如我们想把 日本和服 作为一个整体，可以把它添加到词典中，代码如下：

<table> 
 <tbody> 
  <tr> 
   <td> <p>1</p> <p>2</p> <p>3</p> </td> 
   <td> <p>jieba.add_word('日本和服')</p> <p>result&nbsp;=&nbsp;jieba.lcut(string)</p> <p>print(len(result),&nbsp;'/'.join(result))</p> </td> 
  </tr> 
 </tbody> 
</table>

结果如下：

可以看到切分结果中，日本和服 四个字就作为一个整体出现在结果中了，分词数量比精确模式少了一个。

词性标注

另外 jieba 还支持词性标注，可以输出分词后每个词的词性，实例如下：

<table> 
 <tbody> 
  <tr> 
   <td> <p>1</p> <p>2</p> </td> 
   <td> <p>words&nbsp;=&nbsp;pseg.lcut(string)</p> <p>print(list(map(lambda&nbsp;x:&nbsp;list(x),&nbsp;words)))</p> </td> 
  </tr> 
 </tbody> 
</table>

运行结果：

关于词性的说明可以参考：[https://gist.github.com/luw2007/6016931][https_gist.github.com_luw2007_6016931]。

**2.Ansj分词**

这是一个基于n-Gram+条件随机场模型的中文分词的java实现。分词速度达到每秒钟大约200万字左右（mac air下测试），准确率能达到96%以上，目前实现了.中文分词. 中文姓名识别 . 用户自定义词典，可以应用到自然语言处理等方面,适用于对分词效果要求高的各种项目。

**四种分词模式**

基本分词

> 基本就是保证了最基本的分词.词语颗粒度最非常小的.所涉及到的词大约是10万左右.
> 
> 基本分词速度非常快.在macAir上.能到每秒300w字每秒.同时准确率也很高.但是对于新词他的功能十分有限

基本分词具有什么功能

<table> 
 <thead> 
  <tr> 
   <th>用户自定义词典</th> 
   <th>数字识别</th> 
   <th>人名识别</th> 
   <th>机构名识别</th> 
   <th>新词发现</th> 
  </tr> 
 </thead> 
 <tbody> 
  <tr> 
   <td>&amp;Chi;</td> 
   <td>&amp;radic;</td> 
   <td>&amp;Chi;</td> 
   <td>&amp;Chi;</td> 
   <td>&amp;Chi;</td> 
  </tr> 
 </tbody> 
</table>

精准分词

精准分词是Ansj分词的推荐款，它在易用性,稳定性.准确性.以及分词效率上.都取得了一个不错的平衡。如果你初次赏识Ansj如果你想开箱即用.那么就用这个分词方式是不会错的。

精准分词具有什么功能

<table> 
 <thead> 
  <tr> 
   <th>用户自定义词典</th> 
   <th>数字识别</th> 
   <th>人名识别</th> 
   <th>机构名识别</th> 
   <th>新词发现</th> 
  </tr> 
 </thead> 
 <tbody> 
  <tr> 
   <td>&amp;radic;</td> 
   <td>&amp;radic;</td> 
   <td>&amp;radic;</td> 
   <td>&amp;Chi;</td> 
   <td>&amp;Chi;</td> 
  </tr> 
 </tbody> 
</table>

NLP分词

nlp分词是总能给你惊喜的一种分词方式，它可以识别出未登录词.但是它也有它的缺点.速度比较慢.稳定性差.ps:我这里说的慢仅仅是和自己的其他方式比较.应该是40w字每秒的速度吧。个人觉得nlp的适用方式.1.语法实体名抽取.未登录词整理.只要是对文本进行发现分析等工作。

NLP分词具有什么功能

<table> 
 <thead> 
  <tr> 
   <th>用户自定义词典</th> 
   <th>数字识别</th> 
   <th>人名识别</th> 
   <th>机构名识别</th> 
   <th>新词发现</th> 
  </tr> 
 </thead> 
 <tbody> 
  <tr> 
   <td>&amp;radic;</td> 
   <td>&amp;radic;</td> 
   <td>&amp;radic;</td> 
   <td>&amp;radic;</td> 
   <td>&amp;radic;</td> 
  </tr> 
 </tbody> 
</table>

面向索引的分词

> 面向索引的分词。故名思议就是适合在lucene等文本检索中用到的分词。 主要考虑以下两点
> 
>  *  召回率
>     
>      *  召回率是对分词结果尽可能的涵盖。比如对“上海虹桥机场南路” 召回结果是\[上海/ns, 上海虹桥机场/nt, 虹桥/ns, 虹桥机场/nz, 机场/n, 南路/nr\]
>      *  准确率
>         
>          *  其实这和召回本身是具有一定矛盾性的Ansj的强大之处是很巧妙的避开了这两个的冲突 。比如我们常见的歧义句“旅游和服务”->对于一般保证召回 。大家会给出的结果是“旅游 和服 服务” 对于ansj不存在跨term的分词。意思就是。召回的词只是针对精准分词之后的结果的一个细分。比较好的解决了这个问题

分词具有什么功能

词性标注

Ansj词性标注是基于HMM的。主要利用了ngram的方式，相对而言作的还是比较粗。分词实现步骤，Ansj分词可以说是一个ictclas的[Java][]版本，基本原理一致，只不过在分词优化算法上做了一些改进。

实现分词有以下几个步骤：

1.  全切分，原子切分；
2.  N最短路径的粗切分，根据隐马尔科夫模型和viterbi算法，达到最优路径的规划；
3.  人名识别；
4.  [系统][Link 1]词典补充；
5.  用户自定义词典的补充；
6.  词性标注（可选）

**3.IK分词**

从2006年12月推出1.0版开始，IKAnalyzer已经推出 了3个大版本。最初，它是以开源项目***[Lucene][]***为应用主体的，结合词典分词和[文法][Link 2]分析算法的[中文分词][Link 3]组件。新版本的IKAnalyzer3.0则发展为 面向[Java][Java 1]的公用分词组件，独立于Lucene项目，同时提供了对Lucene的默认优化实现。

**相关特性**

1.采用了特有的“正向[迭代][Link 4]最[细粒度][Link 5]切分算法“，具有60万字/秒的高速处理能力。

2.采用了多子处理器分析模式，支持：[英文字母][Link 6]（IP地址、Email、URL）、数字（日期，常用中文[数量词][Link 7]，[罗马数字][Link 8]，[科学计数法][Link 9]），中文词汇（姓名、地名处理）等分词处理。

3.对中英联合支持不是很好,在这方面的处理比较麻烦.需再做一次查询,同时是支持个人词条的优化的词典存储，更小的内存占用。

4.支持用户词典扩展定义。

针对[Lucene][]全文检索优化的[查询分析器][Link 10]IKQueryParser；采用歧义分析算法优化查询[关键字][Link 11]的搜索排列组合，能极大的提高Lucene检索的命中率。

以上是学习ES过程对于中文分词器的认知和总结，后面继续记录更新欢迎大家关注！！！

**如有披露或问题欢迎留言或者入群探讨**

![watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3FxXzM5NDcwNzMz_size_16_color_FFFFFF_t_70][]

[https_gist.github.com_luw2007_6016931]: https://gist.github.com/luw2007/6016931
[Java]: https://m.2cto.com/kf/ware/Java/
[Link 1]: https://m.2cto.com/os/
[Lucene]: https://baike.baidu.com/item/Lucene/6753302
[Link 2]: https://baike.baidu.com/item/%E6%96%87%E6%B3%95/8974691
[Link 3]: https://baike.baidu.com/item/%E4%B8%AD%E6%96%87%E5%88%86%E8%AF%8D/371496
[Java 1]: https://baike.baidu.com/item/Java/85979
[Link 4]: https://baike.baidu.com/item/%E8%BF%AD%E4%BB%A3/8415523
[Link 5]: https://baike.baidu.com/item/%E7%BB%86%E7%B2%92%E5%BA%A6/2061662
[Link 6]: https://baike.baidu.com/item/%E8%8B%B1%E6%96%87%E5%AD%97%E6%AF%8D/6779426
[Link 7]: https://baike.baidu.com/item/%E6%95%B0%E9%87%8F%E8%AF%8D/417402
[Link 8]: https://baike.baidu.com/item/%E7%BD%97%E9%A9%AC%E6%95%B0%E5%AD%97/772296
[Link 9]: https://baike.baidu.com/item/%E7%A7%91%E5%AD%A6%E8%AE%A1%E6%95%B0%E6%B3%95/756685
[Link 10]: https://baike.baidu.com/item/%E6%9F%A5%E8%AF%A2%E5%88%86%E6%9E%90%E5%99%A8/5837347
[Link 11]: https://baike.baidu.com/item/%E5%85%B3%E9%94%AE%E5%AD%97
[watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3FxXzM5NDcwNzMz_size_16_color_FFFFFF_t_70]: /images/20211109/244c8047c4d0462ca305021ea4da56f0.png