keras 中文ner使用，crf 原理以及转移矩阵解读

1. 目标

看下keras解决ner问题是否比较方便，摸摸坑

2. 两个比较好的项目

• keras-bert-ner
  https://github.com/liushaoweihua/keras-bert-ner/
• keras社区提供的一个包
  https://github.com/keras-team/keras-contrib

3. 使用步骤

# 1. 下载:https://github.com/liushaoweihua/keras-bert-ner
git clone https://github.com/liushaoweihua/keras-bert-ner

# 2. 安装keras-contrib
 pip install git+https://www.github.com/keras-team/keras-contrib.git

# 3. 安装一些包
- requirements.txt
flask == 1.1.1
keras == 2.3.1
numpy == 1.18.1
loguru == 0.4.1
requests == 2.22.0
termcolor == 1.1.0
tensorflow == 1.15.2
keras_contrib == 2.0.8

pip install -r requirements.txt


cd keras-bert-ner
sh upload.sh

# 4. 训练和测试
cd examples/train_examples
sh run_train.sh

4. ner理解

CRF条件随机场loss函数与维特比算法理解:https://blog.csdn.net/qq_16949707/article/details/107812643

5. keras bert ner模型解读

• 总览
  

• bert模型
  

• 预测

• 在看下维特比解码
  
  crf的权重矩阵为啥是一个num_tags*num_tags的大小啊，跟文本长度是无关的吗??跟我理解的解码方式还是有些不一样啊。

再看下维特比算法：如何通俗地讲解 viterbi 算法？不要太简单：https://www.zhihu.com/question/20136144

那么实现和解码呢？

Tensorflow 中 crf_decode 和 viterbi_decode 的使用：https://blog.csdn.net/baobao3456810/article/details/83388516

• 这里也提到了转移矩阵
  
• 这里差不多讲明白了
  
  最通俗易懂的BiLSTM-CRF模型中的CRF层介绍:https://zhuanlan.zhihu.com/p/44042528

所以优化crf loss的函数的时候，就是优化这个转移矩阵加上发射分数，然后最后有一个解码的过程，感觉理解又深刻了一步。