spacy训练模型和更新

如何训练

• 初始化模型权重使其变成随机值：调用nlp.begin_training方法；
• 查看当前权重的表现：调用nlp.update方法
• 比较预测结果和真实的标签；
• 计算如何调整权重来改善预测结果；
• 微调模型权重；
• 重复上述步骤；
  循环训练：

for i in range(10):
	random.shuffle(TRAINING_DATA)
	for batch in spacy.util.minibatch(TRAINING_DATA):
	texts = [text for text, annoation in batch]
	annotations = [annotation for text, annotation in batch]
	nlp.update(texts, annotations)
nlp.to_disk(path_to_model)

训练一个新的模型：

nlp = spacy.blank("zh")
ner = nlp.create_pipe("ner")
nlp.add_pipe(ner)
ner.add_label("GADGET")
nlp.begin_training()
for itn in range(10):
	random.shuffle(examples)
	for batch in spacy.util.minibatch(examples, size=2):
		texts = [text for text, annoation in batch]
		annotations = [annotation for text, annotation in batch]
		nlp.update(texts, annotations)

模型训练会出现的问题：

• 将之前的正确预测结果混合进来

TRAINING_DATA = [
("...", {"entities": [(0,1, "WEBSITE")]}),
("...", {"entities": [(0,1, "PERSON")]})
]

• 模型不能学会所有的东西
  选择那些能从本地语境中反映出类别的类型；
  更通用的标签要好过更特定的标签；
  可以用规则将通用标签转换为特定种类；

LABELS = ["CLOTHING", "BAND"]

手动标注工具：

• Brat
• Prodigy