在上一篇文章 以Llama-2为例,在生成模型中使用自定义StoppingCriteria中,介绍了怎样在生成的过程中,使用stopping criteria
来控制生成过程的结束,本文将继续这一话题,结合具体的场景,介绍如何实现自定义的logits processor
,并以此来控制生成的过程。
场景延续上篇介绍stopping criteria的文章,假如我们希望使用Llama-2模型,来生成一篇新闻的概要,希望它能够生成一句简短的话,来描述这篇新闻中主要发生了什么。
在上一篇文章中,我们成功的使用stopping criteria解决了模型废话太多的问题,然而,在某些情况下,模型输出的结果并不是我们想要的,它没有用一句话概括,反而是一条一条列举了其中的主要信息,类似:
1. ......
2. ......
3. ......
针对这种情况,我们可以强制要求生成的第一个token,不可以是数字,这样的话,就只能从字母中选择合适的单词生成,也就达到我们的目的了。为了实现这一策略,就需要用到logits processor。
logits processor
是在生成的过程中,每一个step的score计算完成之后,对score进行进一步的加工,改变模型输出的概率分布,从而影响后续生成的结果。
transformers模块中提供了若干内置的processor可以直接调用,具体的整理和简介可以参考之前的文章以beam search为例,详解transformers中generate方法(上)。
现在我们需要设计这样一个processor,判断如果是第一个生成的第一个token,则禁止它生成数字,也就是把所有数字对应的得分强制设置为负无穷。
首先,引入需要用到的类,与stopping criteria类似的,也是有要给基础类,和一个容器类:
from transformers.generation.logits_process import LogitsProcessor, LogitsProcessorList
然后继承基础类,实现我们所需的processor:
class SuppressSpecificBOSTokenLogitsProcessor(LogitsProcessor):
"""
防止生成的第一个token是某些特定的token
---------------
ver: 2023-08-02
by: changhongyu
"""
def __init__(self, bad_bos_token_id_list: List[int] = None):
"""
:param bad_bos_token_id_list: 不可以作为第一个token的token的id列表
"""
self.bad_bos_token_id_list = bad_bos_token_id_list
def __call__(self, input_ids: torch.LongTensor, scores: torch.FloatTensor) -> torch.FloatTensor:
new_token_len = input_ids.shape[-1] - current_token_len
if new_token_len == 0:
for id_ in self.bad_bos_token_id_list:
scores[:, id_] = -float('inf')
return scores
logits processor的使用方法与stopping criteria是一样的,我们设计好自己的processor类之后,实例化一个容器,再将实例化的processor放到这个容器中就好了:
NUMBER_ID_LIST = []
for i in range(10):
NUMBER_ID_LIST.append(tokenizer.convert_tokens_to_ids(str(i)))
logits_processor = LogitsProcessorList()
logits_processor.append(SuppressSpecificBOSTokenLogitsProcessor(NUMBER_ID_LIST))
如果有多个processor的话,可能需要注意一下放入容器的顺序。
最后在生成的时候,将它作为参数传给generate方法就好了。
例如,原本生成的代码是:
outputs = model.generate(**inputs)
使用processor的话,可以写作:
outputs = model.generate(logits_processor=logits_processor, **inputs)
注意在实现的时候有一个小细节,由于是对话模型,输入的除了当前的query之外,还包括历史的对话记录,二者拼接在一起才是完整的prompt(prompt构建参考这一篇),所以我们并不能仅仅根据当前输入input_ids
的长度,来判断当前step是不是这一轮生成的第一个token,这就是为什么上面的代码中有一个为声明定义的变量current_token_len
。
对于这个current_token_len
,只需要在model.generate执行之前,对他global一下就可以了。
例如像这个样子,每次生成之前先计算一下截至生成之前的长度:
global current_token_len
current_token_len = inputs['input_ids'].shape[1]
outputs = model.generate(logits_processor=logits_processor, **inputs)
作为用户控制生成过程的主要手段,如何巧妙地利用好logits processor对使用生成式模型来说非常重要。在实际情况中,需要针对场景,发现其中地规律,然后又针对性地去设计一个processor。它主要解决的问题,是一些有规律可循的场景,从一定意义上理解,可以认为是对生成模型的解空间进行了限制和变换。在解决问题的风格上给人的感觉,有点像抽取式模型所做的风格了,比如对于一个关键词生成任务,如果我们不希望模型生成文章中没有出现过的token,那完全可以利用本文中类似的方法,把生成结果限定为文中出现过的token。
以上就是本文的全部内容,如果对你有所帮助或启发,记得留下一个免费的赞,我们下期再见。