理解并使用基于n-gram重叠的示例选择器

在AI及自然语言处理任务中，选择与输入最相似的示例可以显著提升生成的质量和上下文相关性。本文将介绍如何使用NGramOverlapExampleSelector工具，通过n-gram重叠来筛选和排序示例，从而帮助实现这一目标。

技术背景介绍

n-gram 重叠技术通过比较输入文本与示例文本在字符或词组上的相似度，计算一个介于0到1之间的分数来表示相似度。这个分数越高，表示文本间的重叠越大。NGramOverlapExampleSelector是一个基于这种相似性原则的工具，它允许使用者设置一个阈值来排除那些分数不够高的示例。

核心原理解析

NGramOverlapExampleSelector提供以下几种阈值的设置：

• 负阈值(-1.0, 默认值)：不排除任何示例，仅按重叠分数排序。
• 阈值0.0：排除那些没有任何重叠的示例。
• 大于1.0的阈值：排除所有示例，返回空列表。

通过调整这些参数，我们可以灵活地控制示例的使用和质量。

代码实现演示

以下是如何使用NGramOverlapExampleSelector进行示例选择的完整代码演示：

from langchain_community.example_selectors import NGramOverlapExampleSelector
from langchain_core.prompts import FewShotPromptTemplate, PromptTemplate

example_prompt = PromptTemplate(
    input_variables=["input", "output"],
    template="Input: {input}\nOutput: {output}",
)

# 示例：这个例子模拟了一个翻译任务
examples = [
    {"input": "See Spot run.", "output": "Ver correr a Spot."},
    {"input": "My dog barks.", "output": "Mi perro ladra."},
    {"input": "Spot can run.", "output": "Spot puede correr."},
]

example_selector = NGramOverlapExampleSelector(
    examples=examples,
    example_prompt=example_prompt,
    threshold=-1.0,  # 默认值，不排除任何示例
)

dynamic_prompt = FewShotPromptTemplate(
    example_selector=example_selector,
    example_prompt=example_prompt,
    prefix="Give the Spanish translation of every input",
    suffix="Input: {sentence}\nOutput:",
    input_variables=["sentence"],
)

# 生成动态提示，示例的筛选基于给定输入
print(dynamic_prompt.format(sentence="Spot can run fast."))

# 增加新的示例
new_example = {"input": "Spot plays fetch.", "output": "Spot juega a buscar."}
example_selector.add_example(new_example)
print(dynamic_prompt.format(sentence="Spot can run fast."))

# 设置阈值以排除没有重叠的示例
example_selector.threshold = 0.0
print(dynamic_prompt.format(sentence="Spot can run fast."))

# 设置一个小于1的非零阈值
example_selector.threshold = 0.09
print(dynamic_prompt.format(sentence="Spot can play fetch."))

# 设置大于1.0的阈值完全排除所有示例
example_selector.threshold = 1.0 + 1e-9
print(dynamic_prompt.format(sentence="Spot can play fetch."))

应用场景分析

这种选择机制尤其适合以下场景：

• 机器翻译：通过选择与输入最相似的示例，提高翻译准确性。
• 文本生成：在生成式模型中，提供上下文相关的示例提高生成效果。
• 教育和辅导系统：根据用户输入选择类似案例进行解答。

实践建议

1. 调整阈值：根据具体任务的要求，不断调整阈值以达到最佳效果。
2. 扩充示例库：增加多样性的示例以提高n-gram选择的有效性。
3. 监控效果：定期评估选择结果对生成质量的影响，确保选择机制的可靠性。

如果遇到问题欢迎在评论区交流。

—END—