知识任务的解决方案-RAG

接上文，本篇介绍论文提到的LocalGPT system，是以NextDoor社区为数据源和应用场景的。
该系统包括两部分：RAG和fine-tune

一、RAG

大致思想就是 给定一个问题/任务，先检索到数据源中最相关的文档，再用这些文档来生成回答。

优点：
1.为LLM提供动态实时的信息。
2.因为将答案相关的文档聚集起来，所以可以减轻幻觉。

缺点：
1.在一些情况下，可能检索到完全不相关的数据，特别是在有噪声的数据时。
2.针对时间敏感型的问题，LLM可能优先采用自己的过时的数据，这与检索到的最新的数据相冲突。

二、Fine-Tuning

明天再更