RAG主要解决三个问题,第一个是LLM训练数据有期限,不能实时进行解答;第二个是私有知识覆盖,LLM无法对其进行解析,第三个是LLM出现幻觉,对于一个错误的答案,AI可能给出一个看似正确实则错误的说法,添加知识库可有效解决这个问题。

这里说明一个LLM微调和RAG检索库的区别

两者本质都是解决大模型知识不全的问题,LLM微调是把模型进行训练的结果,RAG是去检索库查找库然后放入prompt的结果,两者主要区别在于成本与溯源,LLM微调需要大量GPU、时间、金钱成本,且训练过程看不到,使用者只能通过询问的方式了解到该模型是否学习到了某个知识,而RAG则是在检索库中预先放好,通过相似度匹配的方式查找问题答案,成本较低,且每个chunk可溯源,但是依赖于RAG库的质量,并且对复杂推理有限需要微调模型。