当前位置: 首页 > news >正文

Naive RAG 、Advanced RAG 和 Modular RAG 简介

简介:

RAG(Retrieval-Augmented Generation)系统是一种结合了检索(Retrieval)和生成(Generation)的机制,用于提高大型语言模型(LLMs)在特定任务上的表现。随着技术的发展,RAG系统经历了几个阶段的演变,包括Naive RAG、Advanced RAG和Modular RAG。

流程图

在这里插入图片描述

Naive RAG:

Naive RAG是RAG系统的初级阶段,它通常涉及一个简单的“检索-阅读”过程。
在这个范式中,系统首先根据用户的问题检索相关信息,然后使用检索到的信息生成答案。
Naive RAG面临的挑战包括检索的相关性、生成的连贯性以及如何有效利用检索到的信息等问题。

Advanced RAG:

Advanced RAG是在Naive RAG的基础上进行的改进,它通过更精细化的数据处理来提高检索生成的质量。
这种范式可能会引入预检索和检索后的处理,如优化数据索引使用滑动窗口细粒度分割元数据等方法。
Advanced RAG还可能包括多次j检索或迭代检索,以及对检索到的文档进行重排序(reranking)来提高生成文本的相关性和准确性。

Modular RAG:

Modular RAG代表了RAG系统的更高级阶段,它通过引入新的模块来丰富RAG过程,并提供更多的灵活性。
这种范式允许模块的替换或重新配置,可以根据特定问题上下文动态地组织RAG过程。
Modular RAG结合了微调等其他技术,并且可能包括自适应检索多答案融合和主动学习等高级功能。

区别:

Naive RAG是最基本的RAG实现,它通常只涉及简单的检索和生成步骤,没有太多复杂的优化。
Advanced RAG在Naive RAG的基础上增加了更多的策略和优化,如索引优化、迭代检索和检索后处理,以提高系统的性能。
Modular RAG则进一步发展,提供了更高的灵活性和可定制性,允许通过引入不同的模块和调整模块间的流程来适应各种复杂的任务和需求。

工作流程:

  • 输入: LLM系统响应的问题称为输入。如果没有使用RAG,则直接使用LLM来回答问题。
  • 索引:如果使用 RAG,则首先对一系列相关文档进行分块,生成块的嵌入,然后将它们索引到向量存储中,从而对它们进行索引。在推理时,查询也以类似的方式嵌入。
  • 检索:通过将查询与索引向量进行比较来获得相关文档,也表示为“相关文档”。
  • 生成:相关文档与原始提示相结合作为附加上下文。然后将组合的文本和提示传递到模型以生成响应,然后将其准备为系统向用户的最终输出。

经典的流程图
在这里插入图片描述

以上是文本的全部内容感谢阅读。

http://www.lryc.cn/news/348945.html

相关文章:

  • Python高级编程-DJango2
  • bash脚本 报错:/bin/bash^M:解释器错误: 没有那个文件或目录
  • win10专业版远程桌面连接不上,win10专业版远程桌面连接不上常见原因与解决方法
  • 前端 日期 new Date 少0 转换成 yyyy-MM-dd js vue
  • Linux中的磁盘分析工具ncdu
  • Angular入门
  • Java进阶11 IO流、功能流
  • windows 安装 Conda
  • IPsec VPN简介
  • 探索 Canva 的功能以及如何有效使用 Canva
  • python中匿名函数简单样例
  • 【SpringBoot】 什么是springboot(二)?springboot操作mybatisPlus、swagger、thymeleaf模板
  • 【JavaWeb】前后端分离SpringBoot项目快速排错指南
  • Go语言高级特性
  • 边缘计算安全有多重要
  • Uniapp开发入门:构建跨平台应用的全面指南
  • 初级银行从业资格证知识点(十)
  • 设计模式-13 - Prototype Design Pattern 原型设计模式
  • 05. 【Java教程】第一个 Java 程序
  • 网易灵犀办公企业邮箱的IMAP和POP3服务器地址
  • 吴恩达深度学习笔记:优化算法 (Optimization algorithms)2.3-2.5
  • 【正版系统】海外短剧系统功能介绍,前端uniapp+开源。
  • 位图(c++)
  • 音源分离 | Hybrid Spectrogram and Waveform Source Separation
  • 动态el-form表单以及动态禁用
  • 【Web后端】web后端开发简介_Servlet简介
  • Taylor Francis科技期刊数据库文献去哪里获取
  • C#学习笔记12:Winform网页操作-CefSharp内嵌浏览器
  • NSSCTF | [SWPUCTF 2021 新生赛]babyrce
  • 环保不只是口号,绿葆自助取袋机助力1000多家医院环保行动!