当前位置: 首页 > news >正文

大模型RAG性能提升路径

大模型相关目录

大模型,包括部署微调prompt/Agent应用开发、知识库增强、数据库增强、知识图谱增强、自然语言处理、多模态等大模型应用开发内容
从0起步,扬帆起航。

  1. 大模型应用向开发路径:AI代理工作流
  2. 大模型应用开发实用开源项目汇总
  3. 大模型问答项目问答性能评估方法
  4. 大模型数据侧总结
  5. 大模型token等基本概念及参数和内存的关系
  6. 大模型应用开发-华为大模型生态规划
  7. 从零开始的LLaMA-Factory的指令增量微调
  8. 基于实体抽取-SMC-语义向量的大模型能力评估通用算法(附代码)
  9. 基于Langchain-chatchat的向量库构建及检索(附代码)
  10. 一文教你成为合格的Prompt工程师
  11. 最简明的大模型agent教程
  12. 批量使用API调用langchain-chatchat知识库能力
  13. langchin-chatchat部分开发笔记(持续更新)
  14. 文心一言、讯飞星火、GPT、通义千问等线上API调用示例
  15. 大模型RAG性能提升路径

文章目录

  • 大模型相关目录
  • RAG性能提升方案——探索
    • 1. 模型侧性能提升
    • 2.数据侧性能提升
    • 3.系统侧性能提升
    • 4.向量库检索效果提升:


RAG性能提升方案——探索

1. 模型侧性能提升

对相同的检索结果和输入作为拼接测试模型能力
确定性能差距后更换模型、微调模型

2.数据侧性能提升

新增外部信息、提示、工具
需应用思维链(CoT)、agent

3.系统侧性能提升

设计反思+多轮校验的问答机制优化问答能力

4.向量库检索效果提升:

  1. 文档的切分,如何更好的切分文档?对长文档如何更好的处理进行内容提炼
  2. 向量化方法,如何更好的向量化数据?
  3. 相似度阈值的设定,阈值设定低了,可能获取的本地知识库的内容都是和问题不相关的根据默认Prompt的设定会一直得不到结果
  4. 是否应用摘要、多维query等处理策略?
http://www.lryc.cn/news/328023.html

相关文章:

  • 机器视觉学习(九)—— 边缘检测
  • 基于单片机声音分贝采集和显示控制系统设计
  • CentOS使用Docker部署Halo并结合内网穿透实现公网访问本地博客
  • 打造高效自动化渗透测试系统:关键步骤与实践
  • 绿联 部署vocechat,搭建私人聊天服务器,用于小型团队和家庭环境
  • 考研数学|高效刷透汤家凤《1800》经验分享
  • LLM推理入门指南②:深入解析KV缓存
  • 上采样技术在语义分割中的应用
  • linux 组建raid5详细操作
  • 机器学习概念、步骤、分类和实践
  • 钉钉服务端API报错 错误描述: robot 不存在;解决方案:请确认 robotCode 是否正确
  • Linux 开发环境以及编译链接
  • SmartChart的部署以及可能遇见的报错解决方案
  • 【Node.js从基础到高级运用】十九、Node.js 捕获错误之“未捕获的异常”
  • vue 计算属性
  • RedissonLock-tryLock-续期
  • MSTP环路避免实验(华为)
  • IoT网关在智能制造工厂生产线监控与管理中的应用-天拓四方
  • niushop单商户V5多店版源码分享三端uniapp打包方法包括PC端_小程序或h5端打包_收银端打包_APP端打包_商户端
  • npm包发布
  • C#使用SQLite(含加密)保姆级教程
  • C# 异步与 Unity 协程(实例讲解)
  • iOS - Runloop介绍
  • 探究分布式事务:深入ACID特性在分布式系统中的挑战与解决方案
  • PCI总线管脚定义(引脚定义)
  • 万字详解PHP+Sphinx中文亿级数据全文检索实战(实测亿级数据0.1秒搜索耗时)
  • 数据库索引及优化
  • flink: 将接收到的tcp文本流写入HBase
  • SpringBoot集成knife4j
  • Vue3之setup方法