当前位置: 首页 > news >正文

工作纪实38-ES分页数据问题

之前分页查询有接ES,随着系统使用时间数据量不断增加,会有如下报错。关键信息就是 Result window is too large, from + size must be less than or equal to: [10000] but was [100001]
当索引非常非常大(千万或亿),是无法按照from + size做深分页的,因为分页越深则越容易OOM,即便不OOM,也是很消耗CPU和内存资源的。官方在后2.x版本中已增加限定 index.max_result_window:10000作为保护措施,即默认 from + size 不能超过1万。(from表示从第几行开始,size表示查询多少条数据,from默认为0,size默认为10)

解决方案:

方案一、接口层面限制查询到10000条,业务端给提示让使用方继续筛选数据

Integer queryTotal = pageQuery.getPageIndex() * pageQuery.getPageSize();
if (queryTotal > 10000) {throw new BusinessException(String.format("只能查询前[%s]条数据, 建议缩小查询范围", 10000));
}

方案二、使用其他的深分页策略:scroll 或者scroll after【缺点是不能随意上下翻页,根据场景选择】

方案三:创建索引时设置【不推荐】

"settings":{"index":{"max_result_window":1000000} 
}
http://www.lryc.cn/news/165169.html

相关文章:

  • 设计模式之访问器模式(Visitor)的C++实现
  • Python之OS模块
  • vue 使用canvas 详细教程
  • Git 基本操作【本地仓库与远程仓库的推送、克隆和拉取】
  • FPGA开发
  • js手撕代码
  • typecho反序列化
  • php程序设计的基本原则
  • python execute() 使用%s 拼接sql 避免sql注入攻击 好于.format
  • RPC项目解析(1)
  • 点云从入门到精通技术详解100篇-基于 RGB 图像与点云融合的三维点云分割算法及成像系统
  • JDK8新特性
  • X86_64函数调用汇编程序分(2)
  • 组件传值之ref(解决父传子动态绑定问题)
  • vscode-server
  • ubuntu 20.04安装开发环境总结_安装python
  • 尚硅谷_宋红康_IntelliJ IDEA 常用快捷键一览表
  • Java设计模式之建造者模式详解(Builder Pattern)
  • TCP的滑动窗口与拥塞控制
  • MySQL更新语句执行过程
  • Matlab图像处理-彩色图像基础
  • MATLAB算法实战应用案例精讲-【数模应用】数据中台
  • el-form动态检验无法生效问题(已解决)
  • 【python】代码学习过程问题总结
  • Qt应用开发(基础篇)——菜单 QMenu
  • MySQL-DDL语句
  • 总结987
  • 【服务器 | 测试】如何在centos 7上面安装jmeter
  • 20.04部署cartographer
  • djangoMTV初探