当前位置: 首页 > article >正文

Elasticsearch 写入性能优化有哪些常见手段?

Elasticsearch 写入性能优化常见手段主要有以下 10 个方向,建议根据具体业务场景组合使用:

  1. 批量写入优化
  • 使用_bulk API 批量提交文档
  • 建议每批次 5-15MB 数据量
  • 并发执行多个批量请求
  1. 索引配置调优
PUT /my_index
{"settings": {"index.refresh_interval": "30s",  // 降低刷新频率"index.number_of_replicas": 0,    // 写入时禁用副本"index.translog.durability": "async" // 异步translog}
}
  1. 硬件资源优化
  • 使用 SSD 磁盘(IOPS 提升 10 倍+)
  • 预留 50% 内存给文件系统缓存
  • 设置合理的 JVM 堆内存(建议不超过 32GB)
  1. 文档结构优化
  • 避免嵌套文档(Nested)类型
  • 禁用不需要的字段索引
"my_field": { "type": "keyword","index": false  // 不索引该字段
}
  1. 分片策略优化
  • 单个分片大小控制在 20-50GB
  • 分片数 = 节点数 × 1.5(写入密集型场景)
  • 使用 routing 路由写入
  1. 线程池调整
thread_pool:write:size: 16       # 根据 CPU 核数调整queue_size: 1000
  1. 存储优化
  • 禁用 _source 字段(节省 30%+ 存储)
PUT /my_index
{"_source": {"enabled": false}
}
  1. 合并策略优化
"index.merge.policy": {"max_merged_segment": "5gb","segments_per_tier": 10
}
  1. 集群架构优化
  • 专用协调节点处理写入请求
  • 冷热分离架构(Hot-Warm)
  • 使用 Ingest Pipeline 预处理数据
  1. 监控与诊断
# 查看写入延迟
GET _nodes/hot_threads# 监控 segment 状态
GET /_cat/segments?v

典型优化效果对比:

优化项默认配置优化配置吞吐提升
批量写入单文档5MB批次10x+
刷新间隔1s30s3x
副本数102x
线程池队列20010005x

注意事项:

  1. 日志类场景建议禁用副本,搜索类场景保留副本
  2. 调优后需持续监控 CPU/IO 使用率
  3. 定期执行 _forcemerge 减少 segment 数量
  4. 7.x+ 版本建议使用时序模式(Time Series)
http://www.lryc.cn/news/2384110.html

相关文章:

  • CICD编译时遇到npm error code EINTEGRITY的问题
  • 深入了解Springboot框架的启动流程
  • DataWhale llm universe
  • LLaMA-Factory微调LLM-Research/Llama-3.2-3B-Instruct模型
  • DB-MongoDB-00002--Workload Generator for MongoDB
  • 3.8.1 利用RDD实现词频统计
  • Spring Ioc和Aop,Aop的原理和实现案例,JoinPoint,@Aspect,@Before,@AfterReturning
  • [解决conda创建新的虚拟环境没用python的问题]
  • 【优秀三方库研读】在 quill 开源库 LogMarcos.h 中知识点汇总及讲解
  • jvm安全点(五)openjdk17 c++源码垃圾回收之安全点阻塞状态线程在安全点同步中无需调用block函数的详细流程解析
  • C++ 中的 **常变量** 与 **宏变量** 比较
  • 【C++】控制台小游戏
  • 配合本专栏前端文章对应的后端文章——从模拟到展示:一步步搭建传感器数据交互系统
  • React中常用的钩子函数:
  • springboot IOC
  • java面试每日一背 day2
  • Ajax01-基础
  • (37)服务器增加ipv6配置方法
  • 生成树协议(STP)配置详解:避免网络环路的最佳实践
  • 面向 C 语言项目的系统化重构实战指南
  • 网络层——蚂蚁和信鸽的关系VS路由原理和相关配置
  • Python Pandas库简介及常见用法
  • 第十六届蓝桥杯复盘
  • 【已解决】HBuilder X编辑器在外接显示器或者4K显示器怎么界面变的好小问题
  • 直线型绝对值位移传感器:精准测量的科技利刃
  • 解决服务器重装之后vscode Remote-SSH无法连接的问题
  • AI 招聘系统科普:如何辨别真智能与伪自动化
  • Ansible模块——管理100台Linux的最佳实践
  • 从0开始学习大模型--Day09--langchain初步使用实战
  • C++中的菱形继承问题