当前位置: 首页 > news >正文

工作纪实36-ES跨集群迁移

1.es数据备份、恢复

https://blog.csdn.net/andy_only/article/details/111319175

2.reindex命令

https://codeleading.com/article/40964498185/

添加配置、重启ES

cd bin
sh elasticsearch -d

3.开源工具

https://github.com/elasticsearch-dump/elasticsearch-dump

4.logstash

[work()@tjtxvm176-239-170 config]$ cd ..
[work()@tjtxvm176-239-170 logstash-5.6.16]$ sh ^C
[work()@tjtxvm176-239-170 logstash-5.6.16]$ ./bin/logstash -f config/logstash-es-migrate.conf 注意logstash 跟ES的匹配版本logstash-5.6.16 376,800,历时 3分20秒,1884每秒,3个小时能迁完bin/logstash -f config/logstash-sample.confinput{elasticsearch{# 源端地址hosts =>  ["http://source:9200"]# 安全集群配置登录用户名密码# user => "xxxx"# password => "xxxx"# 需要迁移的索引列表,以逗号分隔index => "omd_v6"# 以下三项保持默认即可,包含线程数和迁移数据大小和logstash jvm配置相关docinfo=>true# slices => 10# size => 200}
}filter {# 去掉一些logstash自己加的字段mutate {remove_field => ["@timestamp", "@version"]}
}output{elasticsearch{# 目的端es地址hosts => ["http://target:9200"]# 目的端索引名称,以下配置为和源端保持一致# index => "%{[@metadata][_index]}"index => "omd_v4"# 目的端索引type,以下配置为和源端保持一致document_type => "%{[@metadata][_type]}"# 目标端数据的_id,如果不需要保留原_id,可以删除以下这行,删除后性能会更好document_id => "%{[@metadata][_id]}"# ilm_enabled => false# manage_template => false}# 调试信息,正式迁移去掉# stdout { codec => rubydebug { metadata => true }}
}

https://www.elastic.co/guide/en/logstash/6.7/plugins-inputs-elasticsearch.html?spm=a2c4e.10696291.0.0.34dd19a4GGsCSh
https://bbs.huaweicloud.com/blogs/265963
https://www.51cto.com/article/704537.html

5.写程序

自由发挥

logstash效率最高,elastcidump受限于node环境

http://www.lryc.cn/news/124098.html

相关文章:

  • 【MFC】11.MFC文档和单文档架构-笔记
  • 2023年“研究生科研素养提升”系列公益讲座在线测评题目与参考答案
  • MySQL8.xx一主两从复制安装与配置
  • 深度学习优化器
  • 由浅入深C系列五:使用libcurl进行基于http get/post模式的C语言交互应用开发
  • 高效实用小工具之Everything
  • 【Unity每日一记】关于物体(敌方)检测—(向量点乘相关)
  • Elasticsearch-查询
  • 首发 | FOSS分布式全闪对象存储系统白皮书
  • Java反射获取所有Controller和RestController类的方法
  • 设计模式--策略模式
  • VSCode使用SSH无密码连接Ubuntu
  • 通过版本号控制强制刷新浏览器或清空浏览器缓存
  • Redis系列(二):深入解读Redis的两种持久化方式
  • CNN之图像识别
  • nvcc not found
  • pdf怎么转换成jpg图片?这几个转换方法了解一下
  • 六轴机械臂码垛货物堆叠仿真
  • text-decoration 使用
  • linux shell快速入门
  • 【Spring源码】小白速通解析Spring源码,从0到1,持续更新!
  • Unity 鼠标实现对物体的移动、缩放、旋转
  • 67Class 的基本语法
  • 企业数字化转型:无形资产占比测算(2007-2021年)
  • [centos]设置主机名
  • 华为OD真题--新学习选址--带答案
  • Qt自定义对话框
  • Python 程序设计入门(018)—— format() 函数的用法详解
  • 演进式架构
  • OCP China Day 2023:五大社区齐聚,加速开源开放创新与落地