当前位置: 首页 > news >正文

【CDP】更改solr 存储路径导致ranger-audit 大量报错问题解决

前言

我们生产上公司是使用的CDP集群,一次管理员通知,Solr 组件的数据存放路径磁盘空间不够。

我们的solr 组件时为 Ranger 服务提供日志审计功能,

在我们更改了磁盘路径,并重启了Solr 组件,然后发现相关组件,如 HDFS, Kafka 等会报相关的报错。具体如下:

报错

在重启 Solr 后,有大量的404报错,无法找到 ranger_audit 这个索引。
在这里插入图片描述
由于换了新的存储路径,那么索引肯定时找不到了,于是我们决定重启相关受影响的组件,这样的话,可能索引就会新建。

也正是这一步,让我们一错再错。

重启

在重启相关受影响组件后,发现 404 的报错是没了,变成了 403 的报错。

并且新的路径下,solr 的shard 数据也没有生成。

报错如下图:

在这里插入图片描述
到这里,才反应过来,这个问题和其余的组件的关系不太,主要根源是,更改了新的路径后,solr 集群之间,solr 与 zk 之间的联系出了问题。

解决方案

1. 停止solr 组件

集群 -> CDP INFRA SOLR -> 操作 -> 停止。

在这里插入图片描述

2. 更换新的路径

这部之前已经操作过了,所以跳过。

3. zookeeper znode 清理

由于我们的zk 有jaas 认证,所以需要先导入环境变量

export JVMFLAGS="-Djava.secury.auth.login.conf=jaas.conf"

进入zookeeper

zookeeper-client -server `hostname -f`

删除节点

rmr /solr-infra/collections/ranger_audits
rmr /solr-infra/configs/ranger_audits

4. 优化审计索引存储时间,副本数(可跳过)

这一步骤不是必须操作,只是对 ranger_audit 该索引进行一些优化。如 TTL,副本数,shard个数 等等。这个因人而异,配置符合自己集群性能才是关键。

修改最大shard 个数。
在这里插入图片描述

shard 个数在这里插入图片描述

副本数
在这里插入图片描述

5. 启动Solr

集群 -> CDP INFRA SOLR -> 操作 -> 启动。

6. 重启ranger

集群 -> Ranger -> 实例 -> ranger admin -> 重启。

在这里插入图片描述

到此,问题应该是可以解决了,如果相关受影响组件仍在报错。继续执行第七步。

7. 进入solr web ui 修改索引

  1. 跳转KNOX WEB UI

集群 -> KNOX -> KNOX GATEWAY HOME -> Solr
在这里插入图片描述
在这里插入图片描述

  1. 删除collection

进入 solr web ui -> Collections > Delete collection -> 输入要删除的collection 名字
在这里插入图片描述

此处输入 ranger_audit,然后点击 Delete 按钮。
在这里插入图片描述

  1. 新增collection

Add Collection -> 内容如下:

keyvalue
nameranger_audit
config setranger_audit
numsShards4
replicationFact1
maxShardsPer10

在这里插入图片描述

此时观察日志,发现已经恢复。问题解决。

http://www.lryc.cn/news/32305.html

相关文章:

  • JavaScript基础一、简介
  • Qt音视频开发20-vlc内核动态保存录像文件(不需要重新编译源码)
  • 【深度学习】BERT变体—RoBERTa
  • java面试准备1
  • buffer它到底做了个啥,源码级分析linux内核的文件系统的缓冲区
  • 【蓝桥杯刷题】盗版Huybery系列之手抓饼赛马
  • 【微信小程序-原生开发】实用教程16 - 查看详情(含页面跳转的传参方法--简单传参 vs 复杂传参)
  • 论文精读:Ansor: Generating High-Performance Tensor Programs for Deep Learning
  • SpringBoot With IoC,DI, AOP,自动配置
  • ggplot2的组图拓展包(1):patchwork(上篇)
  • Python 异步: 异步迭代器(15)
  • HD-G2L-IOT V2.0核心板MPU压力测试
  • scikit-image:遥感图像geotiff格式转mat格式
  • 吉利银河L7、长城哈弗B07、比亚迪宋Plus DM-i,自主品牌决战混动
  • 附录3:说一说 Ambari 视图编译相关
  • Arduino双色LED实验记录
  • flex布局
  • 【操作系统原理实验】命令解释器模拟实现
  • 使用nvm管理node版本
  • jQuery BootStrap
  • Vue2.0开发之——购物车案例-Footer组件封装(50)
  • HTML基本概述
  • Vue 3.0 响应式 计算和侦听 【Vue3 从零开始】
  • 1.mbedtls移植到STM32
  • 模块、包和异常
  • RocketMQ控制台的安装与启动
  • pytorch安装的超级详细教程(没有之一)
  • leetcode两数之和
  • 断点调试(debug)
  • Vuex 状态管理