当前位置: 首页 > news >正文

Kafka内外网分流配置listeners和advertised.listeners

问题背景:

Kafka部署在内网,内网Java服务会使用Kafka收发消息,另外,Java服务会与其他第三方系统使用kafka实现数据同步,也就是外网也会发送消息到kafka,外网IP做了端口映射到了内网,advertised.listeners配置了外网ip端口,所以这里的问题就是内网程序发送kafka消息也会走到外网,这样会有部分连接出现超时错误,所以这种方式不太合理。

解决办法:

参考网上内外网分流方式进行处理,外部访问kafka通过公网连接,内部程序使用内网访问。

listeners与advertised.listeners含义

1. listeners

含义:用于指定Kafka Broker实际监听的地址和端口,listeners 的格式通常是:协议名称://主机名或IP地址:端口,可以同时配置多个, 并且用逗号隔开,监听器的名称和端口必须是唯一的,端口相同,就冲突了。
示例

listeners=PLAINTEXT://your.host.name:9092

在这个示例中,Kafka Broker将监听your.host.name这个主机名上的9092端口,并使用PLAINTEXT协议(即不加密的文本协议)。

2.advertised.listeners

含义
Kafka 服务器对外宣传的端点信息,它会将地址注册到Zookeeper中,用于告诉客户端应该连接到哪个地址和端口,也就是客户端真正要访问的地址。advertised.listeners 的格式与 listeners 类似,但是可以指定不同的地址或端口,如果没有配置,则默认值和listener一样,另外,advertised.listeners不支持0.0.0.0这种形式, 所以如果listeners属性设置成0.0.0.0,则必须设置advertised.listeners属性。
示例

listeners=PLAINTEXT://internal.host.name:9092  
advertised.listeners=PLAINTEXT://external.host.name:9092

在这个示例中,Kafka Broker在内部网络上监听internal.host.name这个主机名上的9092端口,但向外部客户端公布external.host.name这个主机名上的9092端口作为连接地址。

内外网分流配置修改

kakfa配置文件config/server.properties修改前

listeners=PLAINTEXT://172.20.0.147:9092
advertised.listeners=PLAINTEXT://10.103.25.230:9092

修改后

listeners=INSIDE://:19092,OUTSIDE://:9092
advertised.listeners=INSIDE://172.20.0.147:19092,OUTSIDE://10.103.25.230:9092
listener.security.protocol.map=INSIDE:PLAINTEXT,OUTSIDE:PLAINTEXT
inter.broker.listener.name=INSIDE

说明

  • listeners这里设置了2个监听器,监听了所有IP的两个端口,19092为内网kafka使用端口,9092为外部访问端口
  • 172.20.0.147是内网服务器IP地址,10.103.25.230为公网IP地址,端口已也添加了映射:10.103.25.230->172.20.0.147,这样我们当我们通过kafka客户端连接kafka时,kafka会从zookeeper中获取kafka元数据信息,这时候kafka客户端得到的就是advertised.listeners的信息,因为这里OUTSIDE配置的外网IP,当客户端通过10.103.25.230访问kafka时,请求就会被之前配置的映射进行转发,被转发到内网ip,从而完成对kafka的访问。
  • listener.security.protocol.map为监听器名称和安全协议之间的映射关系集合,PLAINTEXT表示明文
  • inter.broker.listener.name用于broker之间通信的listener名称,如果未设置,则listener名称由 security.inter.broker.protocol 定义(security.inter.broker.protocol默认值是PLAINTEXT)

遇到问题

  1. 修改过程中的报错:
org.apache.kafka.common.KafkaException: Socket server failed to bind to 10.103.25.230:9092: Cannot assign requested address.

解决方案
listeners由原来固定IP修改为:

listeners=INSIDE://:19092,OUTSIDE://:9092

参考链接:
https://juejin.cn/post/6893410969611927566
https://www.confluent.io/blog/kafka-listeners-explained/

http://www.lryc.cn/news/376698.html

相关文章:

  • Linux系统编程——网络编程
  • 信息安全技术基础知识-经典题目
  • nextjs(持续学习中)
  • 数据预处理与特征工程、过拟合与欠拟合
  • 甲辰年五月十四风雨思
  • java分别使用 iText 7 库和iText 5 库 将excel转成PDF导出,以及如何对excel转PDF合并单元格
  • Java特性之设计模式【访问者模式】
  • 【教师资格证考试综合素质——法律专项】未成年人保护法笔记以及练习题
  • 6.19作业
  • java 线程之间通信-volatile 和 synchronized
  • 资源宝库网站!人人必备的神器!
  • Redis实战—优惠卷秒杀(锁/事务/代理对象的应用)
  • HTML星空特效
  • 银行数仓项目实战(四)--了解银行业务(存款)
  • MySQL版本发布模型
  • java: 不兼容的类型: org.apache.xmlbeans.XmlObject无法转换为x2006.main.CTRow
  • 内容时代:品牌如何利用社交平台精准触达用户
  • 推荐4款PC端黑科技工具,快来看看,建议收藏
  • 汉化版PSAI全面测评,探索国产AI绘画软件的创新力量
  • LeetCode | 709.转换成小写字母
  • 洗地机哪个品牌比较好?四款好用靠谱的优质洗地机推荐
  • java:spring actuator添加自定义endpoint
  • LeetCode88-删除有序数组中的重复项
  • SpringBoot Starter 通用接口加密组件(防篡改)+ RequestBodyAdvice和ResponseBodyAdvice原理
  • delphi 如何使用TEdgeBrowser组件以及打包环境在其他主机上运行
  • Sui的Fastcrypto加密库刷新速度记录
  • Malformed \uxxxx encoding或Maven server structure problem问题解决
  • Sui主网升级至V1.27.2版本
  • Cheat Engine 学习
  • 【千帆AppBuilder】你有一封邮件待查收|未来的我,你好吗?欢迎体验AI应用《未来信使》