当前位置: 首页 > news >正文

Netty零拷贝机制

Netty零拷贝机制

  • 一:用户空间与内核空间
  • 二:传统IO流程
  • 三:零拷贝常见的实现方式
    • 1. mmap + write
    • 2. sendfile
  • 四:Java中零拷贝
  • 五:Netty 中如何实现零拷贝
    • 1. CompositeByteBuf 实现零拷贝
    • 2. wrap 实现零拷贝
    • 3. slice 实现零拷贝
    • 4. FileRegion实现零拷贝

一:用户空间与内核空间

操作系统的核心是内核,它不同于普通应用程序,所以为了保护内核的存储空间,操作系统将虚拟空间分为了两个部分:内核空间和用户空间。
在这里插入图片描述

二:传统IO流程

四次上下文切换,四次拷贝。
在这里插入图片描述
在这里插入图片描述
1、将磁盘文件,读取到操作系统内核缓冲区;
2、将内核缓冲区的数据,拷贝到用户空间的缓冲区;
3、数据从用户空间缓冲区拷贝到内核的socket网络发送缓冲区;
4、数据从内核的socket网络发送缓冲区拷贝到网卡接口(硬件)的缓冲区,由网卡进行网络传输。

三:零拷贝常见的实现方式

1. mmap + write

mmap通过内存映射,将文件映射到内核缓冲区。同时,用户空间可以共享内核空间的数据。这样,在进行网络传输时,就可以减少内核空间到用户空间的拷贝次数。如下图:
在这里插入图片描述
优化后:三次拷贝 + 四次上下文切换。

2. sendfile

sendfile实现有两个版本,我们这里只介绍真正实现零拷贝技术的后者,即通过SG-DMA技术实现数据拷贝。

Linux 2.1版本提供了sendFile函数,其基本原理如下:
数据根本不经过用户态,直接从内核缓冲区进入到Socket Buffer,同时,由于和用户态完全无关,就减少了一次上下文切换。
在这里插入图片描述
只需 2 次拷贝:
第一次使用 DMA 从磁盘文件拷贝到内核缓冲区;
第二次从内核缓冲区将数据拷贝到网络协议栈(网卡);

(内核缓存区只会拷贝一些 offset 和 length 信息到SocketBuffer,基本无消耗)
优化后:两次上下文切换 + 两次拷贝。

四:Java中零拷贝

通过Java的FileChannel.transferTo()方法实现零拷贝:
底层是调用Linux操作系统中的sendfile()实现的。

通过Java的FileChannel.map()方法实现零拷贝:
底层是调用Linux操作系统中的mmap()实现的。

再稍微讲讲 mmap 和 sendFile 的区别:
1、mmap 适合小数据量读写,sendFile 适合大文件传输。
2、mmap 需要 4 次上下文切换,3 次数据拷贝;sendFile 需要 3 次上下文切换,最少 2 次数据拷贝。
3、sendFile 可以利用 DMA 方式,减少 CPU 拷贝,mmap 则不能(必须从内核拷贝到 Socket 缓冲区)。

在这个选择上:RocketMQ 在消费消息时,使用了 mmap。Kafka 使用了 sendFile。

五:Netty 中如何实现零拷贝

netty中的零拷贝和操作系统中零拷贝有点不一样,操作系统实现零拷贝主要是在内核态的优化,netty完全是在用户状态实现零拷贝。

1. CompositeByteBuf 实现零拷贝

通过将多个ByteBuf合并为一个逻辑上的ByteBuf,避免了各个ByteBuf之间的拷贝。

● 常规使用

ByteBuf allBuf = Unpooled.buffer(header.readableBytes() + body.readableBytes());
allBuf.writeBytes(header);
allBuf.writeBytes(body);

● 使用CompositeByteBuf

CompositeByteBuf compositeByteBuf = Unpooled.compositeBuffer();
compositeByteBuf.addComponents(true, header, body);

2. wrap 实现零拷贝

将byte[]数组、ByteBuf、ByteBuffer等包装成一个Netty ByteBuf对象进而避免了拷贝操作。

● 常规使用

byte[] bytes = ...
ByteBuf byteBuf = Unpooled.buffer();
byteBuf.writeBytes(bytes);

● 使用wrap

byte[] bytes = ...
ByteBuf byteBuf = Unpooled.wrappedBuffer(bytes);

3. slice 实现零拷贝

将ByteBuf 拆解成多个ByteBuf,但是共享同一存储空间不同分区,避免了内存拷贝。

ByteBuf byteBuf = ...
ByteBuf header = byteBuf.slice(0, 5);
ByteBuf body = byteBuf.slice(5, 10);

4. FileRegion实现零拷贝

通过FileRegion包装的FileChannel.tranferTo实现文件传输,可以直接将文件缓冲区的数据发送到目标Channel,避免了传统通过循环write方式导致的内存拷贝问题。

● 传统文件传输

public static void copyFile(String srcFile, String destFile) throws Exception {byte[] temp = new byte[1024];FileInputStream in = new FileInputStream(srcFile);FileOutputStream out = new FileOutputStream(destFile);int length;while ((length = in.read(temp)) != -1) {out.write(temp, 0, length);}in.close();out.close();
}

● file Region

public static void copyFileWithFileChannel(String srcFileName, String destFileName) throws Exception {RandomAccessFile srcFile = new RandomAccessFile(srcFileName, "r");FileChannel srcFileChannel = srcFile.getChannel();RandomAccessFile destFile = new RandomAccessFile(destFileName, "rw");FileChannel destFileChannel = destFile.getChannel();long position = 0;long count = srcFileChannel.size();srcFileChannel.transferTo(position, count, destFileChannel);
}
http://www.lryc.cn/news/4093.html

相关文章:

  • C++:提高篇: 栈-寄存器和函数状态:windows X86-64寄存器介绍
  • MyBatis-Plus入门案例
  • 适用于 Windows 11/10/8/7 的 10 大数据恢复软件分享
  • 在线支付系列【23】支付宝支付接入指南
  • linux系统常用命令
  • 面试(十一)new与delete(整理) 及 内存泄露
  • 2D图像处理:2D ShapingMatching_缩放_旋转_ICP_显示ROI
  • (考研湖科大教书匠计算机网络)第四章网络层-第一、二节:网络层概述及其提供的服务
  • 概论_第8章_假设检验的基本步骤__假设检验的类型
  • SpringMVC--简介和入门案例
  • Cmake入门02-检测环境(笔记)
  • Android JNI C++读写本地文件
  • 图形化深度学习开发平台PaddleStudio(代码开源)
  • 【力扣-LeetCode】1138. 字母板上的路径-C++题解
  • 基于Java+SpringBoot+Vue前后端分离酒店管理系统设计与实现
  • 【软考系统架构设计师】2022下综合知识历年真题
  • 【计组】理解Disruptor--《计算机组成原理》(十五)
  • Windows11 安装Apache24全过程
  • 1302机器翻译(队列)
  • AcWing、第 90 场周赛:4806. 首字母大写、4807. 找数字、4808. 构造字符串(C++)
  • 跟同事杠上了,Apache Beanutils为什么被禁止使用?
  • Golang 模糊测试的使用
  • RSA公钥加密机制跨语言应用实战
  • P7面试送命题
  • 零信任-微软零信任介绍(2)
  • C++中对象调用成员函数this指针的作用
  • JavaScript------数组
  • 迷宫《1》
  • 剑指 Offer 20. 表示数值的字符串
  • 阻抗匹配之反射波形测量