当前位置: 首页 > news >正文

零拷贝技术

背景

        磁盘可以说是计算机系统重最慢的硬件之一,读写速度相对内存10以上,所以针对优化磁盘的技术非常的多,比如:零拷贝、直接I/O、异步I/O等等,这些优化的目的就是为了提高系统的吞吐量,另外操作系统内核中的磁盘高速缓存区,也可以有效的减少磁盘的访问次数。

传统的数据传输方式

如果服务端提供数据传输功能,传统方式:将文件从磁盘上读取出来,然后通过网络协议写入,发送给客户端。

read(file, tmp_buf, len);
write(socket, tmp_buf, len);

其中涉及到的内部流程如下:

  • 第一次拷贝(DMA拷贝):把数据从磁盘上拷贝到操作系统内核缓冲区。
  • 第二次拷贝(CPU拷贝):把内核缓冲区的数据拷贝到用户缓冲区,此时我们的程序就可以使用读到的数据
  • 第三次拷贝(CPU拷贝):把用户缓冲区的数据再拷贝到内核的socket缓冲区(套接字缓冲区)。
  • 第四次拷贝(DMA拷贝):把内核的socket缓冲区数据拷贝到网卡缓冲区中。

零拷贝方式

  • 第一次拷贝(DMA拷贝):通过DMA技术将磁盘数据拷贝到内核缓冲区中。
  • 第二次拷贝(DMA拷贝):内核缓冲区的“描述符”+“长度”传到socket缓冲区,然后SG-DMA控制器可直接将内核缓冲区中的数据拷贝到网卡中。此过程不需要将内核缓冲区中的数据拷贝到socket缓冲区中,这样减少了一次数据拷贝。

总结

        零拷贝技术相对于传统文件传输,减少了2次上下文切换、2次CPU拷贝,最终只用2次上下文切换和2次DMA拷贝,不经过CPU拷贝

扩展

内核缓冲区实际上是磁盘高速缓存(PageCache),通常刚被访问的数据段时间内再次被访问的概率很高,于是我们可以用PageCache来缓存最近被访问的数据,,当空间不足时淘汰最久未被访问的缓存,所以读磁盘数据的时候,优先在PageCache中找,如果有就返回,没有则从磁盘读取,然后缓存在PageCache中。PageCache也具备预读功能。

例:假设read方法每次读取32kb字节,虽然read刚开始只读0~32kb的字节,但是内核会将后面的32~64KB也读取到PageCache,这样读取后面32~64kb的时候,如果在32~64kb数据被淘汰出PageCache前,进程读取到它了,此时速度就很快。

        

       

http://www.lryc.cn/news/368906.html

相关文章:

  • Flutter_Android上架GooglePlay_问题
  • 【Java】解决Java报错:NumberFormatException
  • 视觉大模型(VLLM)学习笔记
  • 【软考的系统分析师的考题考点解析2025】
  • JavaScript前端技术入门教程
  • 类和对象(上续)
  • 【C++初阶学习】第十三弹——优先级队列及容器适配器
  • Java(十七)---ArrayList的使用
  • 实验六、IPv4 地址的子网划分,第 2 部分《计算机网络》
  • 定个小目标之刷LeetCode热题(12)
  • MYSQL内存占用查询语句
  • HikariCP连接池初识
  • LeetCode136只出现一次的数字
  • html5实现端午节网站源码
  • echarts组件x轴坐标显示不全解决方法
  • JS实现移动端的轮播图滑动事件
  • 2024.6.10学习记录
  • RapidJSON
  • 二叉树的创建
  • adb shell进入设备后的命令
  • 【Android面试八股文】Java中静态内部类是什么?和非静态内部类的区别是什么?
  • IDEA启动项目报java.lang.OutOfMemoryError: GC overhead limit exceeded
  • 基于R语言BIOMOD2 及机器学习方法的物种分布模拟与案例分析
  • 【笔记2】Python编程:从入门到实践(第2版) - 埃里克·马瑟斯
  • 优质免费的 5 款翻译 API 接口推荐
  • 雷电模拟器中控实现,直通源码
  • 从渲染管线到着色器Shader实践
  • LabVIEW开发实验室超导体电流特性测试系统
  • C语言之main函数的返回值(在linux中执行shell脚本并且获取返回值)
  • 【手撕面试题】Vue(高频知识点五)