当前位置: 首页 > news >正文

XCCL、NCCL、HCCL通信库

在这里插入图片描述

XCCL提供的基本能力

在这里插入图片描述

XCCL提供的基本能力

在这里插入图片描述

不同的XCCL 针对不同的网络拓扑,实现的是不同的优化算法的(不同CCL库最大的区别就是这)
不同CCL库还会根据自己的硬件、系统,在底层上面对一些相对应的改动;
但是对上的API接口,基本上保持稳定和不变,也就是跟NVIDIA的NCCL 和 MPI的库的接口保持一致;
---- 公司肯定也是有部门在搞这个的

在这里插入图片描述


基于NCCL进行创新

在这里插入图片描述
在这里插入图片描述

在这里插入图片描述


NVIDIA NCCL:优点、缺点

在这里插入图片描述
在这里插入图片描述
在这里插入图片描述

clos torus RDMA 异构网络…check


阿里 ACCL

在这里插入图片描述
在这里插入图片描述

在这里插入图片描述
在这里插入图片描述


腾讯 TCCL

在这里插入图片描述

在这里插入图片描述
NVIDIA主推IB的交换机,腾讯自研交换机


Inter oneCCL

在这里插入图片描述

在这里插入图片描述


AMD RCCL(已开源)

在这里插入图片描述
在这里插入图片描述


各种XCCL库的优缺点

在这里插入图片描述

http://www.lryc.cn/news/531184.html

相关文章:

  • 【Deep Seek本地化部署】模型实测:规划求解python代码
  • MySQL锁类型(详解)
  • 搜索插入位置(35)
  • 八. Spring Boot2 整合连接 Redis(超详细剖析)
  • VDSuit-Full惯性动捕设备:高效率、高品质动画制作的利器
  • 【环境搭建】1.1源码下载与同步
  • 开源智慧园区管理系统对比其他十种管理软件的优势与应用前景分析
  • C语言可变参数
  • (1)Linux高级命令简介
  • frida 入门
  • 基于STM32的智能健康监测手环
  • neo4j-community-5.26.0 install in window10
  • Linux+Docer 容器化部署之 Shell 语法入门篇 【Shell 循环类型】
  • WAWA鱼2024年终总结,关键词:成长
  • 【Redis】hash 类型的介绍和常用命令
  • 二分基础两道
  • Skyeye 云 VUE 版本 v3.15.7 发布
  • 位运算和操作符属性
  • php的使用及 phpstorm环境部署
  • 高阶开发基础——快速入门C++并发编程6——大作业:实现一个超级迷你的线程池
  • Jupyterlab和notebook修改文件的默认存放路径的方法
  • 吴恩达深度学习——有效运作神经网络
  • 享元模式——C++实现
  • 【Go语言圣经】第五节:函数
  • win32汇编环境,窗口程序中使用进度条控件
  • Vscode的AI插件 —— Cline
  • Flink (十三) :Table API 与 DataStream API 的转换 (一)
  • Android --- handler详解
  • [EAI-023] FAST,机器人动作专用的Tokenizer,提高VLA模型的能力和训练效率
  • 关于贪心学习的文笔记录