内存、显存和GPU在Transformer架构中承担什么计算任务

目录

内存、显存和GPU在Transformer架构中承担什么计算任务

一、内存、显存和GPU的区别

二、在Transformer架构中的计算任务

内存、显存和GPU在Transformer架构中承担什么计算任务

是计算机系统中重要的组成部分，它们在Transformer架构中承担着不同的计算任务。以下是对这三者的区别以及在Transformer架构中的计算任务的详细解释，并通过例子进行说明：

一、内存、显存和GPU的区别

1. 内存

   • 服务对象：主要为CPU和系统缓存资料空间。
   • 延迟：内存吞吐量没有显存那么大，波动也小，因此低延迟的收益更大。
   • 容量：消费级电脑的内存以DDR插槽为标准，可根据需求和主板的插槽数量增减内存容量。
   • 电压：