内存、显存和GPU在Transformer架构中承担什么计算任务
目录
内存、显存和GPU在Transformer架构中承担什么计算任务
一、内存、显存和GPU的区别
二、在Transformer架构中的计算任务
内存、显存和GPU在Transformer架构中承担什么计算任务
是计算机系统中重要的组成部分,它们在Transformer架构中承担着不同的计算任务。以下是对这三者的区别以及在Transformer架构中的计算任务的详细解释,并通过例子进行说明:
一、内存、显存和GPU的区别
-
内存
- 服务对象:主要为CPU和系统缓存资料空间。
- 延迟:内存吞吐量没有显存那么大,波动也小,因此低延迟的收益更大。
- 容量:消费级电脑的内存以DDR插槽为标准,可根据需求和主板的插槽数量增减内存容量。
- 电压: