发布网友
共1个回答
热心网友
从硬件调度的角度上来看:
1. Grid:GPU (GPC) 级别的基本调度单位。
2. Block (CTA):SM 级别的基本调度单位。
3. Warp:ALU 级别的基本调度单位。
从资源分配和通信的角度来看:
1. Grid:共享同样的 Kernel 和 Context。
2. Block (CTA):同一 CTA 的线程运行在同一个 SM,因此同一 CTA 中的不同线程可以通过 Shared Memory 通信,并共享 L1 cache(只读)。
3. Warp:32 宽度的 SIMD,占用同一块向量寄存器,线程间可以通过特殊指令交换寄存器中的数据。