cutlass
$CUTLASS · NVDAx3L
token
pending
kernel
pending
grid
k ≤ 25
Connect
CUTLASS
kernel · C = αAB + βC
GEMM
2,1
occupancy
0
/ 25
you =
holder
A
B
C
00
MMA
·
01
SMEM
·
02
GMEM
·
03
WARP
·
04
TILE
·
10
EPI
·
11
ACC
·
12
FRAG
·
13
PRED
·
14
PIPE
·
20
CuTe
·
21
GEMM
·
22
NVFP
·
23
TF32
·
24
BF16
·
30
main
·
31
loop
·
32
cp.a
·
33
async
·
34
swiz
·
40
sm90
·
41
tma
·
42
wgmma
·
43
scale
·
44
out
·
space issues · double-click a tile · GEMM