← 返回学习

CUDA

进行中

从线程模型到算子优化,把 GPU 当成一台需要认真对待的计算机。

整体进度 20%
GPU并行计算C++ 开始于 2026-09-01

路线#

  • ✅ 环境与第一个 kernel
  • ✅ grid / block / warp 的关系
  • ⬜ 内存层次:global / shared / register
  • ⬜ 合并访存与 bank conflict
  • ⬜ 用 Nsight Compute 看 occupancy 和 memory throughput
  • ⬜ 手写一个 GEMM,再对照 CUTLASS

最近在想#

写 kernel 和写 CPU 代码最大的区别不是语法,是你必须同时想象两件事:数据在显存里怎么排,以及 32 个线程怎么一起走。

后面想把每篇笔记都配一个能跑的最小例子,而不是只记概念。

相关笔记 · 0

还没有和这个主题关联的笔记。写文章时在 frontmatter 里加 topic: CUDA 就会自动出现在这里。