GPU 内部结构：核心、流处理器和内存问题

现代GPU由数千个简单的算术核心组成，这些核心被分组为流处理器，还包含专门的张量核心和光追核心，周围环绕着调度器、缓存和非常宽的内存系统。硬工程问题不是数学运算，而是快速移动数据以保持所有核心忙碌。