讨论探讨了 CPU 能否取代 GPU，用于人工智能和大规模矩阵计算。GPU 仍具有优势：拥有数千个可并行工作的 CUDA 和 Tensor 核心、深度流水线，以及高度优化的 CUDA 软件。相比之下，CPU 的灵活性更高、系统内存更大，并且在稀疏或专用工作负载上可能具有更好的效率。 评论者认为，CPU 可以通过更强的矩阵/SIMD 指令、每个核心配备专用内存，以及更好的互连技术来提高竞争力。历史上的相关例子包括 MMX、AVX、英特尔集成显卡和 Larrabee 项目。Tenstorrent 采用 RISC-V 核心阵列并为每个核心配备本地 SRAM 等替代方案，也可能模糊 CPU 与 GPU 之间的界限。 主要障碍在于吞吐量、内存带宽，以及训练前沿模型的成本。量化、LoRA、梯度检查点和重计算等技术可以降低 CPU 的内存需求，但目前尚无结论表明，仅使用 CPU 实际能够训练多大规模模型。