kyzoroX

每个人都认为人工智能受限于计算能力。下一个瓶颈是内存。NVIDIA H100 提供约 4 PFLOPS 的 FP8 计算能力和 3.35 TB/s 的 HBM 带宽。Groq 采取了完全...

每个人都认为人工智能受限于计算能力。下一个瓶颈是内存。NVIDIA H100 提供约 4 PFLOPS 的 FP8 计算能力和 3.35 TB/s 的 HBM 带宽。Groq 采取了完全不同的方法：500 MB 的片上 SRAM，内存带宽达 150 TB/s。