美股资讯

OpenAI今天表示,与博通(AVGO)合作开发了新款Jalapeno芯片在测试中功耗效率和响应延迟上超越英伟达GB300

凸显出该公司自主研发AI处理器方面取得的进展。OpenAI芯片业务负责人理查德·何(Richard Ho)表示,在测试中,Jalapeno处理器在两个项目中领先:单位功耗所能处理的AI工作量,以及返回响应的速度。此次测试将该芯片与英伟达GB300进行对比,后者是此次测试所采用的公开基准测试系统中表现最领先产品。

OpenAI与博通(AVGO)合作开发了Jalapeno。博通为众多客户生产定制芯片。两家公司去年宣布达成合作,并于今年6月强调了该处理器的开发速度,称其在创纪录的时间内完成开发。

这也是OpenAI自研Jalapeño这类AI芯片值得关注的地方。如果它主要服务于OpenAI自己的模型,就不需要像NVIDIA一样做一套尽可能通用的GPU。它可以针对TransformerAttention、矩阵计算、KV Cache以及特定数据类型进行高度定制,把自己不需要的功能直接砍掉,从而在特定AI workload上实现更高的性能功耗比和更低的延迟。

因此,如果Jalapeño真的能够在OpenAI自己的测试中超过GB300,更准确的理解并不是“OpenAI已经造出了一颗全面超过NVIDIAGPU”,而是OpenAI正在利用ASIC的定制化优势,针对自己的AI工作负载打造专用计算平台。这种方式有可能在特定任务上比通用GPU更高效。

不过,真正最难复制的仍然可能不是芯片本身,而是NVIDIA长期建立的CUDA软件生态。要让一颗AI芯片大规模替代GPU,需要同时解决芯片、编译器、运行时、Kernel、框架适配以及开发者生态等问题。因此,AI芯片的竞争最终很可能不是单纯的“谁的芯片算力更高”,而是硬件、内存、网络、软件和模型协同优化的系统级竞争。

Fullscreen Image