在本周于美国拉斯维加斯举行的Google Cloud Next大会上,Google正式发布了其第七代TPU(Tensor Processing Unit)AI加速器芯片——Ironwood。 Ironwood作为Google迄今为止功能最强大、性能最强、最节能的TPU芯片,专为大规模支持思考和推理AI模型而设计。在计算性能上,Ironwood实现了惊人的4614 TFLOP(万亿次浮点运算)的峰值算力,这一数字远超其前代产品,为AI模型的训练和推理提供了前所未有的速度。 除了卓越的计算性能,Ironwood还配备了高达192GB的专用RAM和7.4Tbps的超高带宽,确保了数据的高速传输和处理。这一设计使得Ironwood能够轻松应对大型模型和数据集的运算需求,减少了频繁的数据传输,提高了整体效率。 尤为值得一提的是,Ironwood的芯片间互连(ICI)带宽也提升至1.2Tbps,较前代产品提升了50%。这一改进大幅优化了分布式训练效率,使得Ironwood在支持超大规模AI工作负载处理方面表现出色。Google Cloud甚至为客户提供了256芯片和9216芯片两种配置选择,以满足不同规模的应用需求。 作为Google AI超级计算机架构的核心组件,Ironwood通过软硬件协同优化,将有力推动生成式AI向更复杂场景演进。Google Cloud副总裁Amin Vahdat在发布会上表示:“Ironwood是我们AI硬件加速领域的一项重大创新,它将为AI技术的广泛应用提供强大的动力。”
|