在本周于美國拉斯維加斯舉行的Google Cloud Next大會(huì)上,Google正式發(fā)布了其第七代TPU(Tensor Processing Unit)AI加速器芯片——Ironwood。![]() Ironwood作為Google迄今為止功能最強(qiáng)大、性能最強(qiáng)、最節(jié)能的TPU芯片,專為大規(guī)模支持思考和推理AI模型而設(shè)計(jì)。在計(jì)算性能上,Ironwood實(shí)現(xiàn)了驚人的4614 TFLOP(萬億次浮點(diǎn)運(yùn)算)的峰值算力,這一數(shù)字遠(yuǎn)超其前代產(chǎn)品,為AI模型的訓(xùn)練和推理提供了前所未有的速度。 除了卓越的計(jì)算性能,Ironwood還配備了高達(dá)192GB的專用RAM和7.4Tbps的超高帶寬,確保了數(shù)據(jù)的高速傳輸和處理。這一設(shè)計(jì)使得Ironwood能夠輕松應(yīng)對(duì)大型模型和數(shù)據(jù)集的運(yùn)算需求,減少了頻繁的數(shù)據(jù)傳輸,提高了整體效率。 尤為值得一提的是,Ironwood的芯片間互連(ICI)帶寬也提升至1.2Tbps,較前代產(chǎn)品提升了50%。這一改進(jìn)大幅優(yōu)化了分布式訓(xùn)練效率,使得Ironwood在支持超大規(guī)模AI工作負(fù)載處理方面表現(xiàn)出色。Google Cloud甚至為客戶提供了256芯片和9216芯片兩種配置選擇,以滿足不同規(guī)模的應(yīng)用需求。 作為Google AI超級(jí)計(jì)算機(jī)架構(gòu)的核心組件,Ironwood通過軟硬件協(xié)同優(yōu)化,將有力推動(dòng)生成式AI向更復(fù)雜場(chǎng)景演進(jìn)。Google Cloud副總裁Amin Vahdat在發(fā)布會(huì)上表示:“Ironwood是我們AI硬件加速領(lǐng)域的一項(xiàng)重大創(chuàng)新,它將為AI技術(shù)的廣泛應(yīng)用提供強(qiáng)大的動(dòng)力! |