近日,Meta在官網(wǎng)發(fā)布公告,為了滿足未來十年AI算力急劇增長的需求,Meta開始大力布局下一代AI軟硬件基礎設施。其中包括首款自研第一代AI推理加速器芯片MTIA v1,并公布了各種技術細節(jié)。
Meta官網(wǎng)顯示,MTIA是一種ASIC芯片,能夠將不同電路組合在同一塊芯片上,還可以并行執(zhí)行一項或多項任務。第一代MTIA ASIC芯片于2020年開始設計,是一款AI推理加速器芯片,該芯片采用臺積電7nm工藝制造,運行頻率為800 MHz,在INT8精度下算力達102.4 TOPS,在FP16精度下算力達51.2 TFLOPS,熱設計功率(TDP)為25W。
Meta副總裁兼基礎設施負責人Santosh Janardhan在一篇博客文章中寫道,MTIA是Meta針對推理性工作的內(nèi)部定制加速器芯片,它提供了比CPU更高的計算能力和效率,能夠為內(nèi)部工作提供定制化服務,實現(xiàn)更好的性能、更低的延遲和更高的效率。
據(jù)了解,在過去的十年間,Meta花費了數(shù)十億美元聘請頂級數(shù)據(jù)科學家來構建新型AI模型,努力布局生成式AI。一直到2022年,Meta主要采用的是CPU和專為加速AI算法而設計的芯片組合來維持其AI的運行,而該組合的任務效率通常會低于GPU。這也是為何Meta取消了原本打算在2022年大規(guī)模推廣CPU和AI定制芯片的計劃,轉而訂購了價值數(shù)十億美元的英偉達GPU。為了能夠與這些GPU相匹配, Meta對旗下的幾個數(shù)據(jù)中心進行了顛覆性的重新設計,而這樣也是Meta開發(fā)MTIA這款ASIC芯片的原因,預計這款這款芯片將于2025年正式推出。
- QQ:61149512