IT之家 12 月 7 日消息,谷歌在推出全新大語言模型 Gemini 1.0 之外,還宣布了增強版 Tensor Processing Unit(TPU)芯片,最新型號為 TPU v5p。
谷歌目前已經在 YouTube、Gmail、Google Maps、Google Play 和 Android 等產品服務中使用 TPU 芯片,最新版本是谷歌迄今為止功能最強大、可擴展性最強和最靈活的 AI 加速器芯片。
IT之家注:在性能方面,谷歌 TPU v5p 在 bfloat16 精度下,可以實現(xiàn) 459 teraFLOPS;在 Int8 精度下,可以實現(xiàn) 918 teraOPS。
谷歌 TPU v5p 配備 95GB 的 HBM3 內存,內存帶寬為 2.76TB / sec,每個 Pod 最多有 8960 個加速核心,并自研搭載 600GB/sec 芯片互聯(lián)主控,可以更快、更準確地訓練 AI 模型。
與 TPU v4 相比,新發(fā)布的 TPU v5p 具有兩倍的 FLOPS(每秒浮點運算)和三倍的高內存帶寬提升。
谷歌表示在 BF16 精度下,訓練 OpenAI 擁有 1750 億參數(shù)的 GPT3,比此前的 TPU v4 AI 加速器芯片快 90%;如果在 Int8 精度下可以達到 180%。
每個 TPU v5p 加速器的運行費用為每小時 4.20 美元,這比 TPU v4(每小時運行費用為 3.22 美元)和 TPU v5e(每小時運行費用為 1.20 美元)貴一點。
廣告聲明:文內含有的對外跳轉鏈接(包括不限于超鏈接、二維碼、口令等形式),用于傳遞更多信息,節(jié)省甄選時間,結果僅供參考,IT之家所有文章均包含本聲明。