設置
  • 日夜間
    隨系統(tǒng)
    淺色
    深色
  • 主題色
央视曝光“租机贷”成高利贷    美豁免从中国进口的手机、电脑等关税

全球首款 Transformer 專用 AI 芯片 Sohu 登場:每秒可處理 50 萬個 tokens,比英偉達 H100 快 20 倍

2024/6/26 11:31:40 來源:IT之家 作者:故淵 責編:故淵

IT之家 6 月 26 日消息,Etched 公司宣布完成 1.2 億美元(IT之家備注:當前約 8.73 億元人民幣) A 輪融資,將用于開發(fā)和銷售全球首款 Transformer 專用集成電路(ASIC)芯片 Sohu。

IT之家查詢公開資料,Etched 公司由兩名哈佛大學輟學生加文?烏伯蒂(Gavin Uberti)和克里斯?朱(Chris Zhu)創(chuàng)立,成立時間不到 2 年。

Sohu 芯片最大的亮點在于直接把 Transformer 架構蝕刻到芯片中,烏伯蒂稱 Sohu 采用臺積電的 4 納米工藝制造,推理性能大大優(yōu)于 GPU 和其他通用人工智能芯片,同時能耗更低。

在 Llama 70B 吞吐量中,Sohu 每秒可處理超過 50 萬個 tokens,讓用戶可以構建 GPU 無法實現(xiàn)的產(chǎn)品。

Sohu 能夠實現(xiàn)實時語音代理、毫秒級處理數(shù)千字文本、更強大的代碼樹搜索、并行比較數(shù)百個響應、多播推測解碼以及實時生成新內容等功能,為未來萬億級參數(shù)模型的運行提供了可能。

IT之家附上官網(wǎng)鏈接,感興趣的用戶可以深入閱讀。

廣告聲明:文內含有的對外跳轉鏈接(包括不限于超鏈接、二維碼、口令等形式),用于傳遞更多信息,節(jié)省甄選時間,結果僅供參考,IT之家所有文章均包含本聲明。

相關文章

關鍵詞:芯片,AI
  • 日榜
  • 周榜
  • 月榜

軟媒旗下網(wǎng)站: IT之家 最會買 - 返利返現(xiàn)優(yōu)惠券 iPhone之家 Win7之家 Win10之家 Win11之家

軟媒旗下軟件: 軟媒手機APP應用 魔方 最會買 要知