IT之家 5 月 23 日消息,亞馬遜公司的云部門(mén)宣布,已與人工智能初創(chuàng)公司 Hugging Face 合作,將在亞馬遜的定制計(jì)算芯片上更低成本地運(yùn)行數(shù)千個(gè) AI 模型。
估值 45 億美元(IT之家備注:當(dāng)前約 326.25 億元人民幣)的 Hugging Face 已成為 AI 研究人員和開(kāi)發(fā)者分享聊天機(jī)器人或其他 AI 軟件的中心,并得到了亞馬遜、Alphabet 旗下的谷歌和英偉達(dá)等公司的支持,它是開(kāi)發(fā)者獲取和調(diào)整開(kāi)源 AI 模型(如 Meta Platforms 的 Llama 3)的主要平臺(tái)。
當(dāng)開(kāi)發(fā)人員調(diào)整了開(kāi)源的 AI 模型后,他們通常希望使用該模型來(lái)驅(qū)動(dòng)軟件。亞馬遜和 Hugging Face 周三宣布,他們已經(jīng)合作在一個(gè)名為 Inferentia2 的定制亞馬遜網(wǎng)絡(luò)服務(wù)(AWS)芯片上實(shí)現(xiàn)這一目標(biāo)。
“對(duì)我們來(lái)說(shuō),效率非常重要 —— 確保盡可能多的人能夠運(yùn)行模型,并且能夠以最具成本效益的方式運(yùn)行,”Hugging Face 的產(chǎn)品和增長(zhǎng)負(fù)責(zé)人 Jeff Boudier 說(shuō)。
AWS 希望吸引更多的 AI 開(kāi)發(fā)者使用其云服務(wù)來(lái)交付 AI。雖然英偉達(dá)在訓(xùn)練模型的市場(chǎng)上占據(jù)主導(dǎo)地位,但 AWS 認(rèn)為其芯片可以以較低成本運(yùn)行那些經(jīng)過(guò)訓(xùn)練的模型。
負(fù)責(zé) AWS 人工智能產(chǎn)品的 Matt Wood 表示,你可能每個(gè)月訓(xùn)練這些模型一次,但可能每小時(shí)對(duì)它們進(jìn)行成千上萬(wàn)次推理,這是 Inferentia2 真正閃光的地方。
廣告聲明:文內(nèi)含有的對(duì)外跳轉(zhuǎn)鏈接(包括不限于超鏈接、二維碼、口令等形式),用于傳遞更多信息,節(jié)省甄選時(shí)間,結(jié)果僅供參考,IT之家所有文章均包含本聲明。