IT之家 3 月 19 日消息,Mistral AI 公司于 3 月 17 日發(fā)布博文,推出最新 Mistral Small 3.1 模型,240 億參數(shù),128K 上下文,不僅能在本地運(yùn)行,降低成本,而且部分性能超過(guò) OpenAI 的 GPT-4o mini。
IT之家援引博文介紹,Mistral Small 3.1 主打高效運(yùn)行,可以在單張 RTX 4090 顯卡的 PC 或者 32GB 內(nèi)存的 Mac 上本地運(yùn)行,適用于虛擬助手等需要快速、準(zhǔn)確響應(yīng)的應(yīng)用,讓其成為預(yù)算有限的中小型企業(yè)和開(kāi)發(fā)者的理想選擇。
該模型無(wú)需依賴云端 AI 模型,支持本地?cái)?shù)據(jù)處理,從而降低了敏感信息泄露的風(fēng)險(xiǎn)。該模型還支持調(diào)用低延遲函數(shù),能夠在自動(dòng)化或代理工作流程中快速執(zhí)行函數(shù)。
Mistral Small 3.1 可用于各種需要多模態(tài)理解的企業(yè)和消費(fèi)者應(yīng)用,例如文檔驗(yàn)證、診斷、設(shè)備端圖像處理、質(zhì)量檢查視覺(jué)檢測(cè)、安全系統(tǒng)中的對(duì)象檢測(cè)、基于圖像的客戶支持和通用助手。
Mistral Small 3.1 在多個(gè)基準(zhǔn)測(cè)試中表現(xiàn)出色,在多語(yǔ)言理解、長(zhǎng)文本處理和多模態(tài)指令跟隨等方面都展現(xiàn)了強(qiáng)大的能力。
在多語(yǔ)言理解方面,Mistral Small 3.1 優(yōu)于 Gemma-3、Cohere Aya-Vision、GPT-4o Mini 和 Claude-3.5 Haiku 等模型。
在處理視覺(jué)和文本信息方面,Mistral Small 3.1 在視覺(jué)推理、圖表信息提取和圖解分析等方面表現(xiàn)出色,推理速度最高可以實(shí)現(xiàn)每秒 150 個(gè) tokens。
在問(wèn)題解答、知識(shí)檢索、代碼生成和數(shù)學(xué)問(wèn)題解決等任務(wù)中,Mistral Small 3.1 展現(xiàn)了強(qiáng)大的能力。
廣告聲明:文內(nèi)含有的對(duì)外跳轉(zhuǎn)鏈接(包括不限于超鏈接、二維碼、口令等形式),用于傳遞更多信息,節(jié)省甄選時(shí)間,結(jié)果僅供參考,IT之家所有文章均包含本聲明。