IT之家 1 月 18 日消息，英偉達(dá)宣布推出一項(xiàng)名為“NIM”的 AI 護(hù)欄服務(wù)，該服務(wù)現(xiàn)已以英偉達(dá) NeMo 護(hù)欄（NeMo Guardrails）套件的形式提供，可以讓開發(fā)人員為大語言模型（LLM）添加一系列護(hù)欄規(guī)則，旨在解決用戶通過提示詞“越獄”大模型，防止 AI 生成不符合預(yù)期的內(nèi)容。
英偉達(dá)表示，相應(yīng) AI 護(hù)欄服務(wù)套件基于英偉達(dá)的 Aegis 內(nèi)容安全數(shù)據(jù)集進(jìn)行訓(xùn)練而成，該數(shù)據(jù)集包含了 3.5 萬個(gè)標(biāo)注的數(shù)據(jù)樣本，并已在 Hugging Face 上公開，IT之家附地址如下（點(diǎn)此訪問）。
英偉達(dá)指出，相應(yīng) AI 護(hù)欄套件具有體積小、效率高的特點(diǎn)，在大部分場合中都能流暢運(yùn)行，企業(yè)可以在開發(fā) AI 模型時(shí)直接嵌入相應(yīng)安全套件，可以改善醫(yī)療、汽車、制造業(yè)等領(lǐng)域部署的 AI 安全性。
此外，英偉達(dá)還提供了公布了一項(xiàng)名為 Garak 的漏洞掃描工具，用于檢測模型的安全性，防止模型可能輸出幻覺內(nèi)容或泄露企業(yè)內(nèi)部機(jī)密信息。
廣告聲明：文內(nèi)含有的對外跳轉(zhuǎn)鏈接（包括不限于超鏈接、二維碼、口令等形式），用于傳遞更多信息，節(jié)省甄選時(shí)間，結(jié)果僅供參考，IT之家所有文章均包含本聲明。