設(shè)置
  • 日夜間
    隨系統(tǒng)
    淺色
    深色
  • 主題色

OpenAI、谷歌等七家 AI 頭部企業(yè)承諾:將為人工智能內(nèi)容添加水印,開放第三方審查

2023/7/21 17:20:53 來(lái)源:IT之家 作者:汪淼 責(zé)編:汪淼

IT之家 7 月 21 日消息,據(jù)路透社報(bào)道,美國(guó)政府今日宣布,已獲得多家人工智能頭部公司的自愿承諾,將對(duì)人工智能生成的內(nèi)容加水印等措施,以幫助提高技術(shù)的安全性。

亞馬遜、Anthropic、谷歌、Inflection、Meta、微軟和 OpenAI 這七家公司都同意提高其系統(tǒng)的安全性和透明度,包括允許第三方專家對(duì)其模型進(jìn)行審查。

在發(fā)給 TechRadar 的一份聲明中,美國(guó)政府表示:“正在開發(fā)這些新興技術(shù)的公司有責(zé)任確保其產(chǎn)品的安全。為了充分發(fā)揮人工智能的潛力,美國(guó)政府鼓勵(lì)該行業(yè)堅(jiān)持最高標(biāo)準(zhǔn),以確保創(chuàng)新不會(huì)以犧牲美國(guó)人的權(quán)利和安全為代價(jià)?!?/p>

首先,這七家公司承諾在向公眾發(fā)布 AI 系統(tǒng)之前,對(duì)其進(jìn)行內(nèi)部和外部安全測(cè)試,并與相關(guān)行業(yè)參與者、政府、學(xué)術(shù)界和公眾共享信息,以幫助管理人工智能風(fēng)險(xiǎn)。

這些公司還將致力于網(wǎng)絡(luò)安全投資和內(nèi)部威脅控制,以“保護(hù)專有和未發(fā)布的模型權(quán)重”,這對(duì)于驅(qū)動(dòng)生成人工智能的數(shù)據(jù)模型的運(yùn)行至關(guān)重要。他們還同意促進(jìn)第三方調(diào)查并報(bào)告系統(tǒng)中的任何安全漏洞

七家公司還同意采取措施提高公眾對(duì)其系統(tǒng)的信任,包括開發(fā)一種方法來(lái)確保讓人們知道,他們何時(shí)看到人工智能生成的內(nèi)容,例如水印或其他措施。這些公司還將優(yōu)先研究人工智能模型帶來(lái)的社會(huì)風(fēng)險(xiǎn),包括可能導(dǎo)致的種族歧視和其他形式的偏見,以及“保護(hù)隱私”。

不過(guò)IT之家從公告中發(fā)現(xiàn),這些承諾都是相關(guān)企業(yè)自愿采取的措施,而且沒有違反的懲罰措施,因此并不能百分百保證嚴(yán)格執(zhí)行。

廣告聲明:文內(nèi)含有的對(duì)外跳轉(zhuǎn)鏈接(包括不限于超鏈接、二維碼、口令等形式),用于傳遞更多信息,節(jié)省甄選時(shí)間,結(jié)果僅供參考,IT之家所有文章均包含本聲明。

相關(guān)文章

關(guān)鍵詞:OpenAI,人工智能,AI 企業(yè)

軟媒旗下網(wǎng)站: IT之家 最會(huì)買 - 返利返現(xiàn)優(yōu)惠券 iPhone之家 Win7之家 Win10之家 Win11之家

軟媒旗下軟件: 軟媒手機(jī)APP應(yīng)用 魔方 最會(huì)買 要知