IT之家 12 月 18 日消息，谷歌通過(guò)更新使用政策的形式明確表示，只要有人工監(jiān)督，客戶可以在“高風(fēng)險(xiǎn)”領(lǐng)域（如醫(yī)療保健）使用其生成式人工智能工具來(lái)作出“自動(dòng)決策”。
根據(jù)該公司周二發(fā)布的《生成式 AI 禁止使用政策》更新版，客戶可以在一定條件下使用谷歌的生成式 AI 作出可能對(duì)個(gè)人權(quán)利產(chǎn)生重大不利影響的“自動(dòng)化決策”，例如在就業(yè)、住房、保險(xiǎn)和社會(huì)福利等領(lǐng)域。這些決策只要在某種形式上有人類(lèi)監(jiān)督，就被允許實(shí)施。
IT之家注：在人工智能領(lǐng)域，自動(dòng)化決策是指 AI 系統(tǒng)基于事實(shí)或推斷數(shù)據(jù)作出的決策。例如，AI 可能會(huì)根據(jù)申請(qǐng)人的數(shù)據(jù)作出是否批準(zhǔn)貸款的決定，或者篩選求職者。
谷歌之前的條款草案表示，涉及生成式 AI 的高風(fēng)險(xiǎn)自動(dòng)化決策應(yīng)當(dāng)全面禁止。但谷歌向外媒 TechCrunch 透露，其生成式 AI “實(shí)際上從未禁止”過(guò)高風(fēng)險(xiǎn)領(lǐng)域的自動(dòng)化決策，前提是有人工監(jiān)督。
谷歌發(fā)言人在接受采訪時(shí)表示：“人工監(jiān)督要求一直存在，適用于所有高風(fēng)險(xiǎn)領(lǐng)域?！彼a(bǔ)充說(shuō)：“我們只是對(duì)條款進(jìn)行了重新分類(lèi)，并更清楚地列舉了一些具體例子，目的是讓用戶更加明了。”
針對(duì)那些影響個(gè)人的自動(dòng)化決策，監(jiān)管機(jī)構(gòu)對(duì) AI 的潛在偏見(jiàn)表示關(guān)切。例如，研究顯示，用于審批信用和抵押貸款申請(qǐng)的 AI 系統(tǒng)可能會(huì)加劇歷史上存在的歧視問(wèn)題。
報(bào)道稱(chēng)，因?yàn)樽詣?dòng)決策系統(tǒng)可能會(huì)影響到個(gè)體，監(jiān)管機(jī)構(gòu)對(duì)此類(lèi)人工智能系統(tǒng)的潛在偏見(jiàn)問(wèn)題表示關(guān)注。研究表明，用于信用和抵押貸款審批的人工智能系統(tǒng)可能會(huì)加劇歷史上的歧視問(wèn)題。
廣告聲明：文內(nèi)含有的對(duì)外跳轉(zhuǎn)鏈接（包括不限于超鏈接、二維碼、口令等形式），用于傳遞更多信息，節(jié)省甄選時(shí)間，結(jié)果僅供參考，IT之家所有文章均包含本聲明。