IT之家 3 月 4 日消息，近年來，隨著人工智能（AI）技術(shù)的快速發(fā)展，日本企業(yè)和部分政府部門紛紛涉足這一領(lǐng)域，試圖通過技術(shù)手段提升效率、解決人手短缺等問題。然而，該國一項旨在保護(hù)兒童免受虐待的人工智能系統(tǒng)項目卻因技術(shù)缺陷而宣告失敗。
據(jù)《讀賣新聞》報道，日本兒童與家庭機(jī)構(gòu)（Children & Families Agency）曾投入約 10 億日元（IT之家備注：當(dāng)前約 4850.6 萬元人民幣），開發(fā)一套基于人工智能的系統(tǒng)，用于檢測兒童虐待行為。該系統(tǒng)并非用于替代人類專家，而是協(xié)助負(fù)責(zé)臨時監(jiān)護(hù)兒童的專家，判斷這些兒童是否適合返回父母身邊。系統(tǒng)通過分析 5000 起已確認(rèn)的兒童虐待案例進(jìn)行訓(xùn)練，依據(jù) 91 個數(shù)據(jù)點(diǎn)（包括兒童的傷痕、父母的態(tài)度等）對新案例進(jìn)行評分，判斷虐待的可能性。
然而，這套系統(tǒng)在實際測試中表現(xiàn)不佳。在對 100 起已確定存在虐待風(fēng)險的案例進(jìn)行分析時，系統(tǒng)僅正確標(biāo)記了 38 起，其余 62 起均被判定為“風(fēng)險極低”。其中，一個孩子聲稱母親多次將其頭部撞擊地面，將其打得“半死”，但系統(tǒng)卻給出了 2 到 3 分的極低評分（滿分 100 分）。專家指出，系統(tǒng)過于依賴物理證據(jù)，忽視了口頭證詞的重要性，同時 5000 個案例的數(shù)據(jù)量遠(yuǎn)遠(yuǎn)不足以充分訓(xùn)練系統(tǒng)。此外，該機(jī)構(gòu)承認(rèn)系統(tǒng)在數(shù)據(jù)采集方面存在缺陷，例如無法準(zhǔn)確記錄兒童體重下降或傷痕等關(guān)鍵信息。
基于上述問題，兒童與家庭機(jī)構(gòu)最終決定放棄該項目。
日本目前正面臨人口老齡化和勞動力短缺的雙重挑戰(zhàn)，兒童保護(hù)機(jī)構(gòu)也面臨著來自受害者權(quán)益倡導(dǎo)者的指責(zé)，認(rèn)為日本在處理兒童虐待問題時過于遷就父母，將孩子置于危險之中。隨著大型語言模型（LLM）等生成式 AI 技術(shù)的興起，許多公司紛紛在其軟件系統(tǒng)中添加“AI”功能，但兒童與家庭機(jī)構(gòu)的案例表明，缺乏高質(zhì)量、高容量的數(shù)據(jù)是機(jī)器學(xué)習(xí)和 AI 應(yīng)用的常見瓶頸。
廣告聲明：文內(nèi)含有的對外跳轉(zhuǎn)鏈接（包括不限于超鏈接、二維碼、口令等形式），用于傳遞更多信息，節(jié)省甄選時間，結(jié)果僅供參考，IT之家所有文章均包含本聲明。