設(shè)置
  • 日夜間
    隨系統(tǒng)
    淺色
    深色
  • 主題色

《柳葉刀》:AI 診斷系統(tǒng)可分辨患者的種族,準(zhǔn)確率高達(dá) 90%

雷峰網(wǎng) 2022/6/5 10:30:56 責(zé)編:汪淼

麻省理工學(xué)院和哈佛大學(xué)的一個研究團(tuán)隊在醫(yī)學(xué)雜志《柳葉刀數(shù)字健康》上發(fā)表文章,稱 AI 程序可以從 X 射線和 CT 掃描結(jié)果中分辨患者的種族,準(zhǔn)確率高達(dá) 90%

這并不是一個好消息,因為連科學(xué)家們都沒弄清楚這些 AI 程序是如何做到分辨種族的。

“當(dāng)我的研究生向我展示這篇論文中的某些結(jié)果時,我認(rèn)為這一定出了差錯?!必?fù)責(zé)分析對應(yīng)主題的論文作者之一,麻省理工學(xué)院助理教授 Marzyeh Ghassemi 告訴媒體,“當(dāng)他們告訴我的時候,我真的以為我的學(xué)生瘋了。”

Marzyeh Ghassemi

▲ Marzyeh Ghassemi

這篇文章中提到,AI 診斷系統(tǒng)似乎會根據(jù)種族對患者進(jìn)行診斷和治療,而非患者的個人身體狀況。這種做法將會損害患者的健康。

研究人員提到一個案例,AI 程序在檢查胸部 X 光片時,漏掉黑人和女性患者身體病變的幾率更高。

而這項研究的目的,正是確認(rèn) AI 系統(tǒng)從醫(yī)學(xué)影像中檢測人類種族的程度,以及它們?nèi)绾螐闹袡z測出種族信息。

為此,研究團(tuán)隊使用人類身體不同部位的醫(yī)學(xué)圖像對 AI 系統(tǒng)進(jìn)行訓(xùn)練。被提供給 AI 系統(tǒng)的醫(yī)學(xué)影像中,不包含頭發(fā)質(zhì)地、膚色以及 BMI 或骨密度等明顯的種族標(biāo)記。

通過測試,研究人員發(fā)現(xiàn),AI 系統(tǒng)對人類種族的識別準(zhǔn)確率高達(dá) 90%。不論是哪個身體部位的醫(yī)學(xué)影像,AI 系統(tǒng)都能從中識別出種族信息。

更令人驚訝的是,即便是嚴(yán)重缺失或損壞的醫(yī)學(xué)影像,AI 系統(tǒng)也能從中準(zhǔn)確識別種族。

研究人員更關(guān)心的,并非是 AI 系統(tǒng)能夠檢測人類種族這件事情本身,而是 AI 系統(tǒng)的臨床表現(xiàn)將因為這些種族偏見受到影響。而醫(yī)生可能會忽略 AI 系統(tǒng)診斷結(jié)果中的誤差。

文章的作者表示,“AI 預(yù)測種族身份的能力本身并不重要,但是這種能力很可能存在于許多醫(yī)學(xué)影像分析模型中,這將會使臨床中已經(jīng)存在的種族差異問題惡化。”

人類目前還無法確認(rèn) AI 系統(tǒng)從醫(yī)學(xué)影像的哪些特征中檢測出患者的種族,加之 AI 能夠從身體任何部位的醫(yī)學(xué)影像,以及嚴(yán)重?fù)p壞的醫(yī)學(xué)影像中識別患者種族,這意味著使用醫(yī)學(xué)成像技術(shù)創(chuàng)建一個沒有種族偏見的 AI 系統(tǒng)將會非常困難。

Ghassemi 告訴媒體,她猜測,也許是醫(yī)學(xué)圖像以某種未知方式記錄了患者皮膚中黑色素的水平,從而被 AI 系統(tǒng)識別。

根據(jù)研究結(jié)果,也有可能是種族之間存在一些先天的差異。

罕布什爾學(xué)院生物人類學(xué)教授、《種族主義不是種族》的作者之一 Alan Goodman 告訴媒體,他不太認(rèn)同這種說法。

Alan Goodman

▲ Alan Goodman

在過往的研究中,科學(xué)家們很難在人類基因組中找到一致的種族差異,但往往能根據(jù)人類祖先的進(jìn)化找到一致的遺傳差異。因此,人與人之間的基因差異,更大概率是源于人類個體祖先進(jìn)化的不同特征,而非種族。

Ghassemi 表示,這一問題還需要進(jìn)行更多的研究才能得出明確的結(jié)論。

“我們需要暫停 AI 系統(tǒng)的落地,”麻省理工學(xué)院的科學(xué)家、醫(yī)生 Leo Anthony Celi 說,“在確認(rèn) AI 系統(tǒng)沒有做出種族主義決定或性別歧視決定之前,我們不能急于將其帶入醫(yī)院和診所。”

廣告聲明:文內(nèi)含有的對外跳轉(zhuǎn)鏈接(包括不限于超鏈接、二維碼、口令等形式),用于傳遞更多信息,節(jié)省甄選時間,結(jié)果僅供參考,IT之家所有文章均包含本聲明。

相關(guān)文章

關(guān)鍵詞:柳葉刀,種族,AI

軟媒旗下網(wǎng)站: IT之家 最會買 - 返利返現(xiàn)優(yōu)惠券 iPhone之家 Win7之家 Win10之家 Win11之家

軟媒旗下軟件: 軟媒手機APP應(yīng)用 魔方 最會買 要知