舊金山政府在全美首次允許警方使用機器人擊斃嫌犯，這一決定引發(fā)了巨大的爭議。這是否會在未來打開一個潘多拉魔盒，讓機器人鎮(zhèn)壓抗議示威成為現(xiàn)實，更顛覆機器人“不可殺人”的人工智能倫理準則？
治安惡化與爭議決議
上周二，舊金山議會通過了一項議案，同意授權(quán)舊金山警察局在必要的情況下，將警用機器人用于致命用途。用通俗的話說，他們批準警方在保護生命且沒有其它選擇的必要情況下，用機器人遠程殺死嫌犯。
這一極具爭議的決定不僅立即引發(fā)了全美媒體關(guān)注，也讓持續(xù)數(shù)年的“殺人機器人”話題重新成為了討論焦點。這份議案上個月提交討論時，就引發(fā)了舊金山灣區(qū)社會各界的普遍關(guān)注和激烈討論。
正式表決之前，舊金山市議會已經(jīng)就此事討論了數(shù)周時間。而投票表決當天，舊金山市議會圍繞著這一議題，進行了兩個多小時的激烈辯論。最終還是以 8：3 的投票結(jié)果，批準了舊金山警察局的裝備使用授權(quán)。
舊金山市議會批準這一議案的背景是，他們正承受著民眾要求打擊犯罪的呼聲。和美國很多大城市一樣，舊金山過去幾年也面臨著嚴重的治安惡化問題，讓民眾和商家怨聲載道。車窗被砸已經(jīng)成為舊金山停車的尋常體驗。
由于警方應(yīng)顧不暇，舊金山核心商業(yè)區(qū)多次發(fā)生光天化日之下肆無忌憚?chuàng)尳俪泻蜕莩奁飞痰甑氖录簧偕痰曛荒苓x擇關(guān)門撤離。除了打砸搶奪的財物犯罪案件居高不下，持槍搶劫殺人的惡性暴力犯罪事件也在日益增多。80 多萬人口的舊金山去年殺人案 56 起，比疫情之前 2019 年的 41 起有明顯增長。
由于對治安惡化問題不滿，今年 7 月，舊金山選民通過特別公投罷免了對犯罪問題應(yīng)對不力的激進左派地方檢察官布丁（Chesa Boudin）。在連任壓力下，舊金山市長承諾采取措施嚴打犯罪，而舊金山議會也連續(xù)引入新技術(shù)手段來遏制犯罪。今年 9 月，舊金山議會批準警方在特定情況下獲取私人監(jiān)控攝像頭數(shù)據(jù)。
在上周二的辯論過程中，支持與反對雙方都指責對方在制造恐慌。雙方都提出了自己的理由和擔憂。支持者認為這一授權(quán)是非常慎重和明確限制的，是在極端情況下給警方提供最后手段；但反對者則認為可能會帶來警方濫用武力的風險，更會加劇警方和有色人種，尤其是非裔之間的沖突。
提出這一議案的舊金山華裔議員陳詩敏（Connie Chan）表示，她理解外界對警方使用武力的擔憂情緒，但“我們需要根據(jù)加州法律使用這些裝備。這絕對不是一個輕率的討論?！绷硪晃蛔h員曼德爾曼（Rafael Mandelman）也投下支持票。他表示，激進派將警察視為危險和不值得信任的對立面，這對公共安全無益。
而反對的非裔議員沃爾頓（Shamann Walton）則強調(diào)，自己不是在針對警方，而是擔心提升警方武器裝備可能會增加警察與有色人種發(fā)生負面沖突的機會。相對而言，非裔民眾更為擔憂和反對警方濫用武力的可能性。
值得一提的是，舊金山檢察官也站在了警察局的對立面。就在舊金山議會表決前一天，舊金山檢察官辦公室發(fā)表公開信，認為授權(quán)機器人遠程殺人有悖于舊金山的進步價值觀，他們因此呼吁市議會禁止警方使用機器人針對任何人采用武力。
隨時可改裝加載武器
為什么會有這項授權(quán)表決？根據(jù)今年生效的一部加州新法律，加州警察局裝備軍用級別的設(shè)備需要獲取使用批準。為了預(yù)防恐怖襲擊事件，過去十年美國諸多城市的警察局都購置了一批軍用級別的防爆機器人。舊金山警察局也不例外，因此需要提交設(shè)備使用授權(quán)申請。
但舊金山警察局此次在申請授權(quán)的時候，加入了一個極端案例的使用場景申請，即在“公眾或者警察生命遭受迫切威脅，無法使用其他武力手段時，允許他們將機器人用于致命武器選擇”。這意味著，他們有權(quán)將機器人改裝成攻擊性武器，從而遠程擊斃或者炸死恐怖嫌犯。
舊金山警察局副局長拉扎爾（David Lazar）在市議會辯論環(huán)節(jié)中提到，他們申請極端情況授權(quán)是為了應(yīng)對 2017 年拉斯維加斯大規(guī)模槍擊案那樣的案例?！拔覀儽仨氁紤]，在那樣的情況下，（動用機器人）是一個可能的選擇。”
拉斯維加斯槍擊案是美國歷史上最血腥的大規(guī)模槍擊和國內(nèi)恐怖襲擊事件。2017 年 10 月 1 日，一名男子在賭城曼德拉灣酒店 32 樓套間，用二十多支經(jīng)過改裝的半自動步槍向樓下參加音樂會的人群瘋狂射擊了 1000 多發(fā)子彈。警方直到 1 個多小時之后才找到嫌犯，但他已經(jīng)自殺身亡，作案動機迄今依然成謎。此次槍擊案導(dǎo)致 61 人死亡（包括嫌犯），還有 500 多人受傷。
或許拉扎爾提到的這一場景太過令人震撼，最終舊金山議會還是以多數(shù)票同意了警察局的申請。但議會也對此作出了特別規(guī)定，要求警察只能在使用其他武力或避免戰(zhàn)術(shù)之后，或認定他們無法通過其他手段控制嫌犯之后，才能使用機器人用于致命用途。而且，只有少數(shù)高級別警官才能批準使用機器人作為致命武力。
為了化解外界對“殺人機器人”的擔憂情緒，舊金山警察局則強調(diào)，他們現(xiàn)有的機器人并沒有安裝武器，目前也沒有計劃這么做。但是在得到授權(quán)之后，如果在生命受到威脅時，他們就可以在機器人上安裝爆炸物，“接近、迷惑以及讓暴力、攜帶武器或者危險的嫌犯失去行動能力”，“安裝這些設(shè)備的機器人只會被用在極端情況下，用于保護或者防止無辜民眾繼續(xù)喪生?！?/p>
根據(jù)舊金山警局公布的裝備清單，他們目前共有 17 部拆彈機器人，其中 12 部可以投入使用。這些設(shè)備采購于 2010-2017 年，主要用于處理爆炸物、危險品或者在低能見度環(huán)境，此前從未安裝或被用于爆炸用途過。除了申請用于致命用途之外，舊金山警察局還申請將這些機器人用于“訓(xùn)練和模擬、刑事拘捕、重要事件、突發(fā)情況、執(zhí)行逮捕或處理可疑設(shè)備等情況”。
雖然舊金山警察局當前機器人并沒有安裝致命武器，但其中部分較新的型號是可以配裝武器并且遠程遙控操作的。型號 F5A 的拆彈機器人可以通過配件安裝大口徑步槍；另一部 QinetiQ Talon 的機器人也可以改裝成軍用版本，安裝手雷發(fā)射器、機槍以及反器材步槍，這原本就是美國陸軍使用的同款機器人的警用版。
換句話說，在得到舊金山市議會批準之后，舊金山警察局在滿足使用條件的情況下，隨時都可以將目前的拆彈機器人改裝成一部遠程操作和直接開火的機器人。而這正是外界擔憂的原因所在。
擔憂警方濫用機器人
與舊金山隔海相望的奧克蘭警察局上個月則因為公眾抗議，放棄了類似的改裝機器人用于極端場景的授權(quán)申請。種族矛盾是奧克蘭警方不得不考慮的因素。這里的黑人與拉丁裔人口比例合計超過 45%，是舊金山灣區(qū)比例最高的地區(qū)。
盡管緊鄰硅谷，奧克蘭卻是美國治安最糟糕的城市。去年暴力犯罪率高達 75.5，遠遠高于美國平均水平 22.7。新冠疫情更是加劇了社會矛盾和治安問題。奧克蘭這座 43 萬人口的城市，去年謀殺案高達 133 起，槍擊案更是接近 600 起，均創(chuàng)下了 2006 年以來的最高紀錄。
既然美國大城市社會治安這么糟糕，為什么還有那么多人反對授權(quán)警察更先進的武器應(yīng)對襲擊嫌犯？為什么警用機器人改裝成武器，會引發(fā)那么大的爭議？
2020 年美國新冠疫情爆發(fā)之后，社會矛盾進一步激化，更出現(xiàn)了多次大規(guī)模種族騷亂事件。在遏制游行示威行動中，美國各地的警察都與示威者發(fā)生了不同程度的沖突，更使用了催淚彈、煙霧彈等平暴手段。
此次舊金山警方獲準使用機器人擊斃嫌犯，即便明確規(guī)定了極端場景，也讓不少人擔心未來美國警方是否可能濫用機器人這種尖端科技手段來鎮(zhèn)壓民眾抗議示威活動，擔心屆時可能出現(xiàn)警方機器人阻止示威者前行的科幻場面。
南加州大學法學院教授伊麗莎白?喬（Elizabeth Joh）認為，弗洛伊德事件引發(fā)全球反種族歧視抗議僅僅過去兩年時間，舊金山批準警方使用機器人作為武器會影響民眾對執(zhí)法部門的信任。“我們是否愿意生活在一個警察用機器人殺人的世界，我肯定不愿意?！?/p>
雖然此次舊金山議會在全美率先批準警方改裝機器人，但達拉斯警察局早在 2016 年，就在一起大規(guī)模槍擊案中，率先將拆彈機器人用于攻擊用途并殺死嫌犯。
那年 7 月，一名曾經(jīng)上過阿富汗戰(zhàn)場的陸軍退伍軍人，因為對美國社會和種族問題不滿，在達拉斯市區(qū)用狙擊步槍殺死了 5 名警察并擊傷 9 名平民與警察，這是美國自 911 事件之后警察死傷最多的襲擊事件。達拉斯警方在與槍手對峙數(shù)個小時并且談判無果的情況下，在他們拆彈機器人 MARCbot 上加裝炸彈，遠程遙控移動到嫌犯附近引爆，炸死了這位拒絕放下武器的嫌犯。
達拉斯警方擊斃殺人嫌犯并沒有爭議，但使用遙控機器人擊斃卻引發(fā)了巨大的爭議，因為這是美國警方首次在國內(nèi)使用機器人殺人。達拉斯警察局長對此解釋說，“當時實在沒有其他選擇，這是唯一減少傷亡的手段。”
在此之前，美國警察也曾經(jīng)多次使用機器人來應(yīng)對嫌犯，但并沒有用機器人來直接擊斃嫌犯。2013 年新墨西哥州特警就使用了機器人潛入嫌犯所在房間進行偵查，2016 年加州警察也用過機器人和嫌犯進行談判和運送物資，避免派出談判專家。機器人的存在，大大降低了警察直接面對嫌犯的風險。
機器人早被用于戰(zhàn)場
實際上，此次舊金山警方尋求授權(quán)的機器人，早就被美國軍方投入戰(zhàn)場使用。2011 年的《不斷變化的戰(zhàn)爭角色》（The Changing Character of War）一書記載，美軍士兵在伊拉克遇到伏擊危險的時候，就會讓 MARCbot 機器人先去探路，如果發(fā)現(xiàn)敵人就直接遠程引爆安裝在上面的 Claymore 地雷。售價僅為 5000 美元的 MARCbot 機器人因為個頭小、動靜輕、成本低等優(yōu)勢，成為美軍士兵的“最愛替死鬼”。
從某種程度來說，無人機也是作戰(zhàn)機器人。從阿富汗戰(zhàn)爭時期開始，無人機就開始從偵查用途轉(zhuǎn)向攻擊手段，被美軍普遍用于遠程襲擊。而從 2020 年的亞美尼亞阿塞拜疆納卡沖突起，無人機更是成為了現(xiàn)代戰(zhàn)爭主力。阿塞拜疆軍方派出大量攜帶炸彈的無人機對亞美尼亞地面部隊以及防空體系展開了密集攻擊，成為他們贏得戰(zhàn)爭的重要手段。
今年 10 月，波士頓動力、Agility Robotics、ANYbotics 等五家機器人公司聯(lián)合簽署了一份請愿書，呼吁用戶不要將他們的機器人用于攻擊用途?！霸谶h程遙控或者自動運行的機器人上加裝武器，會帶來對人類的新風險以及嚴重的道德問題。”
然而，這份請愿書只是象征用途，并沒有任何約束力。美國軍方本就是這些機器人公司的重要客戶和資金來源，波士頓動力的機器狗也被美國軍方和警察用于后勤、偵查等諸多用途。波士頓動力根本無力阻止美軍將自己的機器狗改裝成攜帶武器的殺人狗。
相比遠程遙控的機器人與無人機，更為可怕的威脅則來自于“AI 殺人機器人”，即搭載視覺識別等人工智能技術(shù)的新一代全自動武器。這類機器人或無人機可以無需人工操作，靠著計算芯片和多種傳感器，根據(jù)預(yù)先設(shè)定的程序自動選擇攻擊目標并發(fā)起攻擊。
目前還沒有此類機器人投入使用的正式記錄，但未來一旦出現(xiàn)并投入使用，勢必會動搖“不可用于殺人”的機器人倫理準則。隨著 AI 技術(shù)的不斷成熟，歐美各界都在擔憂如果不采取全球協(xié)調(diào)一致的有效措施，“AI 殺人機器人”的出現(xiàn)只會是時間問題。
早在 2013 年，科學界和法律界的專家就組建了“國際機器人武器控制委員會”（International Committee for Robot Arms Control），致力于推動各國和平使用機器人，對機器人武器研發(fā)生產(chǎn)采取共同監(jiān)管措施。該組織明確提出，“不能允許機器人自主作出殺人的決定”。
2015 年，霍金等全球 1000 多名知名科學家和人工智能專家聯(lián)合發(fā)表公開信，警告未來全球可能會出現(xiàn)人工智能軍備競賽，督促聯(lián)合國發(fā)布攻擊性自動化武器的禁令。其中包括了特斯拉 CEO 馬斯克、蘋果聯(lián)合創(chuàng)始人沃茲尼亞克以及谷歌 DeepMind 項目負責人等來自硅谷的代表。
公開信寫道，“盡管不合法，自動化武器的使用會在未來幾年，而不是幾十年內(nèi)成為現(xiàn)實。這會給人類社會帶來極大的風險，自動化武器會成為火藥和核武器之后的第三次武器革命。我們必須呼吁聯(lián)合國禁止此類武器，就像禁止化學武器一樣。”
廣告聲明：文內(nèi)含有的對外跳轉(zhuǎn)鏈接（包括不限于超鏈接、二維碼、口令等形式），用于傳遞更多信息，節(jié)省甄選時間，結(jié)果僅供參考，IT之家所有文章均包含本聲明。