聯(lián)合國(guó)《特定常規(guī)武器公約》政府專家小組４月９日在瑞士日內(nèi)瓦召開會(huì)議，預(yù)定討論致命自主武器系統(tǒng)研發(fā)，也就是常說的“殺手機(jī)器人”可能帶來的影響。 ５０多名世界知名人工智能和機(jī)器人研究人員４日宣布，將聯(lián)合抵制韓國(guó)科學(xué)技術(shù)院，抗議該機(jī)構(gòu)研發(fā)人工智能武器的計(jì)劃。 與此同時(shí)，一封公開信已在美國(guó)谷歌公司內(nèi)部流傳數(shù)周，超過３０００名谷歌員工簽名要求公司退出一項(xiàng)美國(guó)五角大樓人工智能軍事計(jì)劃。 人工智能迅速發(fā)展給社會(huì)各個(gè)領(lǐng)域帶來深遠(yuǎn)影響，對(duì)軍事作戰(zhàn)系統(tǒng)研發(fā)也帶來全新理念。然而，人工智能界的專家學(xué)者及防務(wù)分析人士認(rèn)為，機(jī)器人暴動(dòng)僅是科幻小說式的終極噩夢(mèng)，軍事機(jī)器人革命帶來的倫理、法律及政策等問題，尤其是自主武器能否自行判斷殺敵與否，才是人們亟須擔(dān)憂和討論的現(xiàn)實(shí)問題。 大多數(shù)專家學(xué)者一直認(rèn)為，使用致命武器時(shí)，人應(yīng)當(dāng)是負(fù)責(zé)啟動(dòng)的關(guān)鍵要素。對(duì)什么樣的人工控制才是最適宜的討論還未結(jié)束，相關(guān)的政策制定又已被人工智能技術(shù)的飛速發(fā)展甩在身后。隨著具有認(rèn)知能力人工智能系統(tǒng)的出現(xiàn)，更復(fù)雜的問題出現(xiàn)了。 新美國(guó)基金會(huì)研究人員、防務(wù)政策分析人士辛格在其著作《連線戰(zhàn)爭(zhēng)：２１世紀(jì)機(jī)器人革命和沖突》中指出，地緣政治、知識(shí)前沿領(lǐng)域不斷前進(jìn)的動(dòng)力甚至是追求利益的科技企業(yè)，都是人工智能發(fā)展不可阻擋的力量。簡(jiǎn)單來說，大部分人現(xiàn)在最感到恐懼的是該不該讓能夠“思考”的人工智能系統(tǒng)決定是否殺人。 新美國(guó)安全中心技術(shù)和國(guó)家安全項(xiàng)目主管沙雷表示，自主武器系統(tǒng)可能因代碼問題或黑客攻擊而失靈，機(jī)器人攻擊人類部隊(duì)，人類無法作出反應(yīng)或局部局勢(shì)迅速升級(jí)的情況都有可能發(fā)生。自主武器系統(tǒng)的可靠性難以測(cè)試，會(huì)“思考”的機(jī)器系統(tǒng)可能以人類操控者從未想象到的方式行事。 美國(guó)國(guó)防部前副部長(zhǎng)米勒認(rèn)為，自主武器系統(tǒng)在戰(zhàn)事激烈的地區(qū)執(zhí)行任務(wù)，讓機(jī)器全權(quán)負(fù)責(zé)的誘惑可能會(huì)難以抵制，技術(shù)上的可能總是讓人們作出利于形勢(shì)的選擇。 對(duì)于自主武器系統(tǒng)，人工智能界的專家學(xué)者頻頻說“不”，拒絕進(jìn)行相關(guān)領(lǐng)域的研發(fā)。例如，韓國(guó)科學(xué)技術(shù)院研制的機(jī)器人曾經(jīng)贏得２０１５年美國(guó)國(guó)防部高級(jí)研究項(xiàng)目局機(jī)器人挑戰(zhàn)賽的冠軍。據(jù)《韓國(guó)時(shí)報(bào)》報(bào)道，韓國(guó)科學(xué)技術(shù)院和軍工企業(yè)韓華系統(tǒng)合作成立研發(fā)中心，目的就是為了研發(fā)可以“無需人工控制就能搜尋并清除目標(biāo)”的人工智能武器。 對(duì)此，５０多名頂尖人工智能研究人員在公開信中說，他們將抵制和韓國(guó)科學(xué)技術(shù)院的任何合作，直到該機(jī)構(gòu)宣布不會(huì)研發(fā)任何缺乏人類控制的自主武器。韓國(guó)科學(xué)技術(shù)院隨后發(fā)表聲明說，他們沒有研發(fā)“致命自動(dòng)武器系統(tǒng)或殺手機(jī)器人”的計(jì)劃。 美國(guó)五角大樓“梅文計(jì)劃”始于２０１７年，旨在找到加速軍方應(yīng)用最新人工智能技術(shù)的方式。盡管五角大樓和谷歌都表示，谷歌的產(chǎn)品不會(huì)創(chuàng)造出無需人類操作者就能開火的自主武器系統(tǒng)，但谷歌員工在公開信中說，參與“梅文計(jì)劃”將對(duì)谷歌的品牌和人才吸引力造成不可挽回的傷害，谷歌不應(yīng)卷入戰(zhàn)爭(zhēng)，谷歌及其合約商永遠(yuǎn)不應(yīng)該發(fā)展戰(zhàn)爭(zhēng)科技。 在２０１７年人工智能國(guó)際會(huì)議上，有硅谷“鋼鐵俠”之稱的馬斯克、蘋果聯(lián)合創(chuàng)始人之一沃茲尼亞克、研發(fā)“阿爾法圍棋”的深度思維公司哈薩比斯等人，都曾簽署公開信，呼吁聯(lián)合國(guó)應(yīng)像禁止生化武器一樣，禁止在戰(zhàn)爭(zhēng)中使用致命的自主武器和“殺手機(jī)器人”。 | 
