Bayraktar TB2無人機可以自動起飛和降落，但需要由人類操作人員發(fā)起攻擊。圖片來源：NINA LIASHONOK—UKRINFORM/FUTURE PUBLISHING/GETTY IMAGES

位于烏克蘭基輔（Kyiv）的街頭，裝有爆炸物的無人機像死魚一般肚皮朝上躺在地上，發(fā)出刺耳的噪音，尾部的螺旋槳已經(jīng)變形。這架無人機攜帶的致命爆炸物并未引爆，墜毀原因可能是故障或者被擊落。

這架無人機的照片很快被上傳到社交媒體，有武器專家確認這是由俄羅斯的武器制造商卡拉什尼科夫集團（Kalashnikov）的無人機部門扎拉航空（Zala Aero）生產(chǎn)的KUB-BLA“巡飛彈”。這類巡飛彈俗稱“自殺式無人機”，可以自動飛到指定區(qū)域，巡航最長30分鐘。

無人機的操作員能夠遠程監(jiān)控其拍回的視頻，等到地面出現(xiàn)敵軍的士兵或者坦克時發(fā)起攻擊。在某些情況下，無人機會安裝人工智能軟件，使其可以根據(jù)輸入到機載系統(tǒng)的圖像獵殺指定目標。無論在哪種情況下，只要無人機發(fā)現(xiàn)敵人并且操作人員選擇攻擊，這種無人機就會朝目標俯沖而下，然后爆炸。

俄烏戰(zhàn)場成為日益先進的巡飛彈的重要試驗場。這引起了人權(quán)活動家和技術(shù)人員的警惕。他們擔心，這代表戰(zhàn)場上利用“殺手機器人”的時代即將來臨。這些由人工智能控制的武器有可能會在沒有人類決策的情況下自動獵殺人類。

隨著這項技術(shù)的快速完善和成本下降，它引起了各國軍隊的密切關(guān)注。小型半自動無人機的賣點在于，它的價格只有體型更大的“捕食者”（Predator）無人機的幾分之一，而且不需要由經(jīng)驗豐富的飛行員遠程操控。“捕食者”無人機的價格可能高達數(shù)千萬美元。步兵只要接受一點培訓，就能夠輕松使用這些新型自動化武器。

美國海軍海豹突擊隊（Navy SEAL）的前隊員、美國Shield AI公司的聯(lián)合創(chuàng)始人及首席增長官布蘭登·曾（Brandon Tseng）說：“‘捕食者’無人機的價格過于昂貴，因此各國開始思考：‘能否用體積更小、價格更低的無人機實現(xiàn)98%的作戰(zhàn)效果？’”Shield AI公司致力于生產(chǎn)小型無人偵察機，使用人工智能進行導航和圖像分析。

但人權(quán)組織和一些計算機科學家擔心，這項技術(shù)將給戰(zhàn)區(qū)的平民甚至整個人類帶來新的嚴重威脅。

國際特赦組織（Amnesty International）的高級顧問維里蒂·科伊爾（Verity Coyle）稱：“目前的巡飛彈還有人類操作人員負責決定攻擊目標，但取消人類操作并不難。一個巨大的威脅在于，如果沒有清晰的法規(guī)，也就無法明確使用無人機的紅線在哪里?！眹H特赦組織參與了“停止殺手機器人”（Stop Killer Robots）活動。

聯(lián)合市場研究公司（Allied Market Research）預測，全球人工智能驅(qū)動的各類致命武器市場發(fā)展迅速，其規(guī)模將從今年的近120億美元，增長到這個十年底的300億美元。Grand View Research公司表示，僅美國目前每年在巡飛彈方面的支出就高達約5.8億美元，到這個十年底將增加到10億美元。

從事巡飛彈生產(chǎn)的以色列國防公司UVision的國際銷售與營銷總監(jiān)達干·勒夫·阿里（Dagan Lev Ari）表示，最初巡飛彈需求增長緩慢，直到2020年亞美尼亞與阿塞拜疆爆發(fā)沖突。當時阿塞拜疆使用先進無人機和巡飛彈摧毀了亞美尼亞的大量坦克和火炮，幫助其取得了決定性的勝利。

勒夫·阿里指出，那場戰(zhàn)爭讓許多國家對巡飛彈產(chǎn)生了興趣。美國開始大規(guī)模采購，包括UVision的“英雄”（Hero）系列自殺式無人機，以及由美國公司AeroVironment生產(chǎn)的“彈簧刀”（Switchblade）無人機，也推動了該市場的增長。勒夫·阿里補充道，俄烏沖突加快了需求增長速度。他說：“人們突然發(fā)現(xiàn)歐洲可能爆發(fā)一場戰(zhàn)爭，國防預算不斷增加?！?/p>

巡飛彈的價格雖然低于某些武器，但實際上并不便宜。例如，有報告稱，一架“彈簧刀”無人機包括發(fā)射控制系統(tǒng)和彈藥在內(nèi)的價格高達7萬美元。

據(jù)稱，美國將向烏克蘭提供了100架“彈簧刀”無人機。這些“彈簧刀”無人機將作為烏克蘭現(xiàn)有的土耳其造Bayraktar TB2無人機的補充。Bayraktar TB2無人機可以自動起飛、降落和巡航，但需要由人類操作人員尋找目標和發(fā)出發(fā)射機載火箭或投彈的命令。

巡飛彈并不是新鮮事物。最早的巡飛彈能夠追溯到20世紀60年代，當時的飛航式導彈可以飛到指定區(qū)域搜索敵軍防空系統(tǒng)的雷達信號。區(qū)別在于現(xiàn)在的巡飛彈技術(shù)更復雜、更準確。

理論上，人工智能武器系統(tǒng)能夠減少戰(zhàn)場上的平民傷亡。計算機處理信息的速度比人類更快，并且不會受到戰(zhàn)斗帶來的生理和情緒壓力的影響。在激烈交火中，計算機還可以更準確地判斷房子后面突然出現(xiàn)的是敵軍士兵還是一名兒童。

但人權(quán)活動家和許多人工智能研究者卻警告，面對是否要扼殺一個人的生命這個對所有人而言都最重要的決定，今天基于機器學習的算法在實踐中并不值得信任。圖像識別軟件在某些測試中雖然能夠媲美人類的能力，但在許多現(xiàn)實場景中，比如雨天或雪天環(huán)境，或者在光影對比明顯的環(huán)境下，這類軟件有明顯的不足。

它經(jīng)常會犯一些人類從來不會犯的稀奇古怪的錯誤。例如在一次試驗中，研究人員成功欺騙了一個人工智能系統(tǒng)，通過微調(diào)圖像的像素圖案，使系統(tǒng)把一只烏龜識別成一把步槍。

即使目標識別系統(tǒng)可以做到完全精確無誤，自動武器依舊會帶來嚴重的威脅，除非它能夠理解整個戰(zhàn)場上的細微差別。比如，人工智能系統(tǒng)可以準確識別敵軍坦克，卻無法理解它?？康牡攸c在一家幼兒園旁邊，為避免平民受傷不應該發(fā)動攻擊。

支持禁止使用自動武器的人們還強調(diào)了“殺戮機器人”的危險，例如大量價格相對低廉的小型無人機群經(jīng)過改造能夠投放具有殺傷性的手榴彈，或者改造為巡飛彈。理論上，這類無人機群可以用于殺死某個區(qū)域內(nèi)的所有人，或者實施種族滅絕，殺死具有某類種族特征的所有人，甚至能夠利用面部識別技術(shù)來執(zhí)行暗殺。

麻省理工學院（MIT）的物理學教授、生命未來研究所（Future of Life Institute）的聯(lián)合創(chuàng)始人馬克思·泰格馬克（Max Tegmark）表示，成群結(jié)隊的殺戮機器人將成為“窮人的大規(guī)模毀滅性武器。”生命未來研究所致力于解決人類面臨的“生存風險”。這類自動化武器可能動搖現(xiàn)有的世界秩序，因此他希望美國和俄羅斯等大國至少可以同意禁用這類殺戮機器人無人機和巡飛彈，盡管這些國家一直在研發(fā)從機器人潛艇到無人駕駛戰(zhàn)機等各種人工智能武器。

聯(lián)合國（United Nations）希望出臺禁令，限制致命自動化武器的開發(fā)和銷售，但到目前為止以失敗告終。聯(lián)合國下屬的一個委員會已經(jīng)用八年多時間，討論如何處理這類武器，但始終未能達成任何共識。

雖然現(xiàn)在有66個國家支持出臺相關(guān)禁令，但該委員會需要達成共識才能夠運行，而美國、英國、俄羅斯、以色列和印度均持反對立場。中國雖然也在開發(fā)人工智能武器，但已經(jīng)表態(tài)支持禁令，只是在各國沒有簽署條約的情況下，中國不會單方面放棄研發(fā)。

對于殺戮機器人帶來的反烏托邦未來，生產(chǎn)巡飛彈和其他人工智能武器的公司表示，這些武器只是為了增強人類在戰(zhàn)場上的能力，而不是要取代人類。勒夫·阿里稱：“我們不希望武器自動攻擊?！钡姓J其公司正在武器中添加基于人工智能的目標識別系統(tǒng)，以提高其自主性。他說：“這是為了協(xié)助人類做出必要決策?！?/p>

勒夫·阿里指出，即使武器可以找到目標，比如發(fā)現(xiàn)一輛敵軍坦克，這并不意味著它是最佳攻擊目標。他說：“那輛坦克可能已經(jīng)無法行駛，而附近可能還有一輛更具有威脅性的坦克?！?/p>

英國謝菲爾德大學（University of Sheffield）的計算機科學專業(yè)榮譽教授諾埃爾·夏基（Noel Sharkey）是“停止殺手機器人”活動的發(fā)言人。他表示，自動化正在加快戰(zhàn)場的節(jié)奏，人類沒有人工智能協(xié)助識別目標可能很難做出有效響應。一種人工智能創(chuàng)新必然會增加需求，演變成軍備競賽。夏基稱：“這將導致大規(guī)模人道主義災難。”

*****

致命的科技

人工智能武器已經(jīng)被投入使用，但大多數(shù)武器未經(jīng)人類同意無法選擇和攻擊目標。這樣的例子不勝枚舉。

?

Orca潛水艇

美國海軍（U.S. Navy）正在與波音公司（Boeing）合作開發(fā)一款長51英尺（約15.54米）的潛水艇Orca。其目標是使這款潛水艇能夠自動巡航6,500海里（約12,038千米），可以使用聲吶探測敵軍船只和水雷。這款潛水艇的初始版本未配備武器，但美國海軍表示最新款能夠發(fā)射魚雷。

?

Kargu 2無人機

聯(lián)合國曾經(jīng)得出結(jié)論，稱由土耳其公司STM生產(chǎn)的一架小型四旋翼飛行器，在2020年自動攻擊了一個利比亞軍閥的武裝，這讓其名聲大噪。據(jù)稱這是第一次有自殺式無人機自行選擇攻擊目標。但STM否認其無人機具備這一功能。

?

SGR-A1自動機槍

由韓國的韓華航空航天公司（Hanwha Aerospace）與高麗大學（Korea University）聯(lián)合開發(fā)的自動機槍SGR-A1，旨在幫助韓國守衛(wèi)與朝鮮之間的邊界。據(jù)媒體報道，這款機槍使用紅外熱成像技術(shù)偵測邊境附近的人員。如果目標沒有說出預先設(shè)定的密碼，這款機槍就會發(fā)出警報，或發(fā)射橡皮子彈或致命性子彈。

?

KUB-BLA巡飛彈

俄羅斯正在將這款小型巡飛彈應用到烏克蘭戰(zhàn)場。據(jù)其制造商扎拉航空透露，這款無人機的操作人員可以在發(fā)射前向系統(tǒng)上傳目標圖像。之后，這款無人機將自動定位戰(zhàn)場上的類似目標。

?

忠誠僚機（Loyal Wingman）

波音公司生產(chǎn)的“忠誠僚機”無人機長38英尺（約11.58米），會自動伴飛由飛行員駕駛的戰(zhàn)機和其他飛行器，提供警報和監(jiān)控，以及預警導彈襲擊和其他威脅。

譯者：Biz

?