即時

聯合國將於2017年探討監管「殺手機械人」,美中俄同意參加


聯合國計劃於2017年正式探討禁止「殺手機械人」。圖為2010年7月8日,阿富汗,美軍軍士專家正維修一個機械人。
聯合國計劃於2017年正式探討禁止「殺手機械人」。圖為2010年7月8日在阿富汗,美軍軍事專家正維修一個機械人。攝:Justin Sullivan/Getty

聯合國近日在瑞士日內瓦舉行《特定常規武器公約》(Convention on Certain Conventional Weapons,CCW)五年期審查會議上,123個締約國投票決定將於2017年召集各國政府專家,就監管甚至禁止「殺手機械人」的議題展開正式討論。

殺手機械人指無需等待人類下達指令即可自主尋找攻擊目標的機械人,被統稱為「致命自主武器系統」(Lethal Autonomous Weapons Systems)。這是多國政府首次在聯合國框架下就正式商討如何進行規管達成協議,會議預期於明年4月或者8月召開,目前已有88個國家同意參加——其中包括已經花費數十億美元開發這類武器的美國、中國和俄羅斯;印度裁軍代表 Amandeep Singh Gill 大使將領導這項工作。

過去3年,在「禁止殺戮機械人運動」下團結的65個非牟利組織已經持續呼籲禁止這類武器;參與組織之一人權觀察警告,殺手機器人技術日益精進,必須盡快阻止。

日內瓦會議的決定是朝『禁止機械人殺手』談判邁出的重要一步,但我們沒有時間可以浪費,一旦這些武器被製造出來後,就沒有辦法再阻止『它們』,我們現在就必須採取措施先發製人。

人權觀察武器部主任 Steve Goose

到目前為止,已有包括阿根廷、秘魯、巴基斯坦、古巴、埃及在內的19個國家呼籲禁止「致命自主武器系統」,而在2014年時,還只有5個國家支持這些措施。但目前的支持者名單上並沒有美國、中國和俄羅斯。

美國軍方一直專注於研發能自動駕駛軍用卡車和直升機,以及協調大規模無人機機群飛行的人工智能系統。2016年夏天,中國政府宣稱正在為巡航導彈添加人工智能系統,但在今次日內瓦會議上,中國代表稱,有需要簽署一項關於致命自主武器系統的新國際協議。

CCW 及其議定書的目標是制定新規則來保護平民免受武裝衝突的傷害,並保護戰鬥人員免受不必要的痛苦,旨在禁止或限制使用某些被認為具有過分傷害力或濫殺、濫傷作用的常規武器。過去,CCW 已經決定禁止地雷、燃燒武器和激光致盲武器。

矽谷的許多精英,包括蘋果公司聯合創辦人沃茲尼亞克(Steve Wozniak)和特斯拉創辦人馬斯克(Elon Musk),都對殺手機械人的發展表示擔憂。沃茲尼亞克和馬斯克曾在2015年簽署公開信,敦促聯合國盡快處理這個問題,呼籲在國際上禁止製造致命的自主武器。

該公開信稱,利用人工智能技術研發的自主攻擊武器可能在數年內面世,認為如果任由各國政府推動人工智能武器研發,全球軍備競賽無可避免;此外,這類武器並不昂貴,遲早會流入黑市並落入恐怖分子或獨裁者手中,對人類的整體和平造成威脅。

1000+
2015年7月28日,全球人工智能領域的1000多名專家發出公開信呼籲,在世界範圍內禁止「殺手機械人」。

聲音

隨着這種軍事技術的不斷發展,我們需要對其帶來的風險進行深入研究。

美國麻薩諸塞州眾議員 James McGovern

不能確保自動武器系統會遵守國際法,各國也未開始討論這個問題,這是對人類的重大威脅。

機械人領域學者 Noel Sharkey

人權觀察

人權觀察(Human Rights Watch,HRW)創立於1978年,當時名為赫爾辛基觀察,是為了監視蘇聯對赫爾辛基協議的執行情況。日益壯大後,該組織又以「觀察委員會」的名義擴展到世界上的其他地區。1998年,所有委員會在人權觀察的旗幟下統一起來,成為一個非政府的國際組織,目前總部設在美國紐約,以調查、促進人權問題為主旨。根據世界人權宣言,人權觀察反對侵犯基本人權,包括死刑、歧視同性戀等;人權觀察還鼓勵將自由與基本的人權相聯繫,比如宗教自由、新聞自由等。(資料來自維基百科,百科內容以 CC BY-SA 3.0 授權)

來源:RecodeBuzzFeedHRW每日郵報

2017 年 7 月,端傳媒啟動了對深度內容付費的會員機制。在此之前刊發的深度原創報導,都會免費開放,也期待你付費支持我們