聯合國近日在瑞士日內瓦舉行《特定常規武器公約》(Convention on Certain Conventional Weapons,CCW)五年期審查會議上,123個締約國投票決定將於2017年召集各國政府專家,就監管甚至禁止「殺手機械人」的議題展開正式討論。
殺手機械人指無需等待人類下達指令即可自主尋找攻擊目標的機械人,被統稱為「致命自主武器系統」(Lethal Autonomous Weapons Systems)。這是多國政府首次在聯合國框架下就正式商討如何進行規管達成協議,會議預期於明年4月或者8月召開,目前已有88個國家同意參加——其中包括已經花費數十億美元開發這類武器的美國、中國和俄羅斯;印度裁軍代表 Amandeep Singh Gill 大使將領導這項工作。
過去3年,在「禁止殺戮機械人運動」下團結的65個非牟利組織已經持續呼籲禁止這類武器;參與組織之一人權觀察警告,殺手機器人技術日益精進,必須盡快阻止。
日內瓦會議的決定是朝『禁止機械人殺手』談判邁出的重要一步,但我們沒有時間可以浪費,一旦這些武器被製造出來後,就沒有辦法再阻止『它們』,我們現在就必須採取措施先發製人。
到目前為止,已有包括阿根廷、秘魯、巴基斯坦、古巴、埃及在內的19個國家呼籲禁止「致命自主武器系統」,而在2014年時,還只有5個國家支持這些措施。但目前的支持者名單上並沒有美國、中國和俄羅斯。
美國軍方一直專注於研發能自動駕駛軍用卡車和直升機,以及協調大規模無人機機群飛行的人工智能系統。2016年夏天,中國政府宣稱正在為巡航導彈添加人工智能系統,但在今次日內瓦會議上,中國代表稱,有需要簽署一項關於致命自主武器系統的新國際協議。
CCW 及其議定書的目標是制定新規則來保護平民免受武裝衝突的傷害,並保護戰鬥人員免受不必要的痛苦,旨在禁止或限制使用某些被認為具有過分傷害力或濫殺、濫傷作用的常規武器。過去,CCW 已經決定禁止地雷、燃燒武器和激光致盲武器。
矽谷的許多精英,包括蘋果公司聯合創辦人沃茲尼亞克(Steve Wozniak)和特斯拉創辦人馬斯克(Elon Musk),都對殺手機械人的發展表示擔憂。沃茲尼亞克和馬斯克曾在2015年簽署公開信,敦促聯合國盡快處理這個問題,呼籲在國際上禁止製造致命的自主武器。
該公開信稱,利用人工智能技術研發的自主攻擊武器可能在數年內面世,認為如果任由各國政府推動人工智能武器研發,全球軍備競賽無可避免;此外,這類武器並不昂貴,遲早會流入黑市並落入恐怖分子或獨裁者手中,對人類的整體和平造成威脅。