中國因素

情緒辨識技術被用於「反恐」,是打擊犯罪的有效手段還是侵犯人權之舉?

當人臉識別和情緒辨識技術結合起來監測人們的犯罪指數,這將對人的自由及權利構成何種威脅?


2019年11月22日,美國加州一個人工智能識別系統在一個男人的照片上執行面部識別。 攝:Smith Collection/Gado/Getty Images
2019年11月22日,美國加州一個人工智能識別系統在一個男人的照片上執行面部識別。 攝:Smith Collection/Gado/Getty Images

當人臉識別和情緒辨識技術結合起來監測人們的犯罪指數,這將對人的自由及權利構成何種威脅?

有中國科學家認為情緒辨識技術可以減少犯案、避免暴力發生,你如何看?

有論者擔憂若欠缺私隱法律規範,當權者便能以公共安全之名,任意取得民眾生物特徵數據,你認同嗎?

在高速公路上,一個監測系統鏡頭正快速地掃描著每個人的面孔。忽然,監控人員將一輛車子截停,並成功在車上檢獲一批走私貨品。原來,車輛上的人被監測系統辨認出正處於極度緊張和不安的狀態,引起了監控人員的注意。

這樣的場面看似是科幻電影的故事情節,然而,情緒辨認的技術確實正在現實世界中快速地發展,情感被監控的情況,距離我們的生活並不遠。在中國,這項技術似乎更是蓬勃發展,並可能用來防止犯罪活動的發生。

人工智能是如何辨認人的情緒?

說起情緒辨識技術,我們可回朔到1995年美國麻省理工學院教授 Rosalind Picard 發表有關「情緒運算(Affective Computing)」的文章。在文章中,他提及:「假如要讓電腦(人工智能)變得真正聰明起來,或能和我們自然地互動,我們一定要讓電腦(人工智能)能辨別、明白,甚至擁有和表達情感。」

自那時起,科學家便致力在這方面做研究,務求令人工智能可以辨認人類的情緒,從而使它們變得不再冷冰冰,甚至和真實的人類有可比性。現在,科學家在此方面也的確取得階段性的成功。

據悉,目前市面上的人工智能主要是以三種方式來辨別人類情緒,包括:臉部表情、語音與生理反應。當中,最常見的技術就是利用臉部表情來進行情緒識別。業界透過搜集不同的影片或拍攝人們的情緒反應,將不同的情緒標記,再進行臉部動作編碼。機器如是能使用資料庫來學習不同的編碼。

然後,科學家就能運用臉部辨識技術(通常用一個長方體框住人臉),偵測臉部運動的支點部位(通常有34個點),萃取臉部五官與動作。隨即,被辨識的人士的臉部動作就會進行單元分類與強度判讀,最後達到情緒判讀的效果。

至於有關語音情緒的辨識技術,其處理架構與上述臉部表情辨識技術相似,同樣包括資料收集、資料標記、資料輸入、機器學習、辨識輸出等階段。當語音資料經收集和處理後,就可以進行特徵擷取,如:聲音頻率、共振峰、聲音強度或能量、語速等,形成語音資料庫。人工智能就可以聽取人聲後,和資料庫作對比,辨識受測語音的情緒。而生理反應辨別技術就主要透過心跳、呼吸、流汗、血液含氧量、吐出的二氧化碳變化等生理反應來辨識情緒。

目前技術只能做到單一方式辨識情緒,至於結合多種方式來辨識情緒的人工智能(多模態情緒辨識)則仍在研發階段。

情緒辨識技術在中國的運用

在中國,情緒辨識技術得到廣泛的運用。2019年年底,中國曾於深圳舉辦中國國際社會公共安全博覽會,當中情緒辨識技術引起廣泛關注

新疆阿勒泰地區公安局治安支隊長李曉宇表示,當局利用影片與情緒辨識科技便可分析人們的心理狀態,可協助快速辨認有犯罪嫌疑的人,避免包括恐怖主義與走私在內的違法行為,並透露技術目前已應用到現實中。他又指,海關亦正建置該技術,以辨識民眾是否有緊張等跡象,判斷是否存在攻擊他人的可能性。

《美國之音》上月引述英國《金融時報》報導,指中國正在組建一個全國實驗室,專門研發人的情緒識別技術,以預測犯罪。及後,其研究成果會供警方和軍方使用,以進一步強化中國現有的全國監測大數據。

這家中國國家實驗室為信息產業部直屬的中國電子科技集團公司(CETGC)所有,主要業務包括通信設備、電子設備製造、軟件開發和應用,是一家和中國軍方長期合作的國企。

報導中提到,中國所研發的人體情緒識別系統,主要用來預測犯罪活動。以一人的出行軌跡為例,全國監測系統的攝像頭將採集有關此人在不同地方活動的所有監控畫面,經對比後將輸出一個具有時空坐標的規律圖。然後再配上此人活動過程中的情緒影片,進而為自動分析此人的情緒特徵提供「預測依據」。

報導又指,中國電子科技集團公司為此已提供了第一批資助,其中還包括倫敦英國大學學院一位程姓教授的實驗室。這位教授後向媒體確認獲得有關資助,但稱研究工作目前只涉及公共安全,尚未開始涉及刑事事件,更沒有在新疆從事任何工作。又言即使在中國有研究機會,主要也是預測國內犯罪等,而不是用來監測中國公眾。

情緒辨識技術能有效減少犯罪率?

專研人工智能科技的「翼開科技」負責人魏清晨,部份演算法的準確度甚至達 70–95% 。寧波大學神經經濟及管理學教授馬慶國更表示,「情緒辨識絕對是人類未來科技發展的方向。」

陳偉則對情緒辨識科技持正面態度,他提出:「拘留中心時有暴力或自殺⋯⋯即使現在警察已不會打人,但也有機會不淮被拘留人士睡覺。因此,部份囚犯會出現精神崩潰情況,並企圖自殺。而我們的系統則可阻止這些情況發生。」

至於私隱問題,中國智庫數字經濟行政院長黃日涵就,通過監管個人數據收集及披露就有助保障人民私隱,政府亦可加強指導。魏清晨更表示,情緒辨識技術非「邪惡讀心技術」,並指中國企業將「嚴謹遵從『科技向善』原則,以為人民服務及不讓人逍遙法外為目標使用科技。」

情緒辨識技術的道德

在外國,人臉識別和情緒識別技術也有被使用。 Cognitec Systems(識別技術系統)是一家位於德國德萊斯頓的高科技公司。該公司一位女員工在接受《美國之音》訪問時表示,識別情緒技術目前已相當成熟,但是並非可以隨處應用,在國外則較常在賭場使用這項技術。

這位女員工指:「系統很靈,實際工作得很好。不過,被拍照者必須經過選擇,此人進入賭場後要簽字,放棄法律追訴權,拍照後才能進入情緒識別監測的閉路系統內,所拍圖像只能用作有針對性的識別,不能用於普通公眾。」 她提及,如被監測者事先就知道會受到監測,便不會引起私隱問題。

情緒辨識技術在中國引發的人權隱憂

英國人權倡議組織 Article 19 一月底發表了一項調查報告,公布中國有數十家公司,在教育、公安與運輸領域提供情緒辨識的工具。

Article 19 的數碼計劃經理馬達(Vidushi Marda)就:「基於這項技術的種族歧視基礎和違反基本人權,應禁止相關設計、開發、部署、銷售與轉移。」Marda 又表示,現實影片監控對於安全沒甚麼連繫,坦言:「我不肯定現實影片監控的反饋信息對解決暴力問題有何幫助。」他直指生物監控技術更多是與審查有關,包括情緒辨識技術。

調查報告共同作者、加州大學柏克萊分校(University of California, Berkeley)網路安全博士候選人阿邁德(Shazeda Ahmed)則認為,科技工具無法可靠地量測及量化人類情緒。她又說,這類技術可能會助長偏見,尤其是利用生理特徵協助警方辨別罪犯的辨識系統。同時,系統或會引發外界一些新疑慮,包括搜集情緒資料來監控學生、犯罪嫌疑人,甚至利用辨識技術來偵測疲勞或不安全動作以監控汽車駕駛等。

她補充,「我們相當擔心功能蠕變(function creep)」,指的是把搜集到的資料運用在其他用途。她舉例,「有一間學校引進監控系統,評估學生有否在學校保持均衡飲食,不久後可能就會變成情緒辨識系統,誰知道接下來又會演變成什麼?」,直言對技術運用的擔憂。

深圳太古計算機有限公司總經理陳偉便對《衞報》表示,中國現時的情緒辨識技術之能夠快速發展,與當地欠缺嚴格私隱法律規範有關。當局基本上可以國家安全或者公共安全為名,毫無限制地取得生物特徵數據。該公司一直在中國研發人工智能系統。

假如應用於「反恐」的情緒辨識技術不準確,將會導致何種問題?

文:端傳媒實習記者施嘉怡

中國因素