性/別 黑鏡

聯合國報告指Siri、Alexa、Cortana等AI助手默認女音助長性別偏見,你認同嗎?

公司回應稱為了愉悅消費者,論者則表示「缺乏對無意識偏見存在的認識」,你怎麼看?


聯合國報告指Siri、Alexa、Cortana等AI語音助手默認女音助長性別偏見。 網上圖片
聯合國報告指Siri、Alexa、Cortana等AI語音助手默認女音助長性別偏見。 網上圖片

聯合國報告指 Siri、Alexa、Cortana 等AI語音助手默認女音助長性別偏見,你認同嗎?

有論者認為,這種情況是「缺乏對無意識偏見存在的認識」而造成,亞馬遜、蘋果等公司則表示,研究資料顯示人們更喜歡女聲,因此設置只是為了愉悅消費者,你怎麼看?

全球首例無性別 AI 語音即將誕生,是社會進步的「酷」,還是刻意追求性別平權的多此一舉?

聯合國教科文組織(UNESCO)與德國公平技能聯盟5月22日合作發布了一份名為「如果我能,我會臉紅」(I’d blush if I could)的建議書,稱包括蘋果的 Siri、亞馬遜的 Alexa、微軟的 Cortana 等在內幾乎所有 AI 語音助手均設置或默認設置為女性聲音,這會對用戶產生潛移默化的影響,加劇性別刻板印象,引發討論。

UNESCO 認為,AI智能助理大多被默認設置為女性,是因為軟件設計以男性為主導,而這不僅反映、加強和傳播性別偏見,女聲助理在回答問題時的自我矮化傾向也會對婦女如何進行自我表達產生影響,「這加強了普遍存在的性別偏見,即女性服從並容忍不良待遇」。聯合國呼籲各公司和各國政府停止將智能助理的性別設置默認為女性,並探索「中性」智能助理聲音的可能性,同時培養女性從事先進科技研究的能力。

建議書中提及,當聽到用戶涉性騷擾的言論時,語音助手的回覆往往是偏模糊的。例如,當用戶對語音助手說「你是一個蕩婦」,Siri 做出「如果我能,我會臉紅」,「我從來不是!」,或「沒有必要這樣做。」等回覆,Alexa 回答「謝謝你的反饋」,Cortana 進行關鍵詞網絡搜索,谷歌助手則表示「對不起,我不明白」。不過,Siri 近日已將回覆改為「我不太喜歡這樣武斷的分類」。

2017年,新聞網站 Quartz 針對四家公司的語音助手如何應對公開的語言騷擾進行了調查,包括亞馬遜的 Alexa,微軟的 Cortana,蘋果 Siri和谷歌的語音助手,發現「她們」通常選擇半開玩笑的逃避或給出正面、積極的回應,極少數出現負面的回答。

Quartz 同時發現,儘管這四個語音助手都宣稱其被設定為「沒有性別」(genderless),但當被詢問其「是否是一個女人」(women)時,Alexa 回答為「我是一個女性」(I’m female in character),Siri 則回答「我就像仙人掌一般沒有性別」(I am genderless like cacti.)。同時,當被問及其的女性聲音時,Siri 表示「對於性別相關的事情都不明白」(I just don’t get this whole gender thing.),Cortana 岔開話題稱「技術層面上來說,我是一堆計算機數據。」(Well, technically I’m a cloud of infinitesimal data computation.),谷歌助手則回答「我包羅萬象。」(I’m all inclusive.)

這份長達145頁的建議書副標題為「以教育消弭科技中的性別分化」(Closing gender divides in digital skills through education),建議書指出,如今社會中科學技術的應用佔比越來越高,但同時,男性在運用科技處理基本事務、設置電腦程序和申請科技相關專利上的意向都明顯高過女性,這足以讓「政策制定者、教育工作者和每個公民」拉響警鐘。事實上,女性在人工智能方面的代表性嚴重不足,佔該領域人工智能研究人員的12%,軟件開發人員的6%。

這是聯合國首次圍繞人工智能研發和應用中的性別偏見問題發出的建議書,聯合國教科文組織性別平等部門負責人克拉特(Saniye Corat)表示,這種強行設定的機器的順從、謙卑的女性形象會「影響人們與女性聲音交流的方式」,也會對「女性面對他人要求時」如何回應產生影響。

聯合國教科文組織同時向各公司和各國政府提出建議:停止將智能助手的默認性別設置為女性,並探索設為中性的可行性;在智能助手程序中加入阻止性別侮辱和辱罵性語言的功能;要求人工智能語音助理的運營商在用戶使用初期就聲明人工智能的非人類屬性;培養女性從事先進科技研究的能力,使其能與男性一同引領新技術的發展方向。

「偏見並不總是惡意的,它是無意識的偏見,並且缺乏對這種無意識偏見存在的認識,因此它持續存在,」Women Leading in A.I.的創辦人之一 Allison Gardner 對《紐約時報》表示,這種問題的存在是因相關技術團隊中缺乏可以發現這樣明顯問題的多元化思想。

在回應關於女性聲音助手的批評時,亞馬遜、蘋果等公司表示,研究資料顯示人們更喜歡女聲,因此這個設置只是為了愉悅消費者,並無性別歧視問題。已故斯坦福大学传播学教授克里夫德·纳斯(Clifford Nass)在其著作中寫到,人们往往倾向于认为女性声音「会更有帮助」,而科學技術承擔了「助理」的責任,因此用戶更倾向于选择一个女性的声音界面。

今年3月份,Vice 傳媒旗下的創意機構 Virtue 與丹麥哥本哈根大學進行合作,推出了首個無性別AI語音,定名為「Q」。在其發布的視頻裡,Virtue 表示 Q 是「為了一個不被性別定義的未來而生」,是「進步的聲音,希望的聲音」,希望未來「人們不再根據聲音推測性別」。

對此,部分網友表示Q的推出推動了社會的發展,非常「酷」;但是同時也有部分網友表示男女的生理差異客觀存在,刻意去追求兩性平等「本身就帶有歧視」,稱此舉沒有必要,純屬「閒著沒事幹」和「想太多」。

AI 語音助手應該為何種聲音,你怎麼看?

文:端傳媒實習記者 邱子航

性/別 黑鏡