端聞

機器學習新應用:Google兄弟公司Jigsaw將幫你擺脫網絡語言暴力


Google將使用人工智能清理網絡侮辱性言論。
Google 母公司 Alphbet 旗下的 Jigsaw 將通過人工智能軟件清理網絡侮辱性言論。攝:Justin Sullivan/Getty

網絡帶給人們便利與自由溝通的同時,也伴生了不加節制的語言暴力。不過 Google 母公司 Alphbet 旗下的 Jigsaw ,或許能透過新開發的人工智能軟件 Conversation AI 對這一現象有所改觀:Conversation AI 不僅能自動識別語言暴力,還可以對抗騷擾者、在語言暴力受害者看到冒犯性評論前自動刪除信息。

為了讓 Conversation AI 學習分辨無害的調侃與騷擾語言,Jigsaw 與紐約時報和維基媒體基金會建立了合作,使得 Conversation AI 既可以從紐約時報的1700萬條評論和被人工標記為不當措辭的評論中學習分辨語言暴力,又可以從13萬個維基百科頁面的討論片段中學習進行語法分析。與人類的判斷能力相比,目前 Conversation AI 的精確度超過92%,出錯率為10%,高於任何一款現有關鍵詞過濾器的準確程度。隨着 Conversation AI 接觸的語言信息不斷增加,相關數據還會進一步改善。

維基百科和紐約時報將成為第一批使用這款語言騷擾識別工具的機構。紐約時報計劃把 Conversation AI 作為篩選評論的第一道關卡,維基百科則仍在考慮如何使用這款工具。未來,Jigsaw 還計劃將這個人工智能軟件開源,讓更多網絡論壇和社交媒體用它應對網絡語言暴力。

我想用我們擁有的最好的科技去承擔網絡暴力和其他放大敵意聲音的惡毒手段。

Jigsaw 主席 Jared Cohen 表示希望盡一切可能營造公平的競爭環境

事實上,Conversation AI 只是 Jigsaw 眾多計劃中的一個。相比拓展互聯網的疆域,這間科技孵化公司似乎更在乎修復互聯網製造的問題。儘管 Conversation AI 似乎也是一套自成系統的審查機制,但 Jigsaw 宣稱自己的目標之一是,在10年內結束審查制度──包括反對派網站基於政治目的的網絡攻擊和政府對網絡服務供應商的限制。

Jigsaw 製作的第一款產品是翻墻工具 uProxy,目前已在超過100個國家發行。通過連接防火墻外的朋友的電腦,uProxy 可以幫助面臨互聯網審查的用戶翻出防火墻。

Jigsaw 製作的另一款產品是 Chrome 插件「密碼警示」(Password Alert),該插件不僅能偵測假冒的 Google 登入頁面並彈出提醒,也會在異地登錄時向用戶傳送通知,以防賬戶被盜。

Jigsaw 的前身是2011年由 Cohen 與時任 Google CEO 的 Eric Schmidt 共同發起的智庫 Google Ideas。隨着工程師的逐漸加盟,Google Ideas 也由組織會議、製作可視化數據的智庫,轉型為一間科技孵化公司。今年2月,這個擁有50人的團隊改名為 Jigsaw。

Jigsaw 成立之初,Google 董事長 Schmidt 就曾表示,Jigsaw 的目標是「解決世界上最棘手的地緣政治問題」,並將洗錢、組織化犯罪、警方暴行、人口拐賣和恐怖主義列為 Jigsaw 亟待改善的挑戰。

今年4月,Jigsaw 曾推出一款叫做 Montage 的軟件,能夠通過分析 YouTube 視頻,幫助戰地記者和非營利機構追蹤發生衝突的地區和蒐集侵犯人權的證據。另一款名叫 Project Shield 的免費軟件則能幫助防範針對媒體、選舉監督網站和人權組織的網絡攻擊。

2015年10月,Google 曾將標誌性的標語「不作惡」(Don't be evil)改為「做正確的事」(Do the right thing),Jigsaw 似乎正在實踐 Google 這一願景。

人工智能

人工智能(Artificial Intelligence, AI)是指由人工製造出來的系統所表現出來的智能。智能主體是一個可以觀察周遭環境並作出行動以達致目標的系統。目前應用到人工智能的領域包括搜索、數學優化、邏輯推演,基於仿生學、認知心理學、概率論和經濟學的算法也在逐步探索中。(資料來自維基百科)

來源:WiredBusinessInsiderEngadget

2017 年 7 月,端傳媒啟動了對深度內容付費的會員機制。在此之前刊發的深度原創報導,都會免費開放,歡迎轉發,也期待你付費支持我們

如果你喜歡,就分享給更多人吧