深度

人工智能自殺干預:在社交平台的樹洞裏搜尋需要救助的人

「我止不住地想哭」和「救救我」,哪一個自殺風險更高?為了救援侵犯個人隱私,是否應該?


 插畫:Rosa Lee
插畫:Rosa Lee

「飯飯,我今天又割腕自殘了,舊傷未好添新傷。」2018年9月25日晚上21:47,肖雅在微博帳號「走飯」的評論區裏留下這句話。每次情緒失控,她都會在這個「樹洞」留言或發微博宣泄。

像往常一樣,這些談論自殘、自殺的微博只收到零星評論。肖雅微博上的2034個粉絲幾乎全是陌生網友,現實生活中的親友看不到她的抑鬱情緒,但「機器人002號」能「看」到。

7900多公里之外的荷蘭阿姆斯特丹,「機器人002號」在一台電腦中啟動。24小時內,從1335條評論中,篩選出十幾條重點關注信息,生成「樹洞監控報告」,整個過程不到1分鐘。報告中,肖雅的微博被評估為「自殺風險9級」,「樹洞行動救援團」立即開始行動。

「樹洞行動」始於2018年4月2日,由荷蘭阿姆斯特丹自由大學(Vrije Universiteit Amsterdam)人工智能系教授黃智生發起,通過一個智能主體(intelligentagent,又稱機器人)巡視各類社交媒體,使用其核心的知識圖譜技術(又稱語義技術)發現高風險的自殺人群,再由上百名志願者進行自殺干預。類似的項目還有2017年開始的「心理地圖PsyMap」,由中國科學院心理所計算網絡心理實驗室負責人朱廷劭發起,用人工智能深度學習的方式找出有自殺意念的微博用戶,再通過私信進行心理危機干預。

據世界衞生組織統計,全球每年有80萬人死於自殺,每40秒就有一人嘗試自殺;在15到29歲的青少年人群中,自殺已經成為第二大致死原因。作為月活躍用戶超過21億的全球最大社交媒體,Facebook於2017年上線「自殺檢測」功能,通過人工智能和模式識別等技術辨別有自殺傾向的用戶,並在第一時間為後者提供幫助。更多科技公司亦陸續推出類似服務:Google對搜索「自殺」等關鍵詞的用戶優先顯示自殺預防機構廣告和勸導內容;AIBuddy項目為現役軍人的子女(自殺機率較高)提供虛擬交流服務,並向監護人提供心理健康報告;科技公司Bark.us通過機器學習分析了5億多青少年發布的信息,已成功挽救25人的生命。

AI Buddy項目為現役軍人的子女(自殺機率較高)提供虛擬交流服務,並向監護人提供心理健康報告。

AI Buddy項目為現役軍人的子女(自殺機率較高)提供虛擬交流服務,並向監護人提供心理健康報告。網上截圖

據北京心理危機研究與干預中心的調查,中國每年約有 28.7 萬人自殺死亡,其中一半以上被診斷為抑鬱症。但目前,中國的自殺預防工作仍處於起步階段,大多數精神衞生專業人員只能被動等待患者撥打熱線或去醫院就診。世界衞生組織(WHO)數據表明,目前中國抑鬱症患者數超過 4000 萬,但就診率不足10%。

與此同時,自殺信息和抑鬱情緒在微博樹洞、約死QQ群、自殺論壇等互聯網的隱秘角落裏蔓延。人工智能技術研究者們決定主動靠近有自殺傾向的人,將干預過程前移,用科技守住生死的門。

樹洞:在這裏,病恥感被降到最低,可以自由表達想死的情緒

「我有抑鬱症,所以就去死一死,沒什麼重要的原因,大家不必在意我的離開,拜拜啦。」2012年3月18日,網友「走飯」因抑鬱症自殺,賬號在這一條微博發布後永遠停擺。其後七年,該賬號的評論區成了微博上最大的「樹洞」,有抑鬱情緒或自殺傾向的網友聚集於此,留言以每天上千條的速度不斷疊加。至今,這條臨終微博的轉發量超過10萬次,留言數逾152萬。

肖雅不記得自殺過多少次。她被抑鬱症折磨七年,常常失眠,睡醒了會莫名其妙地哭。在現實生活中,肖雅沒有可以傾訴的朋友,偶爾在熟人社交網絡QQ空間裏說兩句還會被視作矯情:「這個年代還有林黛玉啊!」於是,永遠不會回覆她的「走飯」成了安放情緒的「樹洞」,微博則變成「留遺言的平台」:跳河之前她發「夕陽無限好,只是已黃昏」,服藥自殺前她發「希望一切可以重來」,打開煤氣爐後她搬個板凳坐在廚房刷微博……

專注協同「抑鬱康復」的公益組織「鬱金香陽光會」表示,人們常認為心理是可以被調控的,將很多心理疾病歸結為「性格內向」、「意志薄弱」、「懶惰」。因此,很多抑鬱症患者會把自己的負面情緒視作「恥辱」,拒絕與親友溝通。但在微博樹洞這樣的集體性聚集地,病恥感被降到最低,他們可以自由表達抑鬱或想死的情緒,而不會受到指責和偏見。

中科院心理所計算網絡心理實驗室也發現,自殺的主要人群(15到30歲人群)和網絡使用的主要人群有很大重合,以青年人為主力軍的部分網絡用戶會在以微博為代表的社交媒體上表達自殺意念、直播自殺甚至相約自殺。

2014年,實驗室研究員朱廷劭和團隊研究發現,自殺死亡用戶的微博互動更少、更加關注自我、更頻繁地使用表達排除意義的詞語。他們在情緒上偏向於負面表達,負向情感詞的比例大於80%,談論死亡和宗教遠多於工作和家庭。

在這一發現的基礎上,朱廷劭及團隊利用人工智能深度學習技術,進行數據篩選,識別有自殺風險的個體,對其進行心理危機干預。2017年7月,「心理地圖PsyMap」項目的在線自殺主動預防系統正式上線。

朱廷劭認為,與線下尋找案例相比,社交媒體用戶足夠多,用戶數據公開可見、易收集。研究初期,團隊曾嘗試在微博全平台識別有自殺意念的人,但效果不好。樹洞的出現,讓識別範圍縮小,定位也更加精準。

每晚零點,自殺識別模型抓取24小時內「走飯」等「樹洞」裏的最新留言,生成一份文本,包含用戶ID、留言時間、留言內容以及模型評估結果。結果只分0和1兩種,0代表無自殺意念,1代表有。經人工審核,系統會自動用「心理地圖PsyMap」微博賬號向有自殺意念的用戶發送私信進行心理危機干預:

「你好,我們是北京社工委領導下的,中科院心理所諮詢師志願者團隊。我們在走飯的微博中看到了你的評論。你現在還好嗎,情緒狀態怎麼樣?」詢問後面跟着一條調查問卷鏈接和北京市心理危機干預中心的24小時免費熱線電話。這樣的私信肖雅收到過好幾次,但很少回覆,「像機器人發的」。每天18:00到22:00,14位志願者會兩人一組輪流值班,通過私信和填寫過問卷的用戶聊天。「沒什麼用,和醫院一樣」,肖雅說。

每天下午6時到晚上10時,14位志願者會兩人一組輪流值班,通過私信和填寫過問卷的用戶聊天。

每天下午6時到晚上10時,14位志願者會兩人一組輪流值班,通過私信和填寫過問卷的用戶聊天。圖:Imagine China

相比之下,她覺得「樹洞行動」的溝通更人性化。2018年9月27日,在走飯微博評論區留言的隔天早上,肖雅收到一條陌生人的私信,和自殺無關,只是聊警察的事。肖雅很關注警察行業,微博粉絲裏有很多各地的警察。看到對方自稱是警察家屬,肖雅就和她有一搭沒一搭地聊了起來,後來還加了微信、留了電話,至今,肖雅也不確定對方的真實身份。她覺得,這種聊天對治療心理問題也沒用,但感覺能把自己「往回拉一把」。

給肖雅發私信的是「樹洞行動」的志願者。2018年3月,從事人工智能研究超過30年的黃智生看到一則關於「樹洞」的報導後,提出通過人工智能技術識別抑鬱症患者並提供救助。4月2日,「樹洞行動救援團」項目正式啟動。

相較於「心理地圖PsyMap」的線上心理危機干預,「樹洞行動」有着更明確且實際的目的——救助。機器人對留言中的自殺意念、方式和時間等詞語進行語義分析,篩選出已有自殺計劃的用戶,生成「樹洞監控報告」。每天晚上23:00左右,黃智生把包含用戶ID和微博內容的報告轉發到微信群內,遍布世界各地的志願者登錄自己的微博小號,自發與其中的一兩位私信聊天。獲得聯繫方式後,志願者會嘗試與其親人聯繫,緊急情況下也會尋求當地警方幫助。

目前,項目微信群裏已有來自各行各業的230名志願者,其中40多名精神健康和心理學專家以及40多名心理諮詢師負責為救援提供指導。據其統計,截至2019年3月27日,「樹洞行動」已對超過760人(次)展開救助行動,其中320多人(次)自殺行為被成功阻止。

人工智能的局限:如何精準判定自殺風險

「人工智能的判斷也存在誤差」,運營「心理地圖PsyMap」的博士生劉興雲指着最新生成的文本,微博留言「我止不住地想哭」被判定為「1」,「救救我」卻被判定為「0」。

劉興雲介紹,自殺識別模型建基於中國社交媒體自殺詞典,樣本量超過7000,分為自殺想法、自我傷害、生活事件等不同類別。每個類別再細分為三個等級,等級越高,權重越大。例如,在自殺想法類別中,「消失」、「結束」、「放手」的權重為1,「該死」、「地獄」、「下輩子」的權重為3。在這個基礎上,項目組又補充了大量和藥物、情緒、精神疾病、人格特徵等相關性顯著的關鍵詞。另外,劉興雲和其他幾位同學做過好幾個月的人工標註,每週為七八千條微博評論劃分風險等級。這些人工判定的結果和關鍵詞庫一起被輸入計算機訓練建模,投入使用時,模型精準度達到80%。

但人工智能與真人的判定結果仍有差異。例如,「飯飯,很快就要看到你了」這句留言中沒有負面關鍵詞,機器判定它沒有問題,但在「走飯」評論區的語境下就顯露出自殺風險。

2012年3月18日,網友「走飯」因抑鬱症自殺,賬號在這一條微博發布後永遠停擺。

2012年3月18日,網友「走飯」因抑鬱症自殺,賬號在這一條微博發布後永遠停擺。攝:Stanley Leung/端傳媒

黃智生認為,「心理地圖PsyMap」採用的深度學習技術「無法考慮情境」,而「樹洞行動」的核心技術知識圖譜可以更細緻地分析詞語之間的邏輯關係。比如,有人連發三條「我不想死」的信息,採用深度學習方法的模型會依據關鍵詞「死」將其判定為存在自殺風險,但採用知識圖譜技術的模型能夠識別他表達意思剛好相反。在救援過程中,人工智能模型也在不斷迭代。2018年12月16日,「樹洞機器人004號」上線,精確度提高到80%以上。

「樹洞機器人」將微博留言按自殺風險分為十級,救助六級及以上的用戶。(自殺風險等級為:6級:自殺劃已在計劃中;7級:自殺方式已確定,日期未明;8級:自殺方式已在計劃中,自殺日期大體確定;9級:自殺方式已確定,近日內可能進行;10級:自殺可能正在進行中)「我們不想、也不敢發現更多有自殺意念的人」,黃智生說。根據統計,10條左右的高自殺風險微博發到群內,「能救的最多隻有三個」。

線上技術的另一層局限在於,難以在線下得到當事人的配合或親屬的理解。「主動權並不掌握在我們手中」,黃智生說。

2018年4月18日,「樹洞機器人」還沒上線,團隊成員在抓取數據時發現了一條約死信息:一名武漢女孩將在五一假期自殺。黃智生發動群友蒐集信息,輾轉聯繫上其父母,他們堅稱女兒沒病。5月1日,女孩沒有按計劃實施自殺,但47天後,家人告訴志願者,她還是選擇結束了生命,在微博留下了最後一句「拜拜」。

還有一次,志願者聯繫到一位計劃自殺者的家長,反而招致威脅。「我女兒好不好,我還不知道?」這名家長說要到法院起訴志願者,「要是真跳樓,肯定是你們害的!」無奈之下,志願者只能天天給女孩發私信,關注她的動態。

隱私保護和救援,孰輕孰重?

情緒穩定後,曾受助於「樹洞行動」的小楊加入了志願者團隊,兼職做文字記錄。大家在群裏討論如何聯繫有自殺傾向的網友時,小楊赫然發現了朋友的名字,隨後,她的照片、微博和聯繫方式逐一被發到群裏。「既沒有效果,又侵犯個人隱私!」小楊生氣地「刪除並退出」了該群。

這不是「樹洞行動」第一次面臨質疑。從微博數據挖掘,與被識別的用戶私信,到「人肉搜索」來獲取受助者個人信息,隱私問題潛藏在項目的每一個環節。

2017年,Facebook的「自殺檢測」功能甫一上線即引發爭議。其「秘密地」對平台中的圖片和文字進行監測,讓用戶有「被監視」的感覺。今年2月11日,雜誌《內科學年鑑》曾刊文稱,Facebook在篩選用戶帖子,識別那些有自殺傾向的人以及提醒急救時,缺乏透明度和道德規範。

對於小楊的質疑,「樹洞行動」更新的一版「網絡自殺救援指導性建議」中指出,志願者不得向其他無關人員提供受助者的個人信息,群組討論也不可向第三方提供。但在數據來源方面,黃智生認為,純公益項目「樹洞行動」通過API接口抓取的都是微博公開數據,「不存在隱私問題」。更多的顧慮存在於救援環節。黃智生總結道,如果沒有生命危險,隱私保護優先於救援;反之,救援高於隱私保護。

「心理地圖PsyMap」項目在隱私方面則更為保守。朱廷劭在「SELF格致論道講壇」的演講中指出,不管出於怎樣的動機,首先要保證別人的隱私。「侵犯別人隱私為代價做的任何事情都沒有意義,甚至是對別人的不尊重」。因此,發出私信後,志願者需要等待微博用戶主動回覆或填寫問卷,才會進一步私聊。

「心理地圖PsyMap」項目在隱私方面則更為保守。發起人朱廷劭指出,不管出於怎樣的動機,首先要保證別人的隱私。

「心理地圖PsyMap」項目在隱私方面則更為保守。發起人朱廷劭指出,不管出於怎樣的動機,首先要保證別人的隱私。攝:Christof Stache/AFP/Getty Images

為設計私信內容,朱廷劭團隊聯合香港大學香港賽馬會防止自殺研究中心、北京回龍觀醫院北京心理危機研究與干預中心人員組織訪談、設計問卷,了解有自殺意念的人希望看到什麼內容。團隊向4222名有過自殺意念表述的群體發送過問卷邀請,725個回覆中78%的人表示不反對收到私信。在實際操作中,正面回覆超過總發送量的20%,朱廷劭已很滿意。偶爾也有對私信內容產生質疑的情況。有網友問,「你怎麼知道我要自殺?」也有人情緒激動,「不要你管!」劉興雲不確定,這些負面回覆是否源於隱私被侵犯,「應該不是問題,解釋清楚就好。」

2017年9月,人工智能模型識別到一個服藥自殺的微博用戶,志願者守在電腦前,用「心理地圖PsyMap」的微博帳號跟他從晚上六點聊到凌晨。先開始是試探性地詢問,「我現在很擔心你的安危,你能不能先把藥放在一邊」。但對話框那頭,對方開始文字直播吞藥自殺。

情況變得緊急。志願者需要聯繫他的家人或當地警察,但在此之前,他們要徵得本人同意。好在對方願意提供聯繫方式,也默許警察介入,自殺干預最終成功。

但更多時候,志願者的意見徵詢沒有得到回應,劉興雲也不知道對話框那頭的沉默是否代表悲劇已經發生。「如果他不願意,那我們也沒辦法。」劉興雲苦笑一下,從心理諮詢和危機干預的專業角度來看,她必須接受倫理問題帶來的限制。

邊界:「一旦建立情感,就不想再看到他出事了」

「心理地圖PsyMap」的14名志願者一直守着心理諮詢的邊界,始終使用公共賬號聯絡,不與用戶產生其他聯繫,每天四小時的值班結束後會和對方約定下次時間,除非緊急情況才會延長或另約時間。這些是心理諮詢師行業的規範,「不能讓諮詢者產生依賴」。

劉興雲記得,團隊遇見過一個「粘性特別高的小孩」,她註冊了兩個微博賬號,每天諮詢時間一到就會出現,常常過了十點還在跟志願者傾吐自己日常生活中的瑣碎情緒。很多人都覺得壓力很大。月度的專家指導會上,導師指出,心理諮詢是一個長期的過程,我們不能幫她解決長期的情緒問題或根除自殺的想法,只能提供一次心理危機干預。志願者和那個女孩反覆溝通後,將諮詢頻率逐漸減少到一週三次、一週一次,建議她向更專業的心理諮詢師或醫生求助。

相比於「心理地圖PsyMap」,「樹洞行動」擁有更龐大的隊伍,但專業水平參差不齊,缺乏統一安排,全憑志願者自發行動。

「樹洞行動」擁有龐大的隊伍,但專業水平參差不齊,缺乏統一安排,全憑志願者自發行動。圖為「樹洞行動」發起人黃智生。

「樹洞行動」擁有龐大的隊伍,但專業水平參差不齊,缺乏統一安排,全憑志願者自發行動。圖為「樹洞行動」發起人黃智生。網上圖片

去年八月,在法國某大學計算機系任教的馬麗玲和一位存在高自殺風險的網友聊了幾次。看着對話框裏不時冒出的終極問題,馬麗玲很焦慮。她沒有任何心理諮詢的經驗,對方的傾訴讓她覺得「完全接不住」。受助者回覆的次數越來越少,馬麗玲對自己的溝通技巧也沒了信心,「不敢再聯繫其他有自殺意念的人」。

志願者群裏,和馬麗玲一樣的非專業人士不少,缺乏救助和溝通技巧。有的志願者為了阻止被情感問題困擾的自殺者,承諾與其成為現實生活中的男女朋友;還有的為了幫助陷入經濟困境的網友,自發在群內籌款救助。

針對這些不規範的救助方式,「樹洞行動」邀請了專業人士對志願者指導、培訓。此外,項目成員擬定了一份「網絡自殺救援指導建議」。32頁的PDF詳細列出了規範的救援程序以及應該避免的問題,包括什麼情況下可以詢問個人信息、什麼情況下應與警方聯繫?幫助志願者在救援的每一個環節找到參考意見。

可邊界依然很難守住。在「樹洞行動」中,一位擁有多年從業經驗的諮詢師說,自己正一點一點地突破邊界。「一旦建立情感,就不想再看到他出事了。」自殺干預成功後,志願者會和對方保持聯繫,關注他們的微博或朋友圈動態,一些人會為對方提供長期的情感陪伴,甚至嘗試幫他們解決現實問題。

比如,馬麗玲曾嘗試為受助者介紹工作,「從根源上幫助他們」。

去年12月,東北某大學計算機系的王老師在「樹洞行動救援團」的微信裏提供了一些數據標註員的兼職工作。馬麗玲很快推薦了幾個人,鼓勵他們,「咱們有工作了,能賺很多錢!」1月31日,6位處於情緒穩定期的抑鬱症患者加入了王老師的人工智能文本處理公司,嘗試進行簡單的數據標註工作。

跟他們講解任務要求時,經理小吳有些緊張。「樹洞行動」的心理諮詢師曾叮囑她,抑鬱症患者很敏感,在溝通方式上需要注意,「要有耐心」。小吳和他們交流基本只發文字,「看一遍沒問題再發」。平時習慣性的說法也要調整,「我這麼說你能理解嗎?」要改成「我有沒有表達清楚?」她總是擔心自己會在無意間傷害他們。有次和其中一個人私聊,小吳隨手發了個動態表情想表示親近,對話框裏卻傳來一個撇嘴的表情。小吳有點手足無措,趕緊發文字解釋。「之後我再也不敢發表情了,最多加個波浪線。」

到現在,還沒有一位受助者通過培訓審核。「他們對有些任務的理解有些偏差」,小吳打算,等有較簡單的工作再安排給他們。

說起這個結果,馬麗玲很懊惱,「還是太不成熟了。」和幾位參與試標的受助者溝通後,她意識到這樣的安排會給他們帶來更大的挫敗感,覺得連高科技手段都幫不了自己。後來,馬麗玲還在繼續幫他們推薦工作,但話術調整成「先試試看,慢慢找解決辦法」。她不敢給「樹洞行動」貼上「人工智能」、「高科技」的標籤,也不敢說聊天或陪伴產生了什麼實質性幫助。相比之下,介紹工作可能更為實際。

受助者喜歡在深夜向馬麗玲吐露心事,按照法國時間,她正在工作,但仍是每條消息必回。馬麗玲不在意心理諮詢師口中的「邊界」,「我不是專業的心理諮詢師,只是一個陪伴他的朋友」,她說,「這兩個角色都是重要的。」

隨着「樹洞行動」的發展,項目對志願者的專業性要求越來越高,規範化的人員管理和後續的救助都需要更多的資金投入。黃智生認為,把救援與產業結合是條出路。一方面,很多精神疾病的根源在於工作、家庭、學校等方面的問題,徹底治療需要各方配合,形成一個完整的救助生態鏈;另一方面,人工智能技術的發展需要一些基礎工作的支撐,如數據處理、數據標註等,存在大量的產業需求。黃智生希望建造一個關愛中心,既能提供康復療養功能,也能為抑鬱症患者提供工作機會。「如果我們把救助行動作為一個產業做起來,就不僅僅停留在公益層面,還能帶來一定的經濟效益。」

目前已有好幾家醫院和心理諮詢機構找到黃智生,希望向人工智能監測到的抑鬱症患者提供藥物或諮詢推介,但他都拒絕了。「盈利必須和公益救助分開」,黃智生說,「一旦帶有商業目的,隱私和倫理問題又會出現。」

黃智生曾向中國兩個城市的政府尋求支持,希望為獲救的自殺者建立關愛中心,為其營造新的生活環境加速病情恢復,但未獲得回應。他還曾與華為、百度等科技公司商談過合作或資金支持,目前暫無實質性進展。黃智生認為,最合適「樹洞行動」的方式是註冊民營非企業單位,向基金會申請資金,或者通過其他技術公司盈利為項目提供資金,以此守住公益與商業的界限。

(應採訪對象要求,肖雅、馬麗玲為化名。)

觸摸世界的政經脈搏
你觀察時代的可靠伙伴

已是端會員?請 登入賬號

端傳媒
深度時政報導

華爾街日報
實時財訊

全球端會員
智識社群

每週精選
專題推送

了解更多
人工智能 AI