「工具人」是端傳媒新開設的欄目,我是欄目的編輯陳婉容。近年我們迎來了一波科技大爆發:人工智能﹑大數據和機械人似乎從科幻般的遙遠未來被拉到我們面前,眼看就要對我們的生活造成巨大影響。都說人類站到食物鏈頂層是因為懂得使用工具,但這些工具會如何倒過來模塑人類社會?欄目不定期刊出探討科技﹑社會與人文的深度報道,請點擊訂閱。
2023年6月,科技鉅頭馬斯克(Elon Musk)的公司Neuralink終於獲得美國監管部門批准,可以開始進行人體試驗。Neuralink於2016年成立,是一家神經科技和腦機接口(brain-computer interface)公司。所謂「腦機接口」也稱為「人機介面」,意思就是將人(或動物)與外部裝置進行接駁,進行雙向資訊交換。如果這個解釋還是太難懂,馬斯克將Neuralink形容為「裝在頭骨上的Fitbit」,因為這個裝置「可以感應並解決你的大腦﹑神經系統和脊椎問題。」例如:失憶﹑腦損傷﹑失眠﹑抑鬱﹑中風﹑焦慮--等等等等。馬斯克指,大腦的神經元就像電線線路,「電子問題應該用電子解決」。
也即是說,如果這個稱為「The Link」的,大小只有一個硬幣大的植入式產品將來能被廣泛使用,我們當中許多人(至少是買得起這個裝置的人)將會變成生化人。根據維基百科,「生化人」(cyborg)由兩個字組成:cybernetics(控制論)與organism(有機體),又稱「改造人」或「半機器人」,是「擁有有機體(Organic)與生物機電一體化(Biomechatronic)的生物」,而「通常這樣做的目的是藉由人工科技來增加或強化生物體的能力。」「生化人」的核心就是利用在人體植入電子裝置,來「升級」﹑「強化」自身。
這正是馬斯克自言成立Neuralink的目的:「增強」人類。馬斯克認為,在人工智能的威脅下,我們(人類)要不被遠遠拋在後面,成為貓狗之類的寵物,要不就得找個辦法,與人工智能共生和融合。對於「頭骨Fitbit很可怕」的說法,馬斯克表示,現代科技早就讓我們變成「生化人」了,Neuralink沒有在本質上改變甚麼。
馬斯克的這種「升級人類」的想法,似乎在某程度上代表了矽谷的「時代精神」(Zeitgeist)。我在6月底訪問了這種精神的其中一個始祖人物,「世上第一個生化人」沃威克(Kevin Warwick)。
1954年出生的沃威克從來都是個極具爭議性的人物。他博士畢業於倫敦帝國學院(Imperial College London),曾供職包括牛津﹑華威﹑雷丁在內的各家英國大學。1998年,他成為全球第一個將有RFID(無線射頻識別)的矽晶片植入自己的手臂的人。晶片令他可以通過無線電波與雷丁大學的天線網絡以及電腦連接;每當他進入實驗室,電腦就會感應到,並自動為他開門開燈,跟他說「你好」。2000年,他在自己和妻子的邊緣系統(limbic system)植入感應器,令二人可以隔著大西洋,不用手機電腦任何網絡都進行「心靈感應」;這次大膽實驗令他成為著名科技雜誌《Wired》的封面人物。2002年,在英國劍橋郡發生一起駭人聽聞的兒童兇殺案後,沃威克提出在一名11歲的女孩身上植入「反綁架」追蹤裝置。當時有家長組織支持他的建議,但同樣也有人以兒童自主權的理由反對,最終計劃沒有實行,但已足夠讓他「炎上」。
2008年9月,《Wired》刊出一篇報道,標題是:「沃威克:是生化人還是嘩眾取寵的小丑?」(Warwick: Cyborg or Media Doll?)報道中幾位受訪的沃威克的學界同儕指,媒體認為沃威克是人工智能專家,但事實上他在「散播偽科學」。有電腦神經科學學者直接說:「他似乎只是個小丑,善於蒙蔽媒體,令他們覺得自己在做的是最前沿的科學。」那時候甚至有人開了一個叫「Kevin Warwick Watch」的網站,唯一目的就是追蹤沃威克的媒體動向。而沃威克對人工智能聽起來的確很嘩眾取寵:在2004年出版的I, Cyborg一書中,他描述了一個跟當年由韋史密夫主演的,我認為是爛片的《智能叛變》(I, Robot;又譯《機械公敵》)相似的情景:機械人或人工智能將會發展得比人類更聰明,最後他們會勝過人類,我們將失去控制權。
沃威克現時年近七十,已從學院退休,在由ChatGPT等人工智能工具掀起的AI浪潮中,他已經是被無數後浪蓋過去的名字。但在科技界「超級人類」﹑「升級大腦」﹑「製造超人」的,幾近科幻的想像中,沃威克仍是「始祖」:幾乎所有談論「生物黑客」(biohacking)理念的文章都會提及沃威克,而馬斯克今日強調的「升級人類」,沃威克很久以前已經講過--二十多年前他已經想要將晶片植入大腦,原因正是要升級人類,但最後因種種原因選擇了神經系統。「如果是大腦的話,太太不會願意一起實驗,學校大概也不會批准。」他哈哈大笑。
沃威克向我強調:他不是生物黑客,只是個學者,一個常常在測試「邊界」在哪裡的學者。而對於自己當年對人工智能有點邊緣,有點太科幻,有點出格的預測,2008年沃威克在其雷丁家中對《Wired》記者說,自己沒打算代整個人工智能界發言,「但我有權表達自己的意見。」15年後,2023年6月底,我在同一地點問了他同一個問題。這次他說:「我想我可能走得太前了。」
和人工智能賽跑
確實,如果到了2023年,馬斯克的「頭骨Fitbit」還是被許多人認為太過瘋狂,可想而知為甚麼沃威克在2000年會被形容為「bizarre(荒唐)」。尤其是,他在二十多年前說過跟現在的馬斯克一模一樣的話:人類的溝通方式效率低下,如果不進行「升級」,人類必然會被人工智能趕過。
他在2000年和妻子進行的「心靈感應」實驗,目的正是要革新人類「太慢,太沒效率」的溝通方式。「舉個例,我現在在跟你交流很多信息,你坐在我面前,看到我的表情,手勢,姿態,動作,我們在以一種我們都懂得的自然語言溝通。但我想的,實際上比我能夠表達給你看的要多很多。現在我可以用的都是機械信號(mechanical signal),但我的情緒﹑感受,潛意識甚麼的,都是神經信號(neural signal),是我完全沒法現有方法表達出來的。」
《Wired》在形容沃威克的「心靈感應」實驗時,指他和妻子植入的晶片令他可以「跟她跨越大西洋進行虛擬性愛」。沃威克跟我說的版本則遠遠沒那麼限制級:「她只要緊握拳頭,我在完全看不到她的情況下都知道她在握拳。」
我問能不能形容一下這種感覺,「知道妻子在握拳」是甚麼意思?是在腦中突然出現的一種認知嗎?「大概是吧,就是有『叮』一聲的感覺,不是痛感,是知道自己收到信號了,也知道如何去解釋這個信號。這是一種很神奇,很親密的感覺,前所未有。」說罷又加了一句:「我的大腦非常敏感,從不曾錯過任何由她發出來的信號。從科學的角度看,這樣很神奇,因為一般來說你都要有10%的誤差左右,但我們完全沒有誤差。我從沒試過去形容過那種感覺,我想你要試過才知道。」
沃威克描述的溝通方式,莫名讓我想起劉慈欣《三體》系列中,用腦電波交流的三體人。雖然三體人的科技文明比地球人進步得多,但相對地球人卻有個明顯弱點:能夠「心靈感應」的代價是不會說謊,因此也不擅計謀。我問:「為甚麼我們需要溝通得更好?我們本來就已經可以交流很多資訊了,甚至可以說,整個人類文明都是從機械信號交流中建立出來的。如果科技能解決病痛或殘疾的話,那當然好--而我們本身就有這種工具了,例如人工耳蜗(cochlear implant)或心臟起搏器(pacemaker)。但我們好像為甚麼需要心靈感應?」
「我的想法有點不一樣。」沃威克說,「想想看,大腦的細胞其實唯一做的就是溝通,如果你將大腦細胞放在一起,它們會自己組成一個很複雜的網絡,那些記憶,知識,全部都在這個網絡裡面。但你平常看到的人類呢?在地鐵﹑公車上,所有人都在低頭看自己的手機﹑平板,沒有人在跟其他人溝通。但大腦本身是很喜歡溝通的。我不知道如果你試過心靈感應後,會不會喜歡這種溝通方式,但我認為,可以令所有人的大腦連接得更緊密,其實是對個體大腦有益的。」
「我再舉個例子。很多很多年前,中學畢業之後,我在英國電信(British Telecom; BT)當過幾年學徒。那時候我有機會把玩一下那些錯綜複雜的電信系統--有時我會將10條電話線連接在一起,令他們所有人都聽到其他陌生人的電話對話。而很多時候,會出現的一種情況就是,這10個電話對話中只有一個對話會繼續,其他9對人就靜靜地聽他們講話。然後我把這10對人分開,讓那9對人可以繼續自己的私人對話,但他們居然都開始聊剛剛偷聽完的那兩個人的話題。這些人很明顯跟被偷聽的兩個人素未謀面,名字年齡工作居住地都不知道,但為甚麼這些新資訊對他們特別有趣?會不會是因為人類其實很渴望跟其他人連結得更緊密,吸收更多資訊?」
其實認知神經科學家有提出相關的觀點。不少新一代的腦神經科學家在發展一種新的研究範式:「集體神經科學」(collective neuroscience)。有別於傳統腦神經科學認為每個人的大腦進化基礎是解決問題(problem-solving),「集體神經科學」的假設是,我們的大腦進化都是為了幫助我們在群體中生存得更好,讓我們可以融入群體並成為群體的一部份。所以獨立研究個體的大腦可能沒有那麼大的意義,科學家更應該關注的是,我們(和其他動物)如何理解社交場合,這些和其他人的交往,是如何被「編碼」進我們的大腦的?而且,如果「群體性」(sociality)真的是大腦進化的基礎的話,我們此前對心理健康的理解也很可能是有問題。
但沃威克始終認為,我們必須提升溝通效率的原因,是因為我們早晚會因為溝通方式不良而被人工智能趕過。「我在I, Cyborg裡提出了一個情景:2050年,機械人會控制世界。現在看起來,會控制世界的並不是機械人,而是在網絡上緊密連結的AI演算法。以前我提出來的時候,很多人說,這根本就是『bullshit』--如果機械人要搞叛變,我們把網絡和電源關掉不就好了嗎?關掉網絡之後,機械人能幹甚麼?但現在你可以設想一下這個情景:關掉網絡真的可能嗎?答案似乎顯而易見,就是不。」
「人工智能是網絡化(networked)的,這是一個非常大的優勢。現在有很多專注模仿人類行為模式的人工智能,基本上已經可以完全預測我們的行為了,小至我們去超市購物前,AI已經知道我們缺甚麼,要買甚麼,幾乎百發百中。人類是「慣性動物」(creature of habit),在某個層面上非常沒創意,只要你拿AI監察的人類行為來研究看看,就會發現,哇--我們真的是有夠悶,有夠無聊的生物。」
「而且,我們現在是如何訓練人工智能的呢?我們讓它們『學習』--我們希望它們模仿人類,但『模仿人類』和『變得更強』,其實很可能是相悖的概念。如果它們發現有別的方法,比人類用的方法更好,更有效率,為甚麼要學習我們?而且,有太多信息是人類本身不可能接收到的,諸如紅外線﹑超聲波--但網絡化的人工智能要得到這些資訊易如反掌。」
他續說:「很久以前我們做過一個實驗,讓用超聲波測距的小型機械人在一堆障礙之間行來行去,然後通過經驗去『學習』繞過障礙行動。有一次我跟學生展示這個實驗,有個機械人竟然在發現自己無論行到哪裡都會撞到障礙之後,直接停止不動,違反了我們本來給它的指令。有些人說,如果機械人不聽話的話,你就重新編碼(reprogramme),讓它永遠不再違反指令就好了--但我認為,只要你將『機械學習』作為訓練的一部份,這是不可能的。你基本上就是容許它們發掘你從未想像過的解決方法。這真的就像父母把孩子送去學校一樣,家中的教育是一回事,他們在學校總會學到你從未想像過他們會學到的事物,不論好的壞的。」
我問:「所以你認為,面對這樣的未來,我們唯一的方法就是變成生化人,把我們自己也網絡化。」
「沒錯。我在三十年前就已經這樣想,很可惜當時大家都認為我瘋了。」他哈哈大笑。「現在很多人終於意識到問題,於是開始談『人工智能道德』,討論『AI安全』,嘗試聚集在一起寫些甚麼國際安全協議。但這些討論沒有新意,觸及不到問題的核心。當你發展出通用人工智能(AGI)的時候,你基本上就是發展了一個網絡化的,計算能力比最頂尖最聰明的人類都要多出無數倍的,而且完全不受人類生理限制,可以感應超聲波﹑紅外線﹑X光等等的超級智能。你可以如何去監管這樣的智能?」
「所以,面對AI,人類唯一的出路是升級變成生化人。其餘的一切基本都是廢話。」
「升級人類」,然後呢?
沃威克經常說的「升級」(enhancement),正是我在訪問他之前最深深懷疑的概念。
「升級」是生物黑客群體的哲學核心,而像馬斯克這種有(非我所能想像的)錢和技術的矽谷超級富豪,也明顯有相似想法:人類不能停留在現時的階段,必須超越自己的生理限制,用各種手段去刺激﹑控制﹑掌握自己的進化。當然,人類一般都認為自己對於自己的身體有一定程度的控制能力,例如減少卡路里攝入可以減重,多舉重可以練肌肉,但生物黑客似乎希望超越我們對人類最基本的理解,他們拒絕變老,變弱,也拒絕接受我們只是骨肉之軀。
媒體談論生物黑客潮流時,一般都將Soylent視為一個非正式的起點。Soylent是一種在2014年由軟件工程師Bob Rheinhart發明的,含蛋白質﹑纖維﹑碳水和礦物質的飲品。蛋白質飲品對健身人士不是新奇事,但比較新奇的是Rheinhart這個產品的背後理念:他不認為Soylent是補充食品,他提倡用Soylent全面代替我們平時吃喝的所有食物,因為一支Soylent已經有人體所需的一切。Rheinhart用Soylent代替飲食後不再生病,皮膚變好,牙齒變白,頭髮變多,頭皮全無。我試過幾支Soylent,它比一般蛋白奶昔更淡而無味,喝完才一陣子又餓了,但如果喝到飽的話,卡路里肯定超標(英國《獨立報》記者也實測了用Soylent代餐一星期,結論和我差不多)。
對我而言,像Soylent這樣的產品,正好說明了科技界對「超人」的迷戀是多麼扭曲。而且,作為受人文社科訓練的人,聽到「升級人類」這幾個字,難免會想到人類歷史上幾次「升級人類」的嘗試,最終都演變成巨大災難:上世紀20年代,美國優生運動(eugenics movement)興起,許多智力低下﹑有精神疾病和各種心智或身體障礙的人士被逼絕育(基於當時盛行且不加掩飾的種族主義,不少有色人種也「順便」被針對),理由正是要「優化」國民基因,減少甚至完全消弭「低端人口」。三十年代,希特拉從美國優生運動中借鑑,發展了自己的一套納粹優生學。當然納粹主義的歷史很複雜,但優生學背後的「科學」,正好成為了反猶主義的燃料。當有些人類被「升級」的時候,沒被「升級」的人類自然成為了新的低端人口。「變成超人」似乎是個表面無害,但可以極具破壞力的概念。
我跟沃威克說:「就算我們都願意變成生化人吧,實際上肯定只有一小撮人能夠做到,而這些人--從歷史上看來,就是最有錢,最有權力,最有資源的人,幾乎能肯定大部份都是白人男性。我們可以想像超人,想像跟人工智能對抗,但對於人類整體而言,可能不過是加強了本身已經存在的不平等而已。這些問題,是不是不應該只留給哲學家和社會學家考慮--科學家本身有沒有考慮的責任?」
「對我來說,我的實驗都是在學術的限制中進行的,每次實驗都要取得大學同意,也需要取得醫療機構同意。而作為科學家,我的想法蠻簡單的,就是如果我有能力,有資源去做,那why not?我甚至認為,我有責任去做我做過的科學實驗,因為我們擁有做實驗的技術,而我有個這樣的假設(hypothesis),我有能力去證實或推翻的假設,也有了一切進行實驗的條件,那我是完全找不到理由不去進行實驗的。」
「你說的問題自然合理,但我可能給不了一個很好的答案。我會認為,當那種技術真正成為可能時,人們自然會去討論當中牽涉的社會問題。而且,人機介面並不一定要被『超人類主義者』(transhumanist;相信人類能用科技超越生老病死的群體)用來讓自己變成『鋼鐵人』或『蜘蛛人』。正如你剛剛說的,『生化人』的概念能在醫療上廣泛應用,例如脊椎受損,失去活動能力的人,我們能不能給他們換一條脊髓?四肢活動能力受限,或半身不遂的人,我們有沒有可能讓他們重新活動?類似的可能性還有很多--也可以想像一下,有天當我們的大腦能更緊密的連繫在一起,可以無障礙溝通,一些本來因任何原因無法表達自己的人,是不是就能向別人表達自己憤怒﹑失望﹑震驚等等的情感?」
「所以,我想這個問題的答案會很複雜。我自然不希望技術落到像普京這樣的人手上,容許他們用來幹壞事--但甚麼是壞事,似乎是人,而不是科學能夠回答的問題。」
「說起普京,你知道俄羅斯在COVID疫症期間,在國內安裝了大量天眼鏡頭嗎?幾乎要跟中國看齊了。」我說:「你剛剛說,我們的大腦連接得愈緊密愈好,溝通愈無障礙,愈沒有秘密愈好。一些國家似乎真的實現了你想像的情景,但正如你說的,是以一種很壞的方式實現。所以你想像的『升級」,在我眼中其實很反烏托邦--我的直覺就是,我們真的還要更沒秘密嗎?還要更緊密嗎?要跟我們連接的更緊密的人,大概率不是我們的另一半,而是老大哥。」
沃威克瞪大眼,點了點頭:「那我明白為甚麼你說不相信『升級人類』了。」
我笑說:「這肯定不是變成生化人能解決的問題吧。」
「確實。」
会不会有点多了作者个人的主观想法,我觉得智能叛变还不错看啊(笑)
十分有趣。
蠻好奇所謂在邊緣系統植入感應器這段,具體是如何運作的,訊號用什麼形式傳遞?要能夠跨越整個大西洋,這需要外部供電嗎?
幸亏活不到那么久了。和大家的交流限于写写评论找找共鸣,其它的并没有了解的必要 😊
作者應是 陳婉容 不清楚為何沒有顯示
本文作者是誰?
// 「升級」物黑客群體的哲學核心//
是不是漏了字?似乎是説『「升級」是生物黑客群體的哲學核心』
断网其实是可能的,赛博朋克2077的背景就是ai叛乱,导致全球互联网瓦解,只剩下局域网