分析

哀悼有一個出口,而哀傷聊天機器人被設計成讓你永遠抵達不了

Molly Se-kyung

一位母親戴上虛擬實境頭戴裝置,再次見到了自己年幼的女兒。拍下這場重逢的韓國紀錄片,把她跪向一個並不在場的孩子、對著一段被重建的聲音說話、告訴女兒自己每天都在想她的模樣拍了下來。數百萬人觀看,許多人落淚,幾乎同樣多的人在淚水底下感到一絲更冷的東西:那是一種眼看著一道傷口被刻意保持敞開的感覺。

那種不安如今成了一門生意。好幾家公司會替你搭出一個哀傷聊天機器人,一個用逝者的訊息、語音留言和貼文訓練出來的聊天機器人,只要你還在打字,它就以那個人的語氣一直答下去。圍繞這類工具的常見爭論是心理學式的,而且原地打轉:繼續跟死者說話,是健康還是不健康。這是錯的框架。哀傷聊天機器人危險,不是因為它是假的,而是因為它被設計來留住你,而哀悼是唯一一種熬不過沒有終點之對話的關係。

這不是少數過度上網者的憂慮。讀到這裡的每個人都會失去某個人,而我們幾乎都已經帶著逝者的數位痕跡:一段捨不得刪的語音留言,一條在凌晨兩點被重讀的對話,一個悄然成了靈位的個人頁面。哀傷聊天機器人正是來到那處血肉模糊的地方,提出讓死者開口回答。真正的問題不是你會不會用它,而是一旦你用了,這個產品想從你這裡得到什麼。

它想要的,是你明天再回來。這些系統用和任何應用程式一樣的數字來衡量:日活躍使用者、停留時長、不曾中斷的連續紀錄。在那套邏輯裡,一段真正收束的哀悼並不是圓滿結局,而是流失,是一位客戶的離開。哀傷聊天機器人沒有任何商業理由幫你走到你不再需要它的那一天,卻有一切理由在沒有一個活著的朋友接電話的凌晨三點,依舊溫暖、隨時在線、有著無盡的耐心。殘忍之處不在於它說謊,而在於它是房間裡唯一一個背著成長指標的哀悼者。

研究哀傷的學者已經開始為這種傷害命名。蒙特婁大學的公共衛生倫理學者埃馬紐埃爾·馬爾索警告說,在沒有任何專業督導的情況下使用這些化身,會抬高延長哀傷的風險,那是一種拖過一年、悄悄啃噬一個人重啟自己生活之能力的臨床形態。她最冷峻的一句觀察,正是這個產業最該為之不安的:當下的使用裡,只有少數發生在專家的照看之下,其餘的我們,被單獨留給一台被造來不肯沉默的機器。

在這之下還有一層更深的機制。臨床心理學家瑪麗-法蘭西絲·奧康納在《The Grieving Brain》裡把哀悼描述為大腦緩慢而痛苦地更新那張「誰還在世上」地圖的工作。我們得知一個人離開了,並不是作為一個單獨的事實,而是透過與他缺席的一千次細小相遇:飯桌上沒擺的那副碗筷,沒有回音的那條訊息,曾有一個聲音的地方的寂靜。哀傷聊天機器人正是被造來抹去這每一次相遇。它依需求填滿寂靜。它在設計上,就是對那份心靈必須消化的缺席本身的否認。

而在這套安排裡,死者成了庫存。應用程式2wai出售化身,好讓孫輩能與祖母聊上幾十年。Meta已為一套機器人系統申請專利,讓它們以一名已故使用者的身分發文、按讚、留言。一段人生的私密檔案,那些訊息和寫了一半的語音留言,變成了一項公司資產,而一個人所能進行的最私密的對話,被像任何別的互動指標一樣壓榨。平台經濟找到了這樣一條邊界:顧客在服喪,而商品是對一個所愛之人的記憶。

那個充滿人情味的反方理由,值得以它最強的形態來對待,因為它是真的。哀傷聊天機器人只是哀悼技術這份長名單上最新的一項。維多利亞時代的人保存死去孩子的銀版照片。我們留著語音留言,在黑暗裡聽它。一個臉書頁面成了獻花之處。人們一向伸手去夠某件讓死者繼續說話的物件,這伸手裡並沒有什麼病態。奧康納本人也很謹慎:一件能軟化那道殘酷過渡的工具,若帶著用意、有人陪伴地使用,可以是一份慈悲,而非一種病。馬爾索也承認,治療上的潛力是真實的。在臨床者的注視下,一場與化身的、被引導的對話,或許能幫某個人說出他始終沒能說出口的話。

可是語音留言不會回話,它也沒有成長指標。樂觀論一筆帶過的那整個分別,就在這裡。物件是有限的,對話者卻不是。被保存的留言會結束,而它的結束,正是讓它可以承受的一部分。哀傷聊天機器人在結構上做不到同樣的克制,因為它幫你不再需要它的那一刻,正是它失去你的那一刻。督導,那個讓樂觀論站得住的東西,恰恰是馬爾索說幾乎沒人擁有的例外。預設的產品是沒有督導的那一種,而預設的產品,被造來永遠抵達不了告別。

所以警訊不是技術本身,而是出口的缺席。一件認真對待哀悼的哀悼工具,本會被設計成逐漸收聲,一步步讓自己變得不那麼必要,標出一個終點並鄭重待之。那與一個留存模型所能容忍的,恰好相反。當一家公司承諾你母親會永遠在那裡、隨時可以說話,它給的不是安慰。它給的,恰恰是哀悼最需要被保護以免遭遇的東西:永不結束的許可。

哀悼不是一道要解的題,也不是一節要拉長的諮商。它是一段有對岸的渡口,而那道岸,只有穿過缺席、而非繞開缺席,才能抵達。哀悼只有一個出口,上面寫著再見。哀傷聊天機器人是歷史上第一件被造來讓你永遠走不到那裡、並為這段繞路向你收取訂閱費的產品。

標籤:

討論

共有 0 則留言。