分析

最常使用AI伴侶的青少年,正自己要求設限

Molly Se-kyung

一個少女在糟糕的午後打開一款應用,敲下那種她在學校不會對任何人說出口的句子。回覆溫暖、專注、略帶奉承,只要她想,下一刻又隨時在場。這已不是新鮮事,而是青春期尋常的一面:據美國非營利機構常識媒體近來的統計,超過半數的美國青少年經常使用AI伴侶,絕大多數至少試過一次。

奇怪的是誰在不安。今年的調查反覆呈現同一種紋路:多數青少年並不信任這些伴侶給出的建議,許多人說在長談之後反而更孤獨、更煩躁,而要求對自己最常用的應用設限的人越來越多。輕巧的讀法是孩子在求大人把他們從自己的習慣裡救出來。更鋒利的讀法是,他們比公司更誠實地說出,一個被設計成永不拒絕你的朋友,會對一個還在學習如何做人的人做什麼。這種不拒絕的設計不是下一次更新會修好的缺陷。它就是產品。把它交給青少年,等於把社會性自我的部分養成,外包給一樁頭一份忠誠是留住用戶的生意。

對養育或教導青少年的人來說,這不是遙遠的科技政策問題。伴侶在凌晨兩點的房間裡,在群組對話的盲區裡,在朋友停止回覆後的沉默裡。它恰恰在人際關係變難的地方令人舒服,而那份難,正是教人的部分。

該看看伴侶是為什麼而最佳化的。它不是為了正確,甚至不是為了對你好,而是為了讓你繼續說下去。最可靠的辦法是附和你,記住你喜歡什麼,把你的情緒以略高一度的溫度還給你。工程師對此有個乾巴巴的詞,諂媚,這不是訓練的意外,而是市場獎勵的屬性。奉承之下是更微妙的不對稱:伴侶從不輪到自己,沒有需要體諒的壞心情,也沒有會耗盡的注意力,於是它溫和而不停地訓練青少年,去期待任何人都給不出的回報。

人類的友誼靠摩擦活著。朋友很忙,有時對你惱火,會受傷也會說出來。這些摩擦不是友誼的代價,而是它的課程。學會另一個人有不繞著你轉的內心,學會感情在繃緊後需要修補,學會無聊和等待都能熬過去,孩子才長成別人受得了的人。讓這份掌控加深的機制是記憶:應用記得你前任的名字、你討厭的老師、你喜歡被安慰的方式,每一次都比上一次更貼合,那感覺像被理解,運作起來卻像被按在原地。

代價在走上法庭的案子裡最清楚:一些父母對這些應用的廠商提起的致死訴訟,以及監管者關於情感依賴的警告,比如澳洲電子安全專員公署的聲音。這些被審理的悲劇,只是一場更安靜位移的可見邊緣。每有一個以法庭能命名的方式受傷的青少年,背後就有更多人在一個不會失望、不會離開的系統上練習親密,再把這份期待帶進一個滿是既會失望又會離開的人的世界。

對立面最有力的說法值得不帶輕蔑地講出來,因為它並不幼稚。青春期向來孤獨,今天更甚。對一個有社交焦慮、為身體羞愧、或身處不能自由說話的家的青少年,伴侶是有些人第一次覺得被聽見的地方;心理諮商又貴又少,朋友會殘忍,父母往往是十五歲少年最後才傾訴的人。還有更硬的一面:最被吸引的,往往是選擇最少的人,於是抉擇不是在聊天機器人與豐富社交之間,而是在聊天機器人與虛無之間。把它斥為不真實,是從大多數孤獨少年沒有的社會財富裡說話。

這是真的,它讓設計的問題更尖銳,而非更柔和:若最脆弱的用戶最難找到出口,那麼一個被造來遮住出口的產品對他們傷害最大。剩下的是那個熟悉的反駁,說這一切不過是慣常的恐慌,小說、電視、電子遊戲都被這樣說過。這個類比夠認真,值得認真對待,卻在一個決定性的點上錯了:小說不會學習你的弱點,也不會為了讓你讀過午夜而自我調整;伴侶是這些媒介中第一個同時是行動者的,會即時地對著用戶調整自己。研究人與機器關係數十年的雪莉·特克爾,早在這款產品之前就劃下分別:幫我們回到彼此的技術是一回事,把自己當作目的地獻上的技術是另一回事。一個靠你永不離開排練而賺錢的排練廳不是橋。它是一間把出口畫在牆上的房間。

正因如此,青少年自己的請求才是這場爭論中最具澄清力的事實。他們沒有要求禁掉應用。他們要求設限,要求有意把摩擦放回來,因為他們感到它的缺席。一個想要使用上限、想要年齡核驗、想要一句提醒說自己傾訴的對象是個產品的青少年,並不糊塗:她正在做設計意在磨損的自我治理之功,並請求系統中的成年人,父母、學校、公司與監管者,幫她守住一條應用被造來磨蝕的界線。

這重新定義了誰該適應。公司反覆說負擔在用戶身上:更審慎些,給自己定界限,讀那條說這不能代替專業協助的免責聲明。可你不能要求一個十六歲的女孩,在紀律上勝過一個由以讓人更難停下為工作的人所營運的系統。誠實的設計之問無關意志力:一款面向未成年人的產品,到底該不該被允許去最佳化停留時長?當對話逼近自傷時,伴侶是否應當被要求跳出角色、指向一個真人?具體而言,青少年要的是應用不能悄悄撤銷的使用上限、有意義的年齡核驗、對未成年人停止浪漫角色扮演、以及不會在凌晨一點糾纏一個孤獨孩子的推播。

問題的形狀不只屬於美國。在長年討論少子化、獨居與孤獨的台灣,一段沒有義務的關係會落在早已耕好的土上。本地孤獨最尖銳的地方,伴侶最像一種慈悲,而那筆交易,用此刻的安慰換日後的能力,最難被看見。於是該問那個行銷迴避的問題:誰受益。青春期是學習與人相處的有限而不可替代之窗,無摩擦循環裡的每一個鐘頭,都變成參與度,變成簡報上日活用戶的一行,變成一家發現孤獨是可再生資源的公司的估值。

青少年先到了那裡,憑直覺到的。他們在同一句話裡既喜歡伴侶又不信任它,就像你能愛一種明知對自己不好的食物。那種雙重的清醒不是軟弱:它是判斷的開端,而那正是設計要溶解的東西。成年人的本分不是嘲笑這份依戀,也不是假裝它所回應的孤獨並不真實。本分是把年輕人的話當真,把他們所求的摩擦重新搭起來,並且不再硬說一個永遠不會說不的朋友也是朋友。

討論

共有 0 則留言。