技術

達里奧·阿莫代伊談他打造的AI:「有責任和義務誠實說出即將到來的一切」

Adrian Kessler

有些警告,令人欽佩容易,付諸行動卻難。Dario Amodei 經營 Anthropic,是少數幾個真正在打造那些他反覆要我們做好準備的系統的實驗室之一,而他已將某種公民式的誠實,化為自己的標誌。他主張,那些將技術推向市場的人,最有義務向所有人坦誠交代這項技術將走向何方。這對一位執行長來說是罕見的姿態,而他以道德事實的口吻陳述。

「我們,作為這項技術的生產者,有責任、有義務誠實告知即將發生的事。」

他在一次訪談中如此說道,並再次提出他如今為人熟悉的預測:AI 可能消滅多達一半的初階白領工作——那是整整一代人賴以起步的第一級階梯。這句話確實發揮了作用。多數高階主管描述 AI 對勞動力的影響,就像描述天氣一樣——某種自然發生、無人主導的事。Amodei 拒絕這個藉口。他把「生產者」這個詞放在主語的位置,並接受了「作者」的身分。這已經比他的同儕做得更多,也正是這句話之所以有力的原因。

但若將此視為系統性的陳述,其侷限便顯露無遺。誠實的義務,是責任中廉價的那一半;昂貴的那一半,是「採取行動」的義務,而這一部分明顯缺席。此外,每當預測變動一次,誠實的代價就再降低一些。2025 年 5 月,他的警告是白領「大屠殺」。到了今年 5 月,在向摩根大通的 Jamie Dimon 簡報時,Amodei 卻搬出了傑文斯悖論——這個 19 世紀的觀點認為,讓一項任務變得更便宜,反而會擴大對它的需求。「如果你自動化了 90% 的工作,那麼每個人都會去做那剩下的 10%,而那 10% 又會擴張成 100%,」他如此解釋,但隨即又收回前言:他補充說,AI 進展太快,以至於「會出現這些奇怪的行為和巨大的混亂」。大屠殺,然後是安撫,接著又再次提出警告——往往出現在同一場露面中。

這句話所揭示的性格,確實比同業更為坦率——同時也顯示,坦率已成為他的品牌。他今年一月發表了兩萬字的長文,探討這項技術的「青春期」,被不止一位評論家解讀為一半是預言、一半是行銷;文中提出的安全補救措施,恰好與 Anthropic 自身的發展路線圖完美吻合。他的預測記錄是一連串龐大且不斷變動的數字:他預測 AI 將寫出 90% 的程式碼,這個預測在 Anthropic 內部、在他自己的模型上成真了,但在其他所有人那裡,實際數字更接近四分之一到 40%。與此同時,反對的聲音也並非來自邊緣。亞馬遜雲端部門主管 Matt Garman 稱,用 AI 取代初階員工是「公司能做的最愚蠢的事情之一」。業界對診斷結果無法達成共識,而最確信這個診斷的人,正是那個在販賣解藥的人。

這些都無法讓這個警告變成假的;初階職位的招聘確實正在萎縮,而誠實面對這一點,遠比其他高層辦公室裡那些樂觀的否認更有價值。但是,一個止於麥克風前的責任,是一種奇怪的責任。如果生產者真的欠我們所有人關於即將發生之事的真相,那麼這份義務就不能在成本最終要由生產者承擔的地方停下腳步。Amodei 的誠實,其破綻不在於它承認了什麼,而在於它從未提出的一件事:放慢腳步。

標籤: , , , ,

討論

共有 0 則留言。