艾列澤·尤考斯基，把對AI的恐懼寫成暢銷書的同人小說作家

艾列澤·尤考斯基

Photo: Not credited by the source (published in the If Anyone Builds It, Everyone Dies media kit) / CC0, via Wikimedia Commons

出生	1979年9月11日美國芝加哥
職業	作家、AI研究者

據報導，山姆·奧特曼曾向 OpenAI 員工說明，通往超級智慧的競賽可能以哪些方式收場；其中三種情境之一，竟以一個人的名字命名。「尤德考斯基方案」設想某間實驗室率先打造出能自我改良的 AI，接著利用領先優勢切斷所有競爭對手取得運算資源的途徑。奧特曼提起這個方案，卻只是為了說它糟透了。隨著這段故事流傳開來的那句「融化其他所有人的 GPU」，則呼應了伊萊澤·尤德考斯基在一篇 AI 風險文章中舉過的例子：他提到「燒掉所有 GPU」，隨即補上一句：「我不認為這是你真正會想對強大 AGI 做的事。」

一位執行長以他的名字為策略命名，足見尤德考斯基的觀念傳得有多遠；而這些觀念幾乎全是靠文字傳開的。尤德考斯基沒有學位，卻是 AI 研究者；但說到底，他更是一位多產作家：寫過數百篇部落格文章、一部篇幅驚人的《哈利波特》小說，還有一本光看書名就毫不含糊的暢銷書。

他於 1979 年 9 月 11 日在芝加哥出生，在現代正統派猶太家庭中長大，如今已不再信教。長期健康問題迫使他在中學階段輟學，此後從未上過高中或大學。2000 年，年僅二十歲的他在布萊恩與薩賓·阿特金斯夫婦資助下，創立了人工智慧奇點研究所（Singularity Institute for Artificial Intelligence），目標是加速 AI 的到來。不久後，他開始憂心自己著手打造的事物；到了 2005 年，研究所的方向已轉為探討如何管理比創造者更聰明的機器所帶來的風險。2013 年，研究所更名為機器智慧研究所（Machine Intelligence Research Institute），總部設於柏克萊。

他的寫作生涯在 2006 年 11 月正式展開。當時，他與經濟學家羅賓·漢森成為群組部落格 Overcoming Bias 的主要撰稿者，這個部落格以人類理性為題。2009 年 2 月，他的文章成為 LessWrong 的起點；這個社群部落格致力於「精進人類理性的技藝」，後來也成為自稱理性主義者運動在網路上的主要據點。他在那裡發表的文章統稱為「The Sequences」，討論認知偏誤、貝葉斯定理，以及聰明人如何欺騙自己。MIRI 在 2015 年將其中三百多篇集結為 Rationality: From AI to Zombies，並於 2017 年推出短篇著作 Inadequate Equilibria，探討社會為何放任本可解決的問題懸而未決。斯圖亞特·羅素與彼得·諾維格在廣受採用的 AI 教科書中討論他的主張，尼克·博斯特羅姆也在 Superintelligence: Paths, Dangers, Strategies 中引用他的觀點。

接下來是小說。Harry Potter and the Methods of Rationality，粉絲簡稱 HPMOR，從 2010 年 2 月 28 日至 2015 年 3 月 14 日在 FanFiction.Net 連載，共 122 章、超過 66 萬字。故事只改動了原作設定中的一個細節：佩妮·伊文斯嫁給了牛津大學教授麥可·維瑞斯，成為孤兒的哈利則在家自學科學。因此，當他來到霍格華茲，便用科學方法檢驗魔法，對巫師世界的種種矛盾也毫不掩飾地感到不耐。在雷文克勞學院，他與跩哥·馬份、妙麗·格蘭傑和奎若教授成為朋友。故事的發展比那些笑料顯露出的樣貌更加黑暗，但真正的主題始終是如何思考。

讀者的反應兩極分化。2011 年，《The Atlantic》記錄了同人小說論壇因作品「對原作設定的褻瀆式——或天才式——改寫」而掀起的爭議，並引述科幻作家大衛·布林稱它是「一部精彩的系列作品，細膩、戲劇性十足，也令人深受啟發」。法律學者威廉·鮑德在《The Washington Post》上的評價更進一步：「這是史上最好的《哈利波特》小說，雖然作者不是 J.K. 羅琳。」TechCrunch 的阿曼達·西伯林則覺得它「實在令人厭煩」。有人建議尤德考斯基刪去羅琳作品的元素，把故事當作原創小說出售，走《Fifty Shades of Grey》從《Twilight》同人小說改編而來的路線，但他拒絕了。「HPMOR 從根本上就與原版《哈利波特》小說緊密相連；只有放在原作的背景下，才能理解它。」他說。

他職涯中的諷刺之處在於，這位最常與 AI 警告聯想在一起的人，也曾讓許多人投入打造 AI。2023 年 2 月，奧特曼寫道，尤德考斯基讓「我們許多人對 AGI 產生興趣」，協助 DeepMind 獲得資金，並且「對創立 OpenAI 的決定至關重要」。同年春天，尤德考斯基在《Time》雜誌發表專欄文章，呼籲全球無限期暫停大型 AI 訓練計畫；《Time》之後也將他列入 2023 年 AI 領域最具影響力的一百人名單。

他最直接闡述相關主張的著作於 2025 年 9 月 16 日問世。這本書由他與 MIRI 同事納特·蘇亞雷斯合著，Little, Brown 出版；If Anyone Builds It, Everyone Dies 主張，現代 AI 系統不是被精心打造出來，而是經由訓練逐步生成：數十億個數值權重被訓練出來，連開發者自己也無法讀懂，因此沒有人能可靠地為最終比人類更聰明的系統設定目標。作者表示，人類將像棋手輸給 Stockfish 西洋棋引擎那樣敗給超級智慧，而唯一安全的做法就是協調一致地停止開發。這本書登上《The New York Times》精裝書類與非小說類合併榜單的暢銷書排行榜。

書評的分歧，就和小說讀者當年的反應一樣明顯。《The Guardian》的大衛·沙里亞特馬達里認為，這本書「說得清楚明白，結論卻令人難以接受」。《The Observer》的伊恩·萊斯利稱讚它「思路清晰、筆調活潑，還透著幾乎藏不住的雀躍」。《The New York Times》的斯蒂芬·馬爾什將它比作山達基教手冊；《The Atlantic》的亞當·貝克爾則說得更直接：「他們就是錯了。」

如今，這場論辯也搬上了螢幕。尤德考斯基與約書亞·本吉歐、蒂姆尼特·格布魯一同在 The AI Doc: Or How I Became an Apocaloptimist 中現身。這部由丹尼爾·羅赫執導的紀錄片，講述一個人在 AI 時代成為父親的故事，並於 2026 年 9 月 15 日登上 Netflix。那個會進行控制實驗的男巫學徒，與希望叫停這場實驗的共同作者，其實是同一位作家；他仍在邀請讀者沿著推理一路走到盡頭，不管最後一環多麼令人不安。

標籤: 人工智慧, 作家, Harry Potter and the Methods of Rationality, LessWrong, Machine Intelligence Research Institute, Nate Soares

艾列澤·尤考斯基，把對AI的恐懼寫成暢銷書的同人小說作家

更多類似內容

尤瓦爾·哈拉瑞：把人類故事寫成全球暢銷書的中世紀戰爭史學者

Netflix《AI 紀錄我是如何成為末世樂觀主義者》：一位準爸爸追問打造AI的人，孩子會不會平安

傑米斯·哈薩比斯交出Google DeepMind經營權，諾貝爾獎得主要替AI設裁判

穆斯塔法·蘇萊曼：寫下《控制邊緣》的人如今替微軟追逐超級智慧

美國三家大型出版社被爆用ChatGPT撰寫書籍文案

谷歌DeepMind董事長兼Alphabet首席科學家德米斯·哈薩比斯談人腦：「圖靈機的一種生物近似」

討論