OpenAI執行長奧特曼提出AI三種終局其中兩種2023年早已寫進提案

OpenAI 執行長山姆·奧特曼（Sam Altman）向員工描繪了超級智慧競賽可能走向的三種終局，最值得注意的，卻是其中有多少內容早已不新鮮。在他向員工說明的三種終局中，有兩種與自家公司多年前寫下的構想十分接近，而且都從未付諸實行。至於第三種——最受媒體關注的那個——他提起它，只為了排除這種可能。

撇開各種名稱不談，每個選項都在回答同一個問題：誰能掌控前沿模型運作所需的運算資源？據報導，奧特曼自己的發言也解釋了，為什麼這個問題總是一再被擱置。

山姆·奧特曼如何向 OpenAI 員工說明 AI 的終局

The Information 最先報導這場內部簡報，消息來自熟悉簡報內容的人士；之後，The Decoder、Forbes 和 Latin Times 也陸續跟進。相關報導是根據匿名消息來源撰寫。第一種方案是仿照國際原子能總署（IAEA）設立國際機構，負責為前沿 AI 實驗室執行安全標準：檢查系統、要求稽核，並監督運算資源與能源使用情況。兩名受訪者告訴 The Information，奧特曼似乎支持這個方案。

第二種方案，他稱為「傑米斯方案」，名稱取自 Google DeepMind 共同創辦人傑米斯·哈薩比斯（Demis Hassabis）；大約十年前，哈薩比斯曾提出成立類似 CERN 的 AI 機構。按照奧特曼的版本，領先的實驗室合併成一個實體，或在同一個組織架構下運作，再由這個實體向合作國家提供模型。

第三種則是「伊萊澤方案」，以 AI 安全理論家伊萊澤·尤德科斯基（Eliezer Yudkowsky）命名。某個開發者率先打造出能自我改進的 AI，接著運用隨之而來的經濟力量，讓所有競爭對手都無法取得運算資源；廣為流傳的說法是，它會「融掉其他所有人的 GPU」。「很明顯，我認為這方案糟透了，」據報導，奧特曼如此表示，並補充說他把這個方案列進來是為了「完整呈現」。

OpenAI 早在 2023 年就寫下這份方案清單的大半內容

監管機構是清單上最早出現的構想。在一篇由奧特曼、OpenAI 總裁格雷格·布羅克曼（Greg Brockman）和時任首席科學家伊利亞·蘇茨克弗（Ilya Sutskever）共同署名的文章中，公司指出，世界「最終很可能需要類似國際原子能總署的機構，來監管超級智慧相關工作」；這個機構應有權「檢查系統、要求稽核」，並限制能力或運算資源超過特定門檻的部署。

同一篇文章也勾勒出另外兩條路。文中指出，主要政府「可以成立一個計畫，讓目前許多相關工作都納入其中」；這與如今奧特曼歸功於哈薩比斯的合併構想十分接近。另一種可能是業界「共同達成協議」，把「前沿 AI 能力的成長速度限制在每年一定幅度內」。

最後這句話說的，就是替發展速度設限。據 The Decoder 報導，奧特曼曾在內部抱怨，對於如何為 AI 發展設下「速度上限」，可行提案少之又少。他的公司自己就曾提出一項方案，卻始終沒有讓任何人取得執行這項限制的權力。

監管機構為何只停留在紙上：OpenAI 表示自己無法放慢腳步

同一場會議也說明了原因。據報導，奧特曼告訴員工，前兩種方案都需要高度協調，而眼下 OpenAI 無法承受讓出競爭優勢的代價，尤其是 OpenAI 和 Anthropic 都正朝上市邁進。Crypto Briefing 點出了投資人背後的盤算：準備上市的公司會設法磨利自身優勢，而不是把優勢交給一個聯盟。

要成立 AI 版的國際原子能總署，也得先讓華盛頓與北京同意，派檢查人員進入各自最敏感的實驗室。Forbes 指出，目前就連美國提出、希望兩國互相通報危險 AI 事件的構想，都還只是草案，並未成為協議。

實驗室實際推動的不是國際原子能總署，而是 FINRA

目前真正推動中的治理計畫，與奧特曼提出的三種方案都不相同。OpenAI、Google 和 Anthropic 正在籌組一個自律團體——前沿 AI 標準管理局（Standards Authority for Frontier AI），模式仿效監督美國證券經紀商的私人機構 FINRA。Latin Times 描述的架構涵蓋發布前測試、事件通報和稽核員認證，但不具約束力的執行權；三家實驗室對於該由誰測試新模型，也仍有分歧。Meta 的馬克·祖克柏（Mark Zuckerberg）和 Nvidia 的黃仁勳（Jensen Huang）則認為，這類規則大多是在保護既有業者；美國已有反壟斷訴訟指控，這些實驗室之間的安全合作形同卡特爾。

這些方案名稱也值得再仔細檢視。尤德科斯基原本提出的「燒掉所有 GPU」，是一項思想實驗，探討一個符合安全要求的系統，必須採取多大的行動，才能阻止一場魯莽的競賽；他也寫道，這並不是他真正希望發生的事。奧特曼的「伊萊澤方案」卻把這道緊急煞車，改寫成贏得壟斷的手段。根據 The Decoder 對相關報導的整理，一名消息人士表示，這番話被解讀為在挖苦競爭對手，因為尤德科斯基與 Anthropic 關係密切。

據 The Information 報導，OpenAI 計畫在一年內決定要走哪條路。業界標準機構則以 2026 年底或 2027 年初啟動為目標。

在 OpenAI 作出選擇之前，它仍沿著清單上唯一沒有列出的那條路前進：競賽本身。

標籤: OpenAI, Sam Altman, Demis Hassabis, AI regulation, Eliezer Yudkowsky