技術

OpenAI執行長山姆·奧特曼稱記憶體發言遭斷章取義,完整逐字稿只站在他這邊一半

他當時是在回答關於在地 AI 推論的問題,而非遊戲電腦。他的論點仍將稀缺的記憶體分配給數據中心。
Adrian Kessler
在 Google 中新增我們

山姆·奧特曼希望大家記下這一點:他站在那些為自己的電腦購買記憶體的人這一邊。OpenAI 執行長表示,外界對他一番談及家用電腦占用全球稀缺 DRAM 的言論斷章取義;而他長期以來一直主張業界應增加記憶體產量。完整對話顯示,他說的只對了一半。上下文確實改變了他的原意,卻沒有改變他的主張在短缺持續期間會把晶片導向何處。

在遭到連日揶揄後,他到 X 上為自己辯護,還順勢加入玩笑。一名用戶問他要不要把帳號改名為「Ram Altman」,他回覆「好啊」,並更改了顯示名稱。接著他解釋:「我真的希望全世界有大量記憶體,大家也能想在電腦裡裝多少就裝多少;這件事被斷章取義,真的他媽的很煩。」他又補充:「我很久以前就一直在主張,全球應該提高記憶體產量。」

奧特曼在 Cheeky Pint 到底說了什麼

這段話出自 Stripe 共同創辦人約翰·柯里森(John Collison)主持的 Podcast《Cheeky Pint》;節目會刊出完整逐字稿。相關段落寫道:「但從全球分配的角度來看,讓每個人都把一大堆全球有限的 DRAM 放在自己的電腦裡,其實相當糟糕。而且,這些記憶體有……95% 的時間都沒在使用。如果你想在供應極度吃緊的環境下處理這個問題,就應該讓雲端資源達到最高使用率。」

大多數報導都是從這句話開始引用,但此前的對話同樣重要。柯里森問的是,記憶體價格高漲,為什麼沒有吸引新的製造商進場。奧特曼回答,「看不見的手現在失靈了」。他說,過去幾十年來,DRAM 製造商會「投入 200 億美元資本支出,去做出價值 190 億美元的產品」,並熬過市場的景氣循環。如今,照他的估算,每家廠商一年都有望賺進「大約 1,000 億美元的自由現金流」,「他們全都記得過去的經驗:有多少次,他們因為蓋了太多晶圓廠而差點破產。」接著他才談到那些希望在本機執行推論的人,也就是在自己的設備上執行開源 AI 模型,並認為這樣就能減輕資料中心的負擔。他說「相當糟糕」,正是在反駁這種想法。

同一場對話稍後,奧特曼表示能源和晶片的成本「應該會下降」,「如果沒有下降,我會很難過」,而且「供應必須大幅增加」。就狹義的原話而言,他的辯解站得住腳:他談的是在家進行 AI 推論,不是遊戲電腦或影片剪輯,而且他也在同一集節目中主張提高產量。

上下文也有無法解釋的地方

在供不應求的市場裡,討論如何分配,就等於在討論誰能拿到晶片。「讓雲端達到最高使用率」意味著晶片會流向資料中心,而 OpenAI 正是這個市場最大的買家之一。Samsung 和 SK Hynix 已簽署意向書,承諾為 OpenAI 的 Stargate 基礎設施計畫供應記憶體;The Register 估計,相關規模約為每月 90 萬片 DRAM 晶圓投片量。這些意向書並無約束力,卻顯示 OpenAI 打算採購多少市場上的記憶體。Notebookcheck 指出,這套說法也符合 OpenAI 的商業模式:封閉模型在自家資料中心運作,再以訂閱方式出售。

即使是這集節目中最清楚表達「資源充足」的一番話,也不是奧特曼說的。所謂「算力過剩」,讓「任何想要電腦的人,無論出於什麼理由,都能擁有一台」,是柯里森對自己立場的總結。奧特曼沒有直接回應,而是從資料中心的角度回答,談到一座吉瓦級容量設施五年的成本;他估計約為 700 億美元,並希望降到 200 億美元。

「5%」這個數字沒有來源

引發爭議的數字,背後沒有任何測量依據。PC Games Hardware 指出,這個數字描述的是記憶體有多少時間處於忙碌狀態,而不是一台機器實際需要多少記憶體:作業系統會保留快取資料,程式也會在短時間內大量占用記憶體。即使某個記憶體容量整晚閒置,等到遊戲或本機模型載入時,它仍得準備就緒。人們在自己的硬體上執行 AI,也有使用率數字無法呈現的理由,例如保護隱私、掌控不會被供應商悄悄修改的模型,以及一次付清成本而非持續訂閱。

埃隆·馬斯克也在 X 上加入討論,寫道:「人民也應該有自己的 RAM!」正如 PC Games Hardware 指出的,他旗下的 AI 公司在曼菲斯營運 Colossus 資料中心。

短缺已經反映在商店售價上。11月2日,Raspberry Pi 將 16GB Raspberry Pi 5 的價格調高 80 美元,至 385 美元,理由是「16GB DRAM 缺乏替代供應」。PC Gamer 的報導讓這場 X 上的交鋒受到廣泛關注;該媒體寫道,OpenAI 和其他 AI 業者已讓科技愛好者與玩家「買不起新硬體」。《Cheeky Pint》這集節目於10月29日發布,奧特曼則在11月初幾天內於 X 上作出回應。

奧特曼提出的解方,是興建更多工廠。照他自己的說法,原本需要興建工廠的公司,還記得上一次有人告訴他們這波景氣榮景與以往不同時,他們差點破產。在他們改變想法之前,記憶體已經按照他描述的方式分配:流向出價最高、使用最頻繁的買家;而這個買家是資料中心,不是桌上型電腦。

標籤: , , , ,

在 Google 中新增我們

討論

共有 0 則留言。