技術

Mac mini不是為AI訓練而生的。OpenAI還是買了數萬台。

Adrian Kessler

AI 訓練基礎設施的標準畫面,向來是 GPU 集群、伺服器機房,以及每張要價數萬美元的 Nvidia 硬體。OpenAI 卻剛買了數萬台消費級 Mac,徹底顛覆了這幅景象。該公司購入 Mac mini 與 Mac Studio 系統,用來訓練特定一類 AI:能夠像人類操作者一樣,點擊、滾動、操作軟體的電腦代理(agent)。

原因在於記憶體。蘋果的 M 系列晶片採用統一記憶體架構,將 CPU 與 GPU 置於同一塊矽晶片上,共享同一組高頻寬記憶體。對於強化學習——一種透過成千上萬次嘗試與錯誤重複來訓練代理的學習方法——這種設計消除了持續存在的資料傳輸瓶頸。當 GPU 記憶體與系統記憶體分離時(如同傳統 GPU 配置),硬體必須不斷在兩者之間複製資料。蘋果的統一記憶體消除了這種傳輸。晶片運作溫度更低、每單位功耗更少,而這些數字在特定任務上勝過要價 25,000 美元的 Nvidia H100。

Anthropic,OpenAI 最直接的競爭對手,做出了相同的硬體選擇,卻採取了不同的財務策略。Anthropic 透過 Amazon Web Services 租用 Mac mini,而非直接購買。工作負載相同,但承諾不同。OpenAI 決定直接買斷數萬台,顯示訓練電腦操作代理是一項長期、高容量的基礎設施投資,而非暫時的實驗。

供應效應立刻浮現。蘋果在 8 月底更新了 Mac mini 與 Mac Studio,推出其首款 2 奈米處理器 M6。Mac mini M6 起價 899 美元;Mac Studio M5 Ultra——配置最高可達 96GB 或更多統一記憶體的型號——起價 5,499 美元。最高記憶體配置本就因全球記憶體晶片短缺而受限。AI 實驗室的大量採購進一步推高了頂規型號的庫存緊張,交貨時間現在延長至數月,新機甚至尚未開始出貨。

這些都未觸及 Nvidia 的核心業務。基礎模型訓練——從零打造 GPT-5、Claude 5、Gemini 3——仍然仰賴數千張 Nvidia H100 與 B200 組成的集群。Mac mini 無法複製這一點。Nvidia 密切關注的是代理層:建立在基礎模型之上、與真實世界互動的工作負載。Nvidia 的 DGX Spark,其桌面 AI 系統,正是對蘋果意外佔據的同一領域的直接回應。AI 實驗室目前並未大規模選擇它。

價格說明了差距。一台配備 96GB 統一記憶體的 Mac Studio M5 Ultra 起價 5,499 美元。一張 Nvidia H100 GPU 卡售價超過 25,000 美元,還需要運作所需的伺服器機箱。對於訓練代理點擊瀏覽器、填寫表單、提交報告這類強化學習任務,Mac 的成本效率與記憶體架構創造了不同的算式——而 AI 實驗室已識別出這項差異,並據此採購。

蘋果能否維持這種供應關係,取決於晶片生產規模能否比需求成長更快——而這個條件目前尚未滿足。該公司將於 9 月初舉行的下一場產品發表會,將聚焦於 iPhone 18 系列及其首款摺疊裝置。進一步的 Mac 產品線更新預計在今年稍晚。

標籤: , , , , , ,

討論

共有 0 則留言。