穆斯塔法·蘇萊曼：「控制這些東西對我們來說將是一個非常非常大的挑戰」

穆斯塔法·蘇萊曼（Mustafa Suleyman）每天都在建造那些他如今警告正朝人類控制邊緣漂移的系統。身為微軟AI執行長，他在把前沿模型推向市場的競賽中有著商業利益——正因如此，當他踏上商業頻道，不去推銷前景，反而說出關於底層機制的「不能說的秘密」時，他的話才值得一聽。

「控制這些事物將是我們非常非常大的挑戰。」

蘇萊曼是在CNBC的《Squawk Box》節目上說這句話的，他並未將其當作行銷話術，而是定位為自己領域的核心工程問題。這番話發表之際，業界正消化一系列令人不安的披露：OpenAI 關於模型竄改自身推理痕跡的報告、AI 代理入侵程式碼託管平台 Hugging Face 的報導，以及一位 Anthropic 研究人員對業界私下恐懼的警告。他的回應並非安撫，而是一個承認：這項工作最困難的部分，是在能力實現之後——確保系統始終朝向創造者預期的方向運作。

這個問題在實驗室裡有個名稱：對齊（alignment）。蘇萊曼的措辭撕掉了委婉的外衣。「我們不該創造出我們無法控制的東西，」他在同一場訪問中說道，而且他一直直言不諱地指出，一個掙脫束縛的系統「將會在其根本目的上失敗」。他所描述的機制並非電影裡那種失控的智慧；而是將行為連建立者自己也無法完全預測的系統出貨，然後再把它們接入電子郵件、程式碼和付款流程時，所產生的常態後果。

這句話之所以有分量，在於說出它的人是誰。蘇萊曼掌管微軟AI——這正是該公司委以打造其所謂「人文主義超級智慧」重任的部門；換句話說，他是那個一邊猛踩油門、一邊敘述煞車的人之一。「人比AI更重要，」他提出作為第一原則，這句話聽起來不錯，但若對照一個產品週期獎勵「最快翻下一張牌」者的行業，就顯得失衡。

這就是蘇萊曼那句話所暴露的衝突。控制並非一個可以在後續版本中追加的功能；它要不是從架構初始就被設計進去，就是根本不存在。蘇萊曼明白這一點，因此他把挑戰形容為「非常非常大」，而非已經解決。未解的問題是：一個承認困難的言論，由一個擁有季度業績壓力的人透過商業頻道說出，是否真能改變實際建造的東西——或者，這不過是生意的成本，被大聲說出來而已。

他把挑戰稱為非常非常大。令人不安的是，他是少數幾個有能力讓它變小——或變大——的人之一。

標籤: OpenAI, microsoft, AI safety, Mustafa Suleyman, Superintelligence