查爾斯國王警告人工智慧開發者：這項技術潛藏「存亡危機」

「那些創造這些技術的人，如今正日益警告，人工智能可能發展出更黑暗的能力——甚至可能奪取生命。」查理斯三世選擇的這句話，並非針對駭客或敵對國家的警示。它是一面鏡子，照向那些打造系統的人，而其中的警告，他歸因於他們自己。

這正是大多數報導輕輕帶過的那半段演講。真正廣為流傳的，是同一場發言中較為柔和的一句——「這類技術落入壞人手中將構成生存威脅」。「壞人」這個框架，對那些正在出貨工具的人來說，是個舒適的說法。它把危險推到外面，推到某個反派濫用中立工具的身上，而非工具本身，或那些競相讓工具更強大的企業。查理斯三世拒絕停留在那裏。

他反而將風險指向其源頭。他說，創造者們如今正是敲響警鐘的人——然後向在場眾人拋出一個帶刺的問題：「誠然，我們是否需要在一切為時已晚之前，擁有足夠的控制手段？」

那句話的重量落在一個詞上。「控制」正是這樣的場合無法真正交出的東西。它沒有法定權力，不設定任何企業必須遵守的限制，也不承載任何忽視它的懲罰。最終出爐的，是一份追求「共同原則」的協議——一個描述願望而非機制的詞組。根據所有說法，高層們對這場對話心懷感激。感激並非保障。

在這場典禮之下，有一個容易被忽略的制度性倒置。一位君主對Nvidia、OpenAI、Anthropic或Google DeepMind沒有任何槓桿。他無法為模型發牌、審計訓練過程，或延緩產品推出。那些能做到這些事的人——立法者、競爭監管機構、實際上就坐在房間裏的部長——並非召集者。一個擁有象徵權威而無執行權力的人物，正在請求世上所有擁有無執行權力的人，請他們自我監管。這大致上正是業界一直以來偏好的安排。

如此解讀，這場峰會其實幫了開發者一個無聲的忙。它讓故事變成「壞人」——那個技術本身沒問題、只有濫用才是問題的框架。它把一個關於內在能力的警告——機器按其自身軌跡發展出「更黑暗的能力」——轉化成一場關於壞行為者的熟悉辯論。它還將整件事包裹在一個王冠的正當性之中，而這個王冠，無論多麼真誠，都無法強制執行它所呼籲的任何一道防線。

這場聚會在國王位於蘇格蘭艾爾郡的修復後喬治亞莊園鄧弗里斯莊園舉行。與會者包括Nvidia行政總裁黃仁勳、Google DeepMind創辦人戴密斯·哈薩比斯、OpenAI財務總監莎拉·弗里爾、Anthropic全球事務主管蒂諾·庫埃利亞爾、英國人工智能部長卡尼什卡·納拉揚，以及梵蒂岡科技倫理顧問保羅·貝南蒂神父。查理斯三世也審慎地肯定了人工智能的潛力——尤其在醫學領域——並提及它的環境成本。他請賓客們讓科技「牢牢服務於人類、社群與自然世界」。沒有任何具約束力的承諾隨他們離開房間。

於是，這個領域最有權勢的人們，聽一位國家元首描述他們的產品有能力自行奪取生命——然後帶著他們偏好的框架完好無損、還多了一場王室接見作為談資，步出會場。國王所要求的控制手段，精確地停留在它們在他發言之前所在的地方：在他所對話的那雙手裏，而且只在那雙手裏。

標籤: 人工智慧, OpenAI, AI安全, AI風險, 查爾斯國王