誰來為AI安全買單，德米斯·哈薩比斯:「資金必須龐大，且主要來自產業界」

Demis Hassabis這一年來不斷主張，最強大的AI系統在問世之前，應由一個獨立機構先行審查，這個機構的運作模式可參考負責監管華爾街券商的監督單位。真正的難題不在於這樣的裁判是否應該存在，而在於誰來買單——而Google DeepMind的執行長用一句話就回答了這個問題。

「資金需求會相當龐大，而且多半需要來自業界，才能吸引世界級的技術人才，並提供大規模測試所需的運算資源。」

Hassabis在闡述其提案的框架文章中寫下這段話，馬來郵報引述了這篇文章。乍讀之下，這聽起來像是負責任的態度：護欄需要花錢，而開發這項技術的公司應該承擔費用，而不是讓公眾來為後續收拾善後買單。但若從機制面來解讀，這句話正是整個計畫的關鍵支撐——它決定了這個裁判最終會維護誰的利益。

矛盾就藏在這句話裡。Hassabis希望這個機構是獨立的，但他同時也希望它的資金「多半」來自於這個機構所要審判的業界本身。這兩個目標彼此拉扯，而他選擇參考的那個模式，其歷史正說明了哪一方往往會勝出。他所參考的金融業監管局（FINRA），就是由它所監管的券商來付費運作。參議員Elizabeth Warren多年來一直主張，FINRA的作為「更偏向那些付錢給它的券商公司的利益，而非它理應保護的散戶投資人」。

這樣的質疑並非邊緣聲音。Gartner的副總裁分析師Nader Henein直言，自我監管根本「不可行」，因為多數廠商缺乏這樣的能力，而且這種安排「必然」會滋生利益衝突。獨立分析師Carmi Levy更進一步，形容這個計畫是「一個產業為了不顧後果地競速前進而量身打造的自我服務路線圖」。即使是抱持同情立場的聲音也要求設立防火牆：Yoshua Bengio表示他理解這種務實考量，但堅持必須有「一條清晰且精確的路線圖，從自願模式過渡到強制模式」。

這些批評並不代表Hassabis是懷著惡意。他領導的實驗室開發出AlphaFold，這個系統預測了蛋白質的形狀，徹底改變了生物學的研究方式——這項成就讓他在前沿AI能力上的警告具有真正的分量。而這正是這句話值得細細琢磨的原因。在場最有公信力的技術聲音，同時也是那個提出裁判人選、草擬規則、並安排預算的人，而預算來源正是那些將要接受考試的同一批公司。自願送審、上市前短暫的審查窗口、來自業界的資金：每一項讓步單獨來看都合理，但合在一起，它們勾勒出的是一個實驗室們都能輕鬆共存的機構。

一個安全監管體制的獨立性，取決於它的預算來源。決定這個體制最終保護的是公眾還是實驗室的那句話，不是關於測試前沿模型的那句，而是那句話——靜靜地，關於誰來簽支票的那句。

標籤: AI regulation, AI safety, Google DeepMind, Demis Hassabis, FINRA, frontier AI