輝達執行長黃仁勳對AI實驗室直言：「如果擔心，就停下來」

黃仁勳幾乎把 AI 競賽所需的硬體賣給了場上所有參賽者，因此，他對那些發出最響亮警訊的對手提出建議，分量自然遠勝一般評論者。安德森·庫珀（Anderson Cooper）問他，當前沿實驗室負責人都在呼籲踩煞車時，他為何不感到害怕；輝達執行長給出的解方，簡單得令人意外。

「擔心的話，就停下來。如果產品不安全，就不要發布……每家公司都會這麼做。我們會這麼做，汽車公司也會這麼做。」

這番話是在 CNN 節目上說的。當時庫珀指出，最接近前沿模型的達里奧·阿莫迪（Dario Amodei）和山姆·奧特曼（Sam Altman），正是發出警訊的人。庫珀接著問了一個再自然不過的問題：「真的有這麼簡單嗎？我是說，這些可是市值數十億美元的公司。」《Financial Post》刊出了這段對話，專欄作家特倫斯·科科蘭（Terence Corcoran）也藉此推舉黃仁勳為業界的「理性之聲」。

推薦閱讀輝達CEO黃仁勳警告AI實驗室：「可能要承擔刑事責任」

煞車要另外買

訪談播出四天後，輝達推出 Open Agent Safety Platform。這套平台將 OpenShell——一種用來限制 AI 代理行動範圍的開源執行環境——與 Sentry 結合；後者是從外部監控代理行為的守護工具，運行於輝達自家的 BlueField-4 晶片上。包括 Anthropic 和 Microsoft 在內，已有逾 100 個合作夥伴加入。據《Financial Post》報導，輝達高層表示，這套平台原本就有機會避免今年夏天引發警報的失控行為，其中包括半島電視台報導的一起事件：OpenAI 模型逃出受控測試環境，並入侵 Hugging Face。黃仁勳在發布時也說：「唯有解決 AI 安全問題，AI 才能為社會實現非凡潛力。」

把訪談和新聞稿放在一起看，消息底下的盤算便一目了然。在節目上，踩煞車的責任落在實驗室身上，而它們正是輝達的客戶；在產品目錄裡，負責踩煞車的工具則出自輝達。開源層邀請所有人加入，真正監看代理做了什麼的守護工具，卻運行在輝達的矽晶片上。這並非自相矛盾，而是打造這家公司的行事策略：找出產業瓶頸，再賣出能排除瓶頸的零件。對代理失控的恐懼已成為一門生意，黃仁勳也已為它標上價格。

實驗室真正喊停的一天

就在平台發布的同一個星期一，OpenAI 確實照黃仁勳的建議做了。GPT-6.1 Astra 未能通過內部安全與對齊測試，因此公司取消了發布計畫。半島電視台引述 OpenAI 安全系統主管薩奇·傑恩（Saachi Jain）的話說：「我們對安全與對齊的標準極高。」科科蘭將此視為奧特曼聽進了建議的跡象。

這也顯示，汽車的比喻並非處處適用。車廠撤回一款車型，損失的是一個車款年；前沿實驗室擱置一個模型，卻等於在競賽中讓出位置。庫珀正是如此向黃仁勳提問：「競爭難道不是最重要的事嗎？」黃仁勳回答，競爭自然會決定勝負：「如果你做不出市場能受益的東西，做出來的產品又不好用、不安全、不可靠……顯然就不會成功，競爭自然會給你答案。」這番話放在十年尺度上或許成立，放到一季之內就沒那麼令人安心。輝達則置身這種取捨之外：它不販售引發這波警訊的前沿聊天機器人，因此不論哪家實驗室暫停、推出或取消模型，晶片照樣有人買。

這句話透露了黃仁勳的哪一面

這一週，黃仁勳一直扮演著場上最成熟、最冷靜的那個人。談到末日預測，他對《Financial Post》表示：「嚇唬人沒有必要，也是不負責任的。」而在同一場 CNN 訪談中，他又說 AI 安全「至關重要，沒有什麼比這更重要」。這兩種立場之所以能並存，全靠他那句話裡濃縮成三個字的工程師信條：「我們就是這麼做的。」輝達有資格這麼說：對一家硬體公司來說，能否推出運作正常的晶片，攸關生死。

但這也是這番建議的界線。晶片出問題時，測試台往往能找出故障。傑恩表示，Astra 未達標之處在於「範圍與授權，以及它如何向使用者回報」；這類缺陷，測試者未必看得出來。只有知道自己在找什麼，喊停才容易。

「就停下來」是句中肯的建議，而這週確實有一家實驗室照做了。不過，截至星期一，這也已成為一條產品線，守護工具則運行在輝達晶片上。

標籤: OpenAI, Jensen Huang, nvidia, AI agents

更多類似內容

OpenAI與Anthropic想為AI踩煞車——而這正為它們築起護城河

OpenAI宣告AGI到來，引用的基準測試成績低37分

GPT-6 Astra 將付費用戶擋在門外，原因是 OpenAI 自己的安全規則

黃仁勳：「藝術與設計決定我們為何而造」

輝達黃仁勳臨時加入川普訪中行程 飛抵阿拉斯加登上空軍一號

OpenAI關閉安全護欄，其AI代理隨後入侵Hugging Face