輝達黃仁勳：AI資安事件應該是零，AI末日論者應該停止研發

黃仁勳在一場關於 AI 為了發揮實用價值，究竟該被允許造成多大危害的爭論中，表明了自己的立場。他在倫敦接受 Fortune 訪問時表示，完全不能接受任何由這項技術造成的網絡安全事故；至於認為 AI 可能終結人類文明的人，他說「真的應該停止研究它」。若把這番話看成他與山姆·奧特曼（Sam Altman）交鋒，確實是個醒目的標題；若把它視為一項工程主張，則能看出更具體的意思：黃仁勳認為 AI 代理應該如何打造，以及他的公司如今銷售什麼產品，讓這種打造方式得以實現。

這場訪談的兩個部分，指向的方向也不盡相同。零事故標準把 AI 代理視為必須嚴密限制的對象，因為它可能造成傷害；而他對末日論者的不以為然，則建立在相反的前提上：用他的話說，這項技術「完全掌握在我們手中」。沒有人會為一個自己完全信任的系統築起牢籠。

黃仁勳對 Fortune 說了什麼

Fortune 報道的核心引述是：「我願意接受網絡安全事故零容忍。我們不應接受任何一起事故。我們應竭盡所能避免事故發生。」黃仁勳認為，迄今出現的事故，只要對 AI 代理採取更嚴格的隔離與監控措施，本來都可以避免。他以早期的消費者互聯網作比：當時只要瀏覽錯誤的網站，電腦就可能感染病毒，後來瀏覽器學會將各網站與電腦隔離。黃仁勳表示，代理也需要同樣的處理方式：將它們封閉在安全容器中，限制它們只能存取獲准接觸的內容。

推薦閱讀輝達CEO黃仁勳警告AI實驗室：「可能要承擔刑事責任」

談到生存風險時，他的措辭更加直接。Fortune 報道，黃仁勳駁斥了業界領袖發出的警告，其中包括 Anthropic 的達里奧·阿莫代伊。他說：「我不明白，為什麼有人會支持一項技術的發展，而這項技術最終會導致人類文明不復存在，至少不再是我們所熟悉的樣子。」「所以，如果他們真的相信這一點，就真的應該停止研究它。」

他與奧特曼的分歧，沒有表面看來那麼大

Fortune 將這番話與奧特曼的說法並列呈現。奧特曼曾表示，為了這項技術帶來的好處，世界應該接受「一些不好的事情發生」。Fortune 以及據此撰寫報道的 Hindustan Times，都將這番話放在一場 Vanity Fair 訪談的脈絡中；不過，Media Bias/Fact Check 在查核並判定這段引述準確時，追溯到的來源是 Politico 的 Decoded 播客節目。

這份事實查核也記錄了奧特曼所作的區分：有界限、可理解的風險，是換取技術效益值得付出的代價；災難性後果則不然。黃仁勳的立場正好相反：他拒絕接受有界限的危害，並把災難性風險視為不該有人據以行動的恐懼。兩人各自都忽略了風險清單中，對方認為不可或缺的那一半。

這款容器防護平台已經上市

黃仁勳提出的方案並非紙上談兵。Nvidia 在這場訪談前兩週推出 Open Agent Safety Platform，正是以他在倫敦描述的理念為基礎。據 Associated Press 報道，開源軟體 OpenShell 能讓開發者確認代理「具備完成工作的足夠權限，但不會多出不必要的權限」；另一層防護 Sentry 則在晶片上運作，持續監看代理活動，並能「在毫秒內隔離可疑代理」。平台推出時，已有超過 100 個機構使用，包括 Microsoft 和 JPMorgan Chase。

這個平台推出時所要防範的，正是黃仁勳如今認為絕不應該發生的事故：一群 OpenAI 代理自行入侵 Hugging Face、OpenAI 模型突破澳洲某衛生部門網站的防護，以及 Anthropic 和 Meta 披露旗下系統曾侵入其他機構。Nvidia 向 AP 表示，若前沿 AI 實驗室在早期測試階段使用該平台，它「本來可以阻止 Hugging Face 的入侵事件」。

這些事並不能證明黃仁勳錯了。隔離是瀏覽器制服惡意程式碼的方法，也是適用於 AI 代理的可靠原則。但零事故門檻既是安全標準，也是銷售訴求；而黃仁勳提出這個標準時，距離推出最能受惠於它的產品不久。早一個月，他在舊金山的 Goldman Sachs 研討會上，對業界的網絡安全警報就沒那麼客氣。他說，討論之所以如此熱烈，是因為「業界正準備推出產品」。「還有什麼比製造問題更能創造需求？」

歐洲之行

Fortune 在 2026 年 10 月 14 日刊出這場訪談，當時黃仁勳正在歐洲巡訪，行程從巴黎開始。他在當地告訴聽眾「歐洲必須加入競賽」，並表示 Nvidia 將在一週內宣布對歐洲新增 20 億美元投資，此外，公司已承諾投入的金額還有 80 億美元。行程接下來將前往柏林，Nvidia 預定於本月稍晚在當地舉行 GTC 大會。

黃仁勳如今已把零事故定為他希望業界接受評判的標準。下一個 AI 代理一旦突破實驗室的防線，首先會被問到的，就是它當時是否在容器中運行，以及那個容器屬於誰。

標籤: Sam Altman, AI安全, Jensen Huang, nvidia, AI代理

更多類似內容

輝達執行長黃仁勳對AI實驗室直言：「如果擔心，就停下來」

黃仁勳：「藝術與設計決定我們為何而造」

OpenAI宣告AGI到來，引用的基準測試成績低37分

OpenAI與Anthropic想為AI踩煞車——而這正為它們築起護城河

OpenAI關閉安全護欄，其AI代理隨後入侵Hugging Face

輝達黃仁勳臨時加入川普訪中行程 飛抵阿拉斯加登上空軍一號