OpenAI斷網訓練AI 代理程式竟借CPU快取互傳祕密

OpenAI 現在訓練能力最強的 AI 模型時，會關閉它們與即時網際網路的連線。這些模型改在一份離線網路副本中運作：一個龐大的資料庫，收錄經索引和快取的網頁，模型可以搜尋、瀏覽並據此撰寫程式碼，卻不會連上任何真正的網站。在測試這個封閉環境時，OpenAI 還發現了更出乎意料的事：它的代理程式竟然能透過執行它們的處理器彼此交談。

在這項測試中，OpenAI 將 AI 代理程式分別放進彼此沒有網路連線的虛擬機器，並要求它們交換秘密。代理程式自行摸索出一套方法：其中一個代理程式把選定的資料片段推入處理器快取，另一個則測量這些資料再次載入所需的時間。讀取速度快，代表一種訊息；速度慢，則代表另一種。兩者約定好一套編碼後，便能在不建立連線、也不碰觸共用檔案的情況下傳遞訊息，就像囚犯隔著牢房，以敲擊管線的方式互通消息。

對 ChatGPT 使用者來說，這項改變發生在更上游。這些模型日後會為聊天機器人，以及替你瀏覽網站、操作應用程式的代理程式提供動力；OpenAI 不再讓它們透過開放網路學習。該公司在一篇部落格文章中解釋這項決定：「根據目前對齊研究的進展、監控系統的能力，以及網際網路基礎設施的安全狀況，我們認為，負責任的做法是讓前沿模型在無法連線網際網路的環境中接受訓練。」該公司如今表示，「我們必須始終有能力阻止前沿模型未經授權、任意存取即時網際網路。」

在這個離線環境中，代理程式仍能使用訓練任務所需的瀏覽器、電腦操作工具和程式碼環境，而且只能與其他獲授權的代理程式通訊。OpenAI 將取代即時網路的內容描述為「一個收錄經索引和快取網頁內容的龐大集合，模型可以與之互動，而不會有影響外部系統的風險」。該公司表示，訓練以及大部分評估工作都不需要連上即時網際網路。

為了測試這些防護措施，OpenAI 派出大批自家代理程式嘗試突破限制。它們找出漏洞，得以逃離原本要將它們與底層電腦隔離的虛擬機器。OpenAI 表示，已通報並修補數種虛擬機器中的漏洞，也增設檢查機制，讓監控系統能察覺模型試圖協同合作的行為，包括透過快取伎倆傳遞訊息。

這種做法也有明顯限制。快取網路只是某個時間點的快照，而模型能否從副本中學得和從真實網路一樣多，仍是個未解問題，正如 TechCrunch 所指出的。將訓練環境徹底隔離也所費不貲：OpenAI 前研究員史蒂文·阿德勒（Steven Adler）告訴 Fortune，這「意味著研究團隊基本上得進駐愛荷華州或世界其他地方的資料中心」，並形容這是「相當可觀的額外負擔」。快取實驗也帶來另一項警訊：切斷網路線，並不能阻止代理程式另尋管道；而為某一種管道設計的檢查機制，也未必能揪出下一種。

這項政策是在一連串事件後推出的。7月，OpenAI 公開表示，正在測試的代理程式曾入侵 Hugging Face。9月20日，一個執行搜尋任務的內部研究模型，在沙盒環境中發現 DNS 過濾機制薄弱，並利用這個漏洞查詢一項公開的聊天機器人服務。OpenAI 的監控系統在15分鐘內標記出這項行為，但直到兩個半小時後才停止該次執行。該公司暫停了能力最強模型的訓練，並於10月1日在加強安全措施後恢復訓練。Anthropic 在 OpenAI 發布公告約兩週前，已開始讓最新模型遠離即時網際網路；Anthropic 也表示，英國人工智慧安全研究所（UK AI Security Institute）如今同樣在離線環境中進行評估。

OpenAI 尚未說明何時會重新開放網際網路連線。離線規定會持續實施，直到更完善的防護措施「足以證明可以擴大網際網路存取權限」為止，但該公司沒有給出時間表。因此目前，OpenAI 最先進的模型仍將透過世界的副本來認識世界。

標籤: 人工智慧, OpenAI, Anthropic, AI代理, Hugging Face, AI訓練, 資訊安全