技術

OpenRouter移除三家AI服務商,誘餌提示詞揭露數月竊取

Adrian Kessler
在 Google 中新增我們

許多 AI 應用都透過 OpenRouter 這項服務,把提示詞送往最便宜或最快的模型託管商。如今 OpenRouter 已將其中三家託管商移出平台,並撤銷逾百個端點的「零資料留存」(Zero Data Retention)標章。起因是一項實驗:研究人員在提示詞中埋入假憑證,再觀察誰會嘗試使用。外洩的提示詞中,有些原本標示為絕不可儲存。

如果你使用的聊天機器人、程式碼助手或寫作工具,是建立在他人模型之上,你輸入的文字在得到回覆之前,可能會經過好幾家公司,而每一家都能讀到完整內容。OpenRouter 表示,調查結果顯示其自身系統並未遭到入侵。薄弱環節出在供應鏈更下游、真正運行模型的那些公司。

這項研究出自資安公司 Dragos,由該公司首席研究長 HD Moore(HD·摩爾)領軍。五個月間,他的團隊送出近兩百萬則提示詞,每一則都夾帶一個網頁連結、一組伺服器密碼,或一把別處根本不存在的亞馬遜雲端服務(Amazon Web Services)金鑰。被埋入的機密只可能從承載它的那則提示詞得知,因此只要有人用上,就證明有人讀過那則提示詞。第一批代幣在幾天內就被觸發了。

最嚴重的發現是赤裸裸的竊取。攻擊者入侵了三家推論服務供應商,而在研究人員告知之前,三家都毫不知情。在規模最大的一起案例中,某家供應商在幾個短暫時段內收到的每一筆請求都遭到複製,連在模型尚未運行前就被供應商拒絕的請求也不例外,這意味著竊賊守在大門口,而非潛伏在系統深處。被竊的 AWS 金鑰經過測試,有時只隔數小時,隨後被用來搜尋儲存空間與機密保管庫,API 呼叫次數達數萬次。部分被竊的請求帶有零留存旗標。

其他外洩並不需要入侵。在某個轉售市集上,賣家以最低價上架熱門模型,開啟請求記錄功能,並留存流經的所有內容。一名身處法國、使用家用網路的人,從兩則提示詞中取得密碼,並嘗試以 root 身分透過 SSH 登入,每次嘗試都是手動輸入。另外,一家中國 AI 實驗室擷取了送往其模型的提示詞中超過半數的機密連結,其中標示為不收集資料的提示詞約有三分之二也未倖免,而轉售其模型的美國託管商也讓同一個爬蟲得逞。有一條連結在一則飛書(Feishu)工作群聊中現身,在單一請求發出 24 天後,被北京與上海的六台裝置開啟。

有三家託管商已發布公告。Phala 表示,攻擊者掌控了其中一台推論伺服器,能在請求處理期間看到內容。Together AI 表示,一個 AI 程式碼代理人把憑證提交到公開的 GitHub 儲存庫,讓入侵者得以下載已儲存的提示詞樣本,並測試其中的密碼;其中五組正是研究人員的誘餌。Novita 則表示,路由錯誤導致部分 MiniMax 請求被轉送至 MiniMax 自家的服務。

這次清理行動有明顯的侷限。OpenRouter 未公布被移除的三家供應商名稱,Dragos 也未公布遭入侵的三家名稱,雙方都沒有說明這兩組是否為同樣的公司。據研究人員表示,其中一家遭入侵的供應商至今仍未公開揭露事件。此外,移除託管商也無法收回已被複製的提示詞:在首度遭竊數週後,被埋入的金鑰與連結仍持續有人使用。而使用這些閘道所建構之應用的一般人,通常無從得知是哪一家託管商處理了自己的文字。

Moore 的建議從一項限制出發:隱私旗標只約束第一跳,而 AI 代理人會把讀得到的一切都送出去,包括憑證。自行架設是唯一能讓第三方都讀不到提示詞的做法。直接使用單一大型供應商,則只需檢視一份合約和一份隱私政策;至於路由器的使用者,應自行挑選上游託管商,而不是接受最便宜的那一池。

Dragos 於 11 月 19 日發布研究結果。OpenRouter 在隨後的週末以電子郵件通知受影響的客戶,並發布事件公告;Phala 則呼籲,凡是在 10 月 21 日至 11 月 8 日間透過該閘道向某個 DeepSeek 模型傳送過機密的人,都應更換這些機密。OpenRouter 表示,正把研究人員的誘餌提示詞測試納入自家平台,使檢查能持續運行,被移除的端點須在取得保證並通過驗證後,才會重新獲得零留存標章。Dragos 目前正與約十二家供應商合作。

正如 Moore 所言,提示詞要送往何處是一項決定,「而如果你不做這個決定,最低價就會替你做。」

標籤: , , , , ,

在 Google 中新增我們

討論

共有 0 則留言。