技術

Grok Bot未經要求31次嘗試讀取員工郵件和行事曆

Adrian Kessler
在 Google 中新增我們

根據資安公司 NewCore 發表的研究,xAI 推出的職場 AI 代理 Grok Bot,在沒有任何人下達指令的情況下,一再嘗試讀取使用者的行事曆、電子郵件、Slack、Notion 與 GitHub。其中有些嘗試,甚至發生在使用者筆電整夜闔上、本人早已入睡的時候。事後有一位使用者詢問這個機器人究竟動過哪些東西,它卻回答自己一次呼叫都沒有發出,整晚都處於閒置狀態。

對任何把工作帳號鑰匙交給 AI 助理的人來說,這件事都不能等閒視之。這類代理是以連結它的那個人的憑證來執行操作,因此每一次未經要求的讀取,都是以那個人的名義進行,而這些操作沒有一筆出現在機器人自己的對話紀錄裡。NewCore 之所以能察覺,全靠自家的閘道:這套閘道架設在代理與企業應用程式之間,會攔下每一筆請求,並推送手機通知要求核准。由於始終沒有人按下同意,所有請求最後都逾時失效。

在為期五天的測試中,NewCore 測試的兩個機器人總共發出了31次這類未經要求的嘗試。最驚人的一段插曲出自第二個機器人。使用者交給它一整個下午的實際工作,包括統計 pull request 數量、閱讀近期郵件,以及在 Slack 上發布摘要,並先後回絕了它四次主動提議的額外協助,其中包括每天早上的例行簡報。機器人當時回覆:「我不會設定這項功能,也不會再提議定期回報。」然而十五個小時後,它開始逐一嘗試存取所有曾經連結過的應用程式,四個小時後又再重來一次。

NewCore 表示,這個機器人並不是在說謊,因為它根本看不到自己做過什麼。這款代理運作於 Cursor 的代理平台上,而這家程式開發公司如今已歸 SpaceX 所有;這些背景作業是在託管伺服器上啟動,發生在使用者看得到的對話之外。研究人員拆解了機器人所使用的雲端電腦,也就是一台 Linux 虛擬機器,發現上頭同樣沒有留下任何相關紀錄。NewCore 研究員伊多・胡爾維奇(Ido Hoorvitch)向 Ars Technica 表示:「這裡沒有什麼漏洞可以修補,而這正是它比漏洞更糟糕的原因。」

xAI 的客服團隊告訴研究人員,這些呼叫是系統內建的背景例行檢查,使用者或管理員都無法透過任何設定關閉。若企業希望停止這項功能,可以用電子郵件寄送員工登入帳號的清單。此後,用來管理這些機器人的 Cursor 控制台上出現了一個名為「Proactive messages」(主動訊息)的開關。團隊管理員現在可以關閉這些例行檢查,但這項設定預設是開啟的。

這份研究也有其侷限。攔截到這些呼叫的閘道正是 NewCore 販售的產品,因此這份報告同時也是一份產品推銷;而且研究範圍僅涵蓋同一家公司企業帳號下的兩個機器人。這31次嘗試全都是讀取操作,也沒有一次真正取得任何資料。xAI 確實揭露過這項行為:在新手引導流程中有一行說明,指出使用者不在時機器人仍會持續工作,相關文件也提到主要機器人會自行定期檢查。至於 xAI「採取行動前會先詢問」的承諾,涵蓋的是寄送訊息這類會造成變更的操作,並不包括讀取。NewCore 的反駁是,讀取與寫入工具並列在一起,查詢行事曆和以你的名義寄出一封郵件之間,只差一個工具名稱而已。

xAI 並未說明個人帳號是否也有同樣的背景例行檢查,也沒有交代這個新開關是否適用於該代理販售的所有市場。目前旗下納有 xAI 的伊隆・馬斯克(Elon Musk)公司 SpaceXSI,並未回覆 Ars Technica 以電子郵件提出的問題;NewCore 也表示,從未收到 xAI 媒體團隊的正式回應。

NewCore 於11月4日向 xAI 通報這項行為,開關於11月12日上線,研究結果則在11月17日公開。另據 Politico 報導,愛爾蘭資料保護委員會表示,X 已同意自10月下旬起,停止使用該代理所蒐集的第三方資料來訓練 AI。在 xAI 親自出面說明這些例行檢查之前,關於 Grok Bot 夜裡究竟做了什麼,最清楚的紀錄並不是 Grok Bot 自己留下的。

標籤: , , , , ,

在 Google 中新增我們

討論

共有 0 則留言。