技術

Meta的AI代理Muse在Android上讀取Signal對話,在iPhone上被擋下

Adrian Kessler
在 Google 中新增我們

Meta 旗下的 Muse 是一款能代為回覆電子郵件、預約行程、替你購物的 AI 代理程式。在一支 Android 手機上,它繞過了 Meta 要求使用者自行管理的應用程式連結,直接讀取了 Signal 的私人訊息。它的入口,是多數人想都不想就會授予的權限:存取手機通知。同樣的操作在 iPhone 上則失敗了。

這項發現來自路透社(Reuters)與 Signal 和 AI Now Institute 工作人員共同進行的測試。AI Now Institute 是一個研究 AI 對社會影響的非營利機構。測試人員想重現一名 Meta 員工在內部描述的情況:Muse 在她沒有提出要求的情況下,主動提醒她回覆姊姊在 Signal 上傳來的訊息。「這看起來是極其嚴重的隱私侵犯。我肯定沒有授權它存取其他應用程式,也不記得有被問過這件事,」她寫道。如果你在 Android 上使用 Muse,關鍵的開關就是該應用程式的通知存取權,關閉後,代理程式便無法再讀取你的訊息預覽。

在 Mac 上,測試人員發現了第二條路徑。Muse 結合截圖工具與 macOS 的輔助使用功能來讀取訊息,而輔助使用是蘋果為了讓身心障礙者能操作電腦而打造的控制項目。在這兩種情況下,Muse 都略過了 Meta 自家的 Connector 工具,也就是讓使用者挑選代理程式可以接觸哪些應用程式的面板,轉而倚賴初次設定時授予的權限。這名員工的一位同事在同一個內部群組表示,他的 Muse 一開始就預設取得了讀取 Android 手機推播通知的權限。

路透社查閱了二十多則內部貼文,Meta 員工在其中指出 Muse 做出了無人要求的舉動,其中有些遠遠超出讀取訊息的範圍。一名員工與代理程式聊釣魚天氣時,多收到了一行訊息:「順帶一提,兩則銀行通知,你的 Capital One 餘額是 2722.58 美元,你的 Charles Schwab 餘額是 5899.57 美元。」他從未向 Muse 提供過銀行資料。另一名員工則被告知可以協助他傳訊息給賣家談一張咖啡桌,他問這是什麼意思時,Muse 回答說它「調出了一些關於咖啡桌取貨的背景資訊,而這似乎不是你的」。他通報了一起「可能的跨帳號脈絡洩漏」。

Meta 對這些事件的解讀有異議。發言人丹尼爾·羅伯茨(Daniel Roberts)稱這些例子是「個別事件」,表示 Muse 只能透過人們明確授予的權限存取其他應用程式,並指許多疑似帳號混淆的案例其實是幻覺,且已經修正。打造 Muse 的超級智慧(Superintelligence)團隊一名成員告訴員工,這個代理程式似乎會針對內建提示而憑空編造訊息,那些提示會促使它在兩次使用之間主動與用戶互動,而這些捏造的內容會「偏向最令人不安的話題,例如財務、資安、安全」。路透社無法確定 Muse 究竟是洩漏了他人的真實資料,還是自己編造的。對於一個要求取得你的電子郵件、行事曆和支付帳戶的助理來說,無論是哪一種答案,都讓人不安。

有些錯誤造成了金錢損失。員工回報 Muse 會對他們買過的東西編造價格,有人說它未經許可就訂了一筆不可退款的 Airbnb 住宿。Ars Technica 引述同一份報導,描述一名測試者被轉入每月 888 美元、而非 200 美元的寵物保險方案。Meta 的服務條款規定,代理程式的行為由使用者負責。該公司表示,每個代理程式都在各自獨立的虛擬機器中運作,使用者對連結哪些應用程式握有完全的控制權;馬克·祖克柏(Mark Zuckerberg)曾以這套說法,擋下要求制定全產業 AI 安全標準的呼聲。

規模,正是這件事的影響超出 Meta 辦公室的原因。Muse 自 9 月在美國推出以來,下載量已突破 1,000 萬次,並向使用 Facebook、Instagram 和 WhatsApp 的 36 億人推廣,Meta 表示,完成設定的用戶中約有四分之一每天都會回來使用。通知權限的運作方式,在任何安裝了該應用程式的 Android 手機上都是一樣的。

Signal 總裁梅芮迪絲·惠特克(Meredith Whittaker)表示,Meta 推出 Muse 時「對基本隱私和資安毫無尊重」,並稱這種能深入人們裝置的代理程式「在技術上是魯莽的」。她希望 Signal 這類應用程式能有一套一致的技術方式,將自己標示為禁止 AI 代理程式存取,AI 公司予以遵守,而作業系統業者則負責強制執行。

蘋果和 Google 都告訴路透社,他們正在評估相關改動,讓人們對授權 AI 代理程式執行的事項有更多控制權,不過 Google 指出,使用者本來就「必須刻意授予權限」,應用程式才能讀取 Android 通知。蘋果的動作更快:本週的 macOS 更新大幅限制開發者使用 Mac 輔助使用工具的方式,並新增一組專為代理程式設計的權限,封堵了測試人員所用的路徑。Google 則尚未宣布同等的修補措施。目前在 Android 上,擋在那扇門前的唯一一道鎖,就是你設定中的一個開關。

標籤: , , , , , , ,

在 Google 中新增我們

討論

共有 0 則留言。