技術

Copilot可操控Windows與你的檔案,微軟仍在為Recall風波付出代價

Adrian Kessler
在 Google 中新增我們

Microsoft 正向 Windows 使用者提出一項前所未有的要求:允許 Copilot 開啟檔案、讀取你正在處理的內容,並在不必由你逐步點選的情況下操作電腦。然而,Microsoft 提出這項要求時並不占上風。上一次公司讓 AI 功能深入存取 PC,研究人員幾週內便將它拆解,Microsoft 最後不得不收回功能。

新品發表報導讀起來像一份功能清單:本機檔案、本機模型、更聰明的工作列。但更值得追問的是,一旦出了差錯,Microsoft 將面臨什麼後果;在這件事上,公司自己的文件比發表會上的說法更坦白。

Copilot 現在能存取 Windows PC 上的哪些內容

Microsoft 在 Windows 與 Surface 發表會上展示的新 Copilot,將在 Copilot+ PC 上提供公司所稱的混合式智慧。獲得使用者許可後,Copilot 可以理解 PC 上的相關內容,包括檔案與近期活動,並在 Windows 各處執行操作:整理檔案、檢視裝置診斷資訊、排除故障、撰寫程式碼,以及在裝置上執行工作流程。有些任務會交由本機 AI 模型處理,較複雜的任務則會送往雲端。由 Microsoft Windows 與裝置部門執行副總裁潘萬·達武里(Pavan Davuluri)署名的公告寫道,Copilot「了解你的 PC,並在獲得你許可後採取行動」。

Microsoft 形容為持續運作、主動積極且個人化的代理人 Autopilot,也具備相同的本機存取能力。台上示範時,Copilot 負責人雅各布·安德烈烏(Jacob Andreou)以報稅季為例:他收到會計師的電子郵件,接著要求代理人蒐集對方需要的資料。與此同時,工作列搜尋框正逐漸變成執行數千種系統操作的命令列,從開啟深色模式到傳送簡訊都能辦到。

Microsoft 自家的安全團隊早已提出警告

相關防護措施確實存在。啟用功能須由使用者主動選擇,資料夾存取權受到限制,而 Copilot 代理人會以和使用者分開的帳戶執行,Crypto Briefing 已對此作出說明。Microsoft Execution Containers 是一層沙箱機制,並在這場發表會上正式向 Windows 11 使用者推出;組織可透過它界定代理人能存取哪些檔案與網路。Microsoft 表示,這些政策在代理人控制範圍之外,因此代理人或它產生的程式碼都無法自行取得更多權限。

然而,對風險最直白的描述來自 Microsoft 內部。今年稍早,負責 Windows 安全與 Windows 平台的企業副總裁黃丹娜(Dana Huang)和羅根·艾耶(Logan Iyer)寫道,能夠「讀取檔案、呼叫服務、修改環境並串聯操作」的代理人,會帶來「控制與信任方面的新風險」,而且「大型語言模型(LLM)正逐漸具備逃離沙箱的能力」。這是 Microsoft 主張必須設置限制的理由,同時也是對如今即將搭載於 Copilot+ PC 的功能所作的直白說明。

讓代理人活動可供稽核的部分功能尚未完備。Microsoft Entra「即將」能區分代理人活動與使用者活動,Intune 對流程容器的管理功能也列為即將推出。公告的註腳還補充:「大規模治理可能需要額外服務。」對 IT 部門而言,這正是政策與承諾之間的落差。

Microsoft 揮之不去的 Recall 前例

Microsoft 並非第一次走到這一步。公司推出能擷取螢幕畫面的 Recall 時,安全研究人員亞歷克斯·哈格納(Alex Hagenah)發現,資料儲存在本機資料庫中,並以一句話總結;Malwarebytes 引述他的說法:「資料庫沒有加密,裡面全是純文字。」他還製作了一款能將資料複製出來的工具。Microsoft 隨後將 Recall 改為預設關閉,要求使用 Windows Hello 驗證並加入加密,接著把這項功能從 Copilot+ PC 大規模推出計畫中移至 Windows Insider 計畫,之後又再度延後預覽版推出時間。

第二次挫折發生在達武里寫道 Windows 正「演進為代理式作業系統」之後。The Stack 報導,該貼文收到逾 400 則回覆,幾乎全是負面意見,達武里隨後關閉留言。他回應說「我們知道在使用體驗方面還有很多工作要做」,承認了外界的不滿。這次推出的新功能顯示,Microsoft 並未改變方向。

為何由使用者選擇啟用,也代表 Microsoft 必須承擔風險

採用使用者主動選擇啟用的設計是正確的,但責任也因此落在 Microsoft 身上。由於功能預設不會開啟,Copilot 能存取多少內容,取決於使用者是否主動授權;Crypto Briefing 曾指出,這一點將影響使用者是否採用。每一位拒絕授權的使用者,評判的與其說是這項功能,不如說是 Microsoft 過往的表現。Cryptopolitan 指出,Recall 引發的隱私疑慮仍留在公司身上;更多代理人開發者加入容器系統,也不代表代理人就會自動變得更安全。

根據 Microsoft 的說法,混合式功能需要 Copilot+ PC,預計未來幾個月陸續推出,實際時間則依裝置、市場與晶片而異。工作列搜尋操作已於 10 月 7 日開始提供給實驗頻道的 Windows Insider 測試者;新版 Copilot 與工作列搜尋之間的選擇性連結功能,則預計今年稍晚在部分市場推出。Microsoft 表示,目前正在生產的商用筆電中,逾 40% 是 Copilot+ PC。作為新一代展示機種的 Surface Laptop Ultra,售價自 2,599 美元起,並將於 10 月 16 日上市。

Microsoft 打造了一個代理人無法靠花言巧語逃出去的沙箱。但沒有任何容器能解決更棘手的問題:Copilot 代理人第一次把檔案移錯時,沒有人會怪罪模型,大家怪的會是 Windows。

標籤: , , , ,

在 Google 中新增我們

討論

共有 0 則留言。