商業與金融

Signal總裁Meredith Whittaker:從Google罷工到對抗手機裡的AI代理

Penelope H. Fritz
在 Google 中新增我們
Meredith Whittaker
Meredith Whittaker
Photo: Martin Kraft / CC BY-SA 4.0, via Wikimedia Commons
出生2000
職業Signal基金會總裁
獲獎赫爾穆特·舒密特未來獎

上週五,Signal 開啟了一項多數用戶可能永遠不會察覺的設定。在新款 iPhone 上,這款應用程式現在會阻止蘋果的 Siri AI 讀取聊天畫面上的內容,並預設封鎖螢幕截圖;在 Android 上,只要 Google 的 Gemini 試圖查看,視窗就會立即關閉。Signal 總裁梅芮迪絲·惠特克(Meredith Whittaker)親自宣布了這項變更,並在同一則貼文中坦承,這樣還不夠。蘋果、Google 與微軟正在把各種 AI 代理程式整合進作業系統,它們仍然能夠存取儲存在裝置上的內容,而在 Mac 上,Signal 完全無法阻擋。她稱這對自己執掌的這款應用程式構成了生存威脅。

這場戰鬥很適合她,也暴露出她職涯核心的兩難。惠特克在 Google 待了十多年,之後成為抨擊這套養活過她的商業模式最為犀利的批評者之一。如今她領導一個拒絕蒐集資料、不販售任何東西、仰賴捐款維持運作的非營利通訊軟體,卻不得不寄身於由那些公司打造的手機上,而她正是指責這些公司的 AI 產品行事魯莽。Signal 可以對訊息進行端對端加密,卻無法對作業系統加密。

她踏入科技業的路徑並不尋常。惠特克在加州大學柏克萊分校攻讀修辭學與英國文學,2006 年加入 Google,一待就是十三年。她創立了 Google 的 Open Research 團隊,與學者及開源開發者合作,研究網路中立性測量、隱私與資安;她也共同創辦了 M-Lab(Measurement Lab),這個開放網路如今已成為網路效能領域最大的公開資料來源。

測量工作讓她learned對缺乏證據的說法保持懷疑。2017 年,在白宮主辦的一場研討會之後,她與研究員凱特·克勞佛(Kate Crawford)共同在紐約大學創立 AI Now Institute。該機構關注的是人工智慧對被施用對象造成的影響,而非它在展示現場能做到什麼;其報告不斷回到同一個論點:真正深層的問題與其說是帶有偏見的程式碼,不如說是誰擁有這些系統、又將它們對準了誰。她後來擔任紐約大學 Minderoo 研究教授及 AI Now 的學院主任,如今則是該機構的首席顧問。

這個論點讓她與雇主走上了對撞的路線。2018 年,她撰寫了一份反對 Maven 計畫的請願書;那是五角大廈的一項合約,Google 依約為美國無人機計畫開發機器視覺工具。超過三千名員工連署,Google 最終沒有續約。數月後,她是 Google 罷工事件(Google Walkout)的核心組織者之一,當時有報導指出,公司向被控性騷擾的高階主管安迪·魯賓(Andy Rubin)支付了 9,000 萬美元的離職補償,超過兩萬名員工因此離開座位走出辦公室。惠特克後來表示,Google 進行報復,要求她放棄在 AI Now 的工作。她於 2019 年 7 月離職。

同年夏天,她向美國眾議院科學委員會表示,AI 系統可能固化偏見,並呼籲為科技業員工提供吹哨者保護。2020 年初,她在眾議院監督委員會上更進一步,指出臉部辨識的問題不僅在於準確度,更在於部署者對權力較小的人所施加的力量,並呼籲停止使用這項技術。自 2021 年 11 月起,她出任聯邦貿易委員會主席莉娜·汗(Lina Khan)的人工智慧資深顧問。

2022 年 9 月,Signal 聘請她擔任首任總裁,這個職位是與該應用程式的領導層共同設立的。Signal 不刊登廣告,也沒有可供出售的用戶資料,惠特克曾公開表示,營運它每年約需 5,000 萬美元。她上任初期的大量時間,都花在解釋一件事:為什麼一個幾乎不留存用戶資訊的通訊軟體,仍然需要龐大的工程團隊和穩定的捐助者,以及為什麼另一種選擇就是以監控作為報酬。

批評者指出這套模式的侷限。Signal 的加密協定早已保護著 WhatsApp 的對話,但 Signal 本身的規模,卻只是以其密碼學為基礎打造的 Meta 產品的一小部分;而惠特克對各國政府的籌碼,主要建立在一項威脅之上:寧可退出一個國家,也不削弱加密。她曾把這項威脅指向歐盟,6 月又再度對準英國。這項威脅之所以可信,是因為靠捐款維生的應用程式不必安撫股東,但這也使 Signal 面對監管機關的回應更像是流亡,而非談判。讓該應用程式獲得最大關注的那起事件,同樣顯示出這種落差。2025 年 3 月,外界發現美國高階官員在一個意外納入記者的 Signal 群組中討論軍事計畫,惠特克為這套加密辯護,稱其為私密通訊的黃金標準,並指出沒有任何應用程式能防止人們把錯的人加進聊天室。這種規模的曝光很難拒絕,更難掌控。

此後,她的焦點已從政府轉向製造裝置的公司。1 月在達沃斯,她稱作業系統層級的 AI 代理程式對加密服務十分危險,並警告說,被賦予 root 權限的系統可能遭到劫持。6 月接受彭博社訪問時,她表示聊天機器人不是你的朋友,並形容一個能存取她付款資料與 Signal 帳號的助理,無異於一種後門。本週,路透社與 Signal 及 AI Now 的工作人員共同進行測試,發現 Meta 的 Muse 代理程式在 Android 上透過通知存取權限讀取 Signal 聊天內容,惠特克則稱,擁有這種觸及範圍的代理程式在技術上是魯莽的。

2023 年,《時代》雜誌將她列入首份人工智慧領域最具影響力人物名單。2024 年 5 月,她在漢堡獲頒赫爾穆特·施密特未來獎(Helmut Schmidt Future Prize),該獎由《時代週報》(Die Zeit)及其合作夥伴頒發,以表彰她在民主與科技領域的貢獻;2025 年 7 月,她加入德國媒體集團 Hubert Burda Media 的董事會。

接下來會如何,與其說取決於 Signal,不如說取決於蘋果、Google 與微軟。惠特克已向三家公司要求提供一套有文件依據的方式,讓應用程式能把 AI 代理程式擋在其畫面與資料之外,Signal 表示,對於 Google 與蘋果願意參與,抱持審慎樂觀的態度。若它們真的建成,她本週開啟的這項封鎖就會成為業界預設;若不,這款市面上最注重隱私的通訊軟體,就只能繼續推出各種變通辦法,對抗自己所運行的手機,而它的總裁也將繼續公開這麼說。

標籤: , , , , , , ,

在 Google 中新增我們

討論

共有 0 則留言。