Google Earth AI衛星圖像編輯工具上線24小時遭撤回——記者已偽造伊朗核設施圖像

Google Earth 花了二十年時間，成了大眾核實真實世界樣貌的預設視覺參考工具。記者用它記錄衝突地區；人權研究員用它追蹤拘留設施；聯合國檢查員在辦公室裡安全地參考它。Google 短暫地為它新增了一項功能：一個直接連結到衛星地圖的 AI 影像生成器。

這項工具基於 Google 自家的影像生成模型 Nano Banana 2，運作方式正如預期。使用者輸入文字提示——例如「顯示龐貝城火山爆發前的樣子」或「將這條海岸線變成資訊圖表」——AI 就會將生成的影像覆蓋在對應的真實世界座標上。合法的使用情境不難想像，但危險的用途也同樣容易執行。

調查記者 Henk van Ess 是首批記錄此問題的人之一。功能上線幾小時內，他就生成了一座虛構的核電廠，座標落在伊朗境內。結果的逼真程度足以說明風險。更令人擔憂的是，當他測試內建的安全機制時發現：Google 在每張生成影像中都嵌入了 SynthID 浮水印——這是該公司的 AI 認證層。van Ess 沒有截圖，而是直接用手機翻拍螢幕，就繞過了這道防線。第三方 AI 偵測工具判定這張翻拍影像只有 1% 的機率是 AI 生成的。

Google 的辯解在技術上正確，但在實務上完全不夠。該公司指出，生成的影像「不會出現在 Google Earth 的主要體驗中讓他人看到」——它們僅限於當次會話，只有創作者能看見。但當你翻拍螢幕並分享結果時，這種區別就蕩然無存。一張偽造的敏感設施衛星影像，只要配上一個圖說，就與刻意用來欺騙的影像別無二致。

這裡存在一種結構性的緊張關係，更強的安全護欄也未必能完全解決。讓 AI 影像生成實用的能力，在底層資料是備受信賴的衛星數據時，同時也使它變得危險。這份信賴建立在一個假設上：Google Earth 顯示的內容反映的是物理現實。一旦生成的內容可以疊加到真實座標上——而認證層又會被相機繞過——這個假設便出現了一道裂痕，且這道裂痕不會因功能下線而消失。

這項功能已於 7 月 31 日下架，距離上線不到 24 小時。Google 承認看到「違反我們政策的生成影像截圖」，並承諾在再次上線前會實施「更強的安全護欄」。目前沒有給出時間表。時間點又增添了一層意義：自 8 月 2 日起，歐盟 AI 法案的全面執行條款已在歐洲生效，強制要求標記可能誤導使用者的 AI 生成內容——這正包括了嵌入在備受信賴的資訊來源中的合成影像。

標籤: Google, AI, Google Earth, 衛星圖像, 深度偽造, 錯誤資訊