編按：本文綜合整理自 Google 官方產品公告、Ars Technica 調查報導、BBC Verify 報導與 Henk van Ess 實測，並加入 Siami 編輯部觀點與數據解讀。
Google 在 Google Earth 網頁版短暫推出 Nano Banana 2 影像生成功能，讓使用者能以平台既有的衛星、航空與 3D 影像為基礎，透過文字指令產生「貼合真實地點」的改造畫面。原先被包裝成都市規劃、房地產提案與歷史教育工具的功能，卻在開放約一天後迅速撤回。
導火線不是模型出現普通的生成瑕疵，而是研究者證明它能把虛構事件直接覆蓋到具有權威感的地理底圖上。難民群體、核設施、車禍、爆炸與火災等場景，都能在短時間內被合成到可辨識的真實地點；當畫面離開原平台、被截圖或重新壓縮後，一般讀者未必能看出那不是衛星拍攝結果。
從創意工具到「幾秒鐘製造地理證據」
Google 7 月 30 日的產品公告強調，使用者可把 Google Earth 的真實世界資料與 Nano Banana 結合，製作都市改造概念、預覽建案完工後的樣貌，或重建古代龐貝城。這些用途本身並不罕見，建築與教育領域早已使用 3D 視覺化工具；真正不同之處，在於生成入口被放進全球最知名的地球影像平台。
開源情報研究者 Henk van Ess 隨即測試風險。他以簡短提示詞，在墨西哥邊境加入難民、在伊朗放置虛構核設施，並在阿姆斯特丹街道製造致命車禍場景。研究者指出，過去要先取得底圖、匯出影像、送進生成工具再疊圖，至少需要數個步驟；整合後，同類操作可在 Google Earth 內於幾秒完成。
Bellingcat 創辦人 Eliot Higgins 也公開質疑，把改圖能力放進經常被新聞工作者用來定位與驗證現場影像的平台，等於讓「查證工具」同時成為「假證據工具」。他展示的測試包含在白宮附近加入巨大金色雕像，以反諷方式提醒外界：荒謬案例很容易識破，但稍微收斂的軍事設施、災害痕跡或群眾活動就未必如此。
事件中可確認的時間線包括：
- 7 月 30 日，Google 正式介紹 Google Earth 的 Nano Banana 生成體驗。
- 研究者迅速公開多組以真實地理影像為底的虛構事件測試。
- Google 起初強調 SynthID 浮水印、內容政策與既有防護措施。
- 約一天內，官方撤回功能，並表示將加入更強的護欄後再評估。
浮水印有效，為什麼仍不足以解決問題
Google 的第一道回應是 SynthID。這套技術會在 Google AI 生成或修改的影像中嵌入不可見數位訊號，使用者可透過 Gemini 或 Google Lens 檢查來源。Ars Technica 的測試顯示，直接拿生成檔案查驗時，Gemini 能辨識出影像包含 Google AI 的數位浮水印；這證明技術並非完全無效。
問題出在網路上的假訊息很少以原始檔案完整流通。它們更常以社群平台重新壓縮、螢幕截圖、影片畫面、手機翻拍或多次轉傳的形式出現。Ars 以手機相機拍攝螢幕上的 AI 改造圖後，SynthID 就無法提供相同驗證結果。Henk van Ess 也強調，假影像不會帶著乾淨的檔案憑證旅行，而是以一層又一層的轉錄形式擴散。
此外，驗證仍要求接收者主動懷疑、主動查詢。當圖像搭配緊急新聞文字，在戰爭、災難或選舉期間快速傳播時，最先看到的群眾往往不會先下載圖片再送進驗證工具。浮水印可以成為查證鏈的一環，卻無法取代清楚的視覺標示、生成內容與真實圖層的介面隔離，以及對高風險提示詞的預防性限制。
數據解讀：一天撤回不等於風險只存在一天
「推出約一天便撤回」容易被理解成危機已經快速結束，但這個數字只能描述公開功能的存續時間，不能衡量生成影像是否已被保存、截圖與再次散布。官方也沒有公布測試期間的使用人數、生成總量、政策攔截率或疑似違規影像數量，因此外界無法從現有資料推算影響範圍。
同樣地，研究者能產生數個敏感場景，不代表所有防護都毫無作用。現有實測能證明的是：至少部分涉及戰爭、醫院、核設施、難民與重大事故的提示，曾繞過上線時的限制；它不能證明每一種危險內容都能成功生成。Google 的撤回決定，反而顯示個案已足以揭露產品風險評估與實際使用情境之間存在落差。
更值得注意的是「六個步驟縮短為幾秒」的說法。這不是模型能力突然出現，而是工具整合降低操作摩擦：取得真實底圖、維持地理視角、生成場景與輸出分享，都集中到同一介面。風險增加的核心因此不是單張假圖品質，而是規模、速度與權威品牌外觀三者同時疊加。
為什麼這件事重要
衛星與航空影像不只是旅遊地圖背景。新聞組織、人權團體、衝突研究者與開源情報社群，常利用道路、建築、地貌、陰影與歷史影像交叉驗證轟炸、火災、軍事部署及自然災害。Google Earth 並非法定證據資料庫，但它的普及度讓許多人把平台畫面視為接近「眼見為憑」的參考層。
一旦同一介面能無縫生成虛構內容，傷害不只是假圖更容易製作，還會產生「說謊者紅利」：真實衛星照片曝光時，當事人可以反過來聲稱那只是 AI 生成。這種對真實證據的否認，比單一假圖更難修復，因為它侵蝕的是整個公共查證環境的共同基準。
Google 快速撤回功能是合理的止損，但後續若要重新推出，不能只把責任交給隱形浮水印。更完整的設計至少需要：
- 將生成圖層與原始地球影像永久、醒目且不可移除地區隔。
- 對戰爭、災害、醫療設施、政府機關與關鍵基礎設施採取更嚴格限制。
- 保留可供研究者查驗的來源紀錄，而非只依賴單一平台內的 AI 判斷。
- 公開紅隊測試方法、攔截率與已知失效情境，讓風險能被外部評估。
- 鼓勵查證者同時使用 Copernicus Sentinel-2 等持續更新的獨立影像來源。
這起事件也提醒所有 AI 產品團隊，功能的危險性不只由模型輸出決定，還取決於它被嵌入哪個資訊環境。相同的影像生成器放在創作軟體裡，使用者通常知道自己正在製作合成內容；放進被視為現實世界視窗的地圖平台，生成結果便可能繼承平台多年累積的可信度。
後續觀察：更強護欄要能回答哪些問題
Google 的聲明保留重新推出的可能性，理由是地理空間專業人士確實找到城市規劃、視覺提案與教育用途。這表示爭議尚未結束，只是產品進入重新設計階段。未來若回歸，最關鍵的不是功能是否更難被惡作劇，而是平台能否讓任何脫離原介面的影像仍保有清楚、可驗證的生成來源。
外界可持續觀察三項指標：生成內容是否帶有肉眼可見且難裁切的標記；高風險地點與事件是否採用預設拒絕而非事後下架；第三方查證機構能否在不依賴 Google 單方面服務的情況下驗證來源。只有當這些問題有具體答案，「更強護欄」才不會只是再次上線前的抽象承諾。
事件最後留下的教訓很直接：生成式 AI 能協助人們想像世界如何改變，但當想像被放進承載真實世界證據的平台，產品必須先確保讀者永遠知道哪一層是現實、哪一層只是模型生成。
網友熱門留言 (3)