9 月 18 日消息，當地時間本周三，谷歌宣布將與專注防止“非自愿影像”在網上傳播的非營利組織 StopNCII 達成合作。據彭博社報道，業內人士認為，這一步雖來得晚，但標志著谷歌在打擊影像濫用方面取得重要進展。
StopNCII 的技術能為私密影像生成數字指紋（哈希值），并將這些哈希值分享給 Facebook、Instagram、Reddit 和 OnlyFans 等合作平臺，以阻止影像被再次上傳，且無需人工審核或舉報。
谷歌推進速度偏慢也遭到質疑。StopNCII 于 2021 年底上線，其基于 Meta 的檢測工具開發，Facebook 和 Instagram 最早接入，TikTok 和 Bumble 于 2022 年 12 月加入，微軟則在 2024 年 9 月將該系統整合進必應，比谷歌早了近一年。谷歌曾在 2024 年 4 月向英國議員解釋，因擔心數據庫的互操作性問題，所以暫時無法參與。
一些倡導者認為，谷歌的行動力度仍顯不足。倡導組織 End Technology-Enabled Abuse 創始人 Adam Dodge 表示：“這是積極的一步，但仍把自我舉報的責任推給了受害者。”他強調，谷歌完全有能力主動下架非自愿影像，而不該讓受害者自己生成哈希值。
谷歌此次聲明未提及 AI 生成的非自愿影像或深度偽造。StopNCII 依賴已知圖像，無法提前攔截 AI 生成的偽造內容。Wright 說：“如果是合成圖或完全不同的影像，哈希值捕捉不到。”
彭博社在 2023 年調查發現，谷歌搜索是引流深度偽造和色情 AI 生成內容網站的頭號來源。此后，谷歌已采取措施減少相關內容，并降低其搜索排名。