AI 偽造恐怖內容氾濫？Google 急向澳洲監管機構報告投訴激增

火報記者 陳銳/報導

Google 近日向澳洲監管機構報告，過去一年內收到超過 250 起投訴，涉及 AI 生成的深度偽造恐怖主義內容，另有 86 起涉及兒童剝削材料。

人工智慧的發展帶來無數創新，但也讓科技巨頭面臨前所未有的挑戰。Google 近日向澳洲監管機構提交報告，揭露其 AI 技術遭濫用的情況。報告指出，在 2023 年 4 月至 2024 年 2 月期間，全球共有超過 250 起投訴，指控其 AI 生成深度偽造的恐怖主義內容，另有 86 份報告涉及兒童剝削或虐待材料。

該披露被澳洲電子安全委員會形容為「全球首次深入揭露 AI 被惡意利用的案例」，突顯出這項技術可能帶來的嚴重風險。

過去幾年來，隨著 ChatGPT 等 AI 工具的興起，各國監管機構已對人工智慧的潛在風險表達憂慮，並呼籲建立更嚴格的防護措施，以防止 AI 被用於非法用途。根據澳洲法律，科技公司必須定期回報其應對網路安全風險的措施，否則將面臨罰款。

在這次報告中，Google 並未透露有多少投訴已被核實，但該公司強調，旗下 AI 產品 Gemini 禁止生成或分發暴力極端主義、恐怖主義或與兒童剝削相關的內容。

Google 表示，該公司已經採取技術手段來檢測和刪除與兒童剝削有關的 AI 內容，然而，對於涉及恐怖主義的深度偽造內容，目前尚未採用相同的自動化系統。

這篇文章 AI 偽造恐怖內容氾濫？Google 急向澳洲監管機構報告投訴激增 最早出現於 火報。