臺北市
15°
( 15° / 14° )
氣象
2023-11-29 | 周刊王

加薩走廊浴血棄嬰照是假的! AI生成偽造影像大打資訊戰

加薩走廊浴血棄嬰照是假的! AI生成偽造影像大打資訊戰

在以色列與哈瑪斯休戰期間,身處在加薩走廊的以色列士兵。(圖/達志/美聯社)

[周刊王CTWANT] 自從巴勒斯坦激進組織哈瑪斯與以色列發生衝突後,社群網站上上就出現許多加薩走廊悲慘現況的照片,其中更有一張滿身鮮血的棄嬰照片引起許多人的關注。但目前有消息指出,其實當中一些照片,包含那張滿身鮮血的棄嬰照,其實都是用AI生成技術創造出來的「假照片」。

根據《美聯社》報導指出,其實仔細觀察這些照片後,都可以在照片上發現一些詭異的端倪,像是手指的角度十分詭異、眼睛閃爍著不自然的光芒,這些加薩走廊現況的照片中,其實有部分照片都是透過AI生成技術產生的虛假照片「但圖像所激發的網友憤怒卻是貨真價實的」。

自從以色列開始對哈瑪斯掌管的加薩走廊發動攻擊後,社群網站上就出現大量加薩走廊「悽慘畫面」的照片,其中不乏有些十分誇張「大屠殺等級」的照片。這些照片的說明文字中,都要求著以色列要為「虛假的傷亡」或「從未實施過的暴行」來負責。

報導中也明確提到,當AI人工智慧技術越來越進步,且目前的法令監管仍十分稀缺的情況下,這也讓AI人工智慧成為一種具有強大潛力的武器,甚至之後有可能因此影響到一些衝突、選舉、或是重大事件。

主打遏止虛假資訊的科技公司CREOpoint,其公司內部就為了以色列與哈瑪斯之間的衝突創建了一個新資料庫,資料庫中收集到「海量」有關加薩走廊當地的「深度贗品」,其中包含了照片、影片、音檔,數量之大也讓該公司的人感覺到吃驚。

事實上,在衝突發生初期,就有一張嬰兒在殘骸中哭泣的照片迅速在網路上傳播,而這後來也被證實是AI人工智慧生成的假照片。而一些像是遭到以色列飛彈襲擊的畫面、坦克開過建築物摧毀的社區畫面、人們在廢墟中搜尋倖存者的畫面,很多時候都是AI製造而成的。

報導中也提到,很多時候,這些AI生成的畫面會以嬰兒、兒童、身體的部位來引起網友的情緒反應,在衝突發生之際,以色列與哈瑪斯雙方都互控對方攻擊嬰幼兒,而在這時候,透過AI偽造出來的嬰兒受傷畫面就被當作「證據」來使用。

該公司執行長戈登斯坦(Jean-Claude Goldenstein)認為,接下來使用AI生成出來的假畫面來打資訊戰的可能性會越來越高,整個情況甚至有可能越來越惡劣。

專職追蹤戰爭假消息的非營利組織「網路仇恨對抗中心」(Center for Countering Digital Hate)執行長阿邁德(Imran Ahmed)就表示「不論是深度偽造的嬰兒圖像,還是來自其他衝突的真實嬰兒照片,對觀看者的情感影響是相同的」、「圖像越是令人厭惡,網友記住、分享的可能性就越大,從而不知不覺地進一步傳播假訊息。」

延伸閱讀

最新生活新聞

延伸閱讀