亞洲選舉年AI深偽大作亂

草根影響力新視野 喬依絲編譯

在 2 月 14 日印尼總統大選之前，一段已故印尼總統蘇哈托為其曾經主持的政黨發聲的影片在網路上瘋傳。這部深度偽造影片透過現今AI技術仿照蘇哈托的臉部和聲音，單單在X (前TWITTER) 上的觀看量就高達470萬次。

不過，這並不是單一事件。在巴基斯坦，全國選舉期間也出現了前總理伊姆蘭·汗的深度造假文宣，宣布他的政黨正在抵制這次的選舉活動。在美國，新罕布夏州則是流傳一段深度偽造影片，片中總統拜登要求選民們不要在總統初選中投票。

政治人物的AI深偽情況已越來越普遍，尤其是 2024 年將成為史上最大的全球選舉年。今年至少有 60 個國家和超過 40 億人口將投票選舉自己國家的領導人和代表，這使得AI深度偽造成為必須嚴正關注的議題。

根據統計，2022 年到 2023 年期間全球深度造假的數量增加了 10 倍，光是在亞太地區就爆增了 1,530%。而2021 年至 2023 年間，身份深偽詐騙率增幅最大的情況出現在線上媒體，詐騙案件增加率高達274%，社群平台、數位廣告、醫療保健、交通和電玩遊戲等都是受到身分偽造詐騙影響的行業。

圖片取自:(示意圖 123RF )

網路安全公司在全球威脅報告中指出，在這個2024全球大選年，國家意識行為偏差者都極有可能透過虛假資訊或虛假活動來製造破壞。特別是如果是國力強大的國家決定從中攪擾自己國家或甚至他國的選舉，所產生的影響力及破壞性恐怕比黨派之爭還來得危險。

針對身份深偽詐騙率爆增所應對的的情況，亞洲該如何在監管、技術和教育方面應對選舉中的深偽問題? 新加坡AI治理高級總監Simon Chesterman認為亞洲尚未準備好應對措施。

AI深度造假會污染資訊生態系統，讓人們更難辨別準確的資訊。如果某個造假醜聞影片在網路上瘋傳之後被成功揭穿，但在選民心目中卻早已埋下錯誤的概念及印象。以國際知名女歌手泰勒絲為例，關於她的深度造假色情影片在X上的傳播速度快到令人無法想像，但可惜的是，監管措施往往無法及時且有效地防範，對於當事人往往造成重大的傷害。

Reference:

Deepfakes in an election year — is Asia ready to handle misinformation campaigns?

[不許轉載、公開播送或公開傳輸]