臺北市
12°
( 13° / 12° )
氣象
2024-01-16 | 中央社

2024選舉年 OpenAI將推出反制惡意假訊息工具

許多國家今年都將舉行選舉,將涵蓋全球約半數人口。ChatGPT製造商OpenAI表示,將在這些選舉登場前,推出對抗惡意假訊息(disinformation)的工具。

聊天機器人ChatGPT的出現激發全球人工智慧(AI)革命,但也引發這類工具恐讓網路充斥惡意假訊息、左右選民決定的警訊。

包括美國、印度、英國在內的國家今年都將舉行大選;OpenAI昨天表示,不會允許旗下的ChatGPT、DALL-E 3影像生成工具等科技被用於政治活動。

OpenAI在部落格發文寫道,「我們希望確保我們的技術不會被用在可能損害」民主程序的地方上。 世界經濟論壇(World Economic Forum)上週在一份報告中示警,利用AI製造的惡意假訊息和錯誤訊息(misinformation)是全球短期內的最大風險,可能損害主要經濟體選出的新政府。

雖然有關選舉惡意假訊息的擔憂幾年前就出現,但專家指出,公開提供強大的AI產出文字及生成圖像更加劇這類威脅,特別是當使用者無法輕易辨別所看到的內容是否為虛假或被操弄的時候。

OpenAI昨天表示,正在著手發展一些工具,在ChatGPT生成的文字附上來源可信度的註解,若是由DALL-E 3生成的圖像,也會讓使用者有能力辨別。

OpenAI說,「今年初將會實施內容來源和真實性聯盟(Coalition for Content Provenance and Authenticity)的數位驗證」,這是一種利用加密技術將內容來源細節編碼的作法。

內容來源和真實性聯盟也稱C2PA,目的是改善識別、追蹤數位內容的方法,成員包括微軟(Microsoft)、Sony、Adobe及日本相機大廠尼康(Nikon)、佳能(Canon)。

另外,OpenAI表示,旗下的DALL-E 3設有「防護欄」,能防止使用者生成真實人物的圖像,包括候選人在內。

在此之前,谷歌(Google)、臉書(Facebook)母公司Meta等美國科技巨擘去年已宣布抑制干預選舉的做法,特別是透過AI的使用。

法新社先前曾揭發一些深度偽造的影片,涉及美國總統拜登(Joe Biden)等人物。

法新社事實查核團隊也發現,台灣13日舉行總統大選前,社群媒體上流傳不少政治人物遭偽造的影像及音檔。

最新科技新聞

延伸閱讀