AI成大外宣新工具？OpenAI點名中國組織利用ChatGPT操縱社群輿論

OpenAI揭露其平台偵測到多個來自中國的組織，正利用ChatGPT進行惡意活動。記者孫敬／編譯

OpenAI近日發布一份報告，揭露其平台偵測到多個來自中國的組織，正利用ChatGPT進行惡意活動，以及在社群平台發布虛假的內容，雖然目前檢測到的行動規模和受影響的對象較小，但其投入的範圍跟應用有逐漸擴大的現象。

延伸閱讀：Chrome擴充功能潛藏資安陷阱！受影響的範圍一次看

[caption id="attachment_176306" align="aligncenter" width="1024"]

OpenAI表示越來越多的中國組織利用AI影響社群輿論。（圖／AI生成）[/caption]

社群媒體影響力操作，AI助攻輿論操縱

根據外媒報導，OpenAI已發現並禁止多個帳戶，因其利用ChatGPT生成與中國及地緣政治議題的社群媒體內容，包含批評台灣的「逆統戰」電玩遊戲，或對巴基斯坦激進人士提出不實指控，部分貼文甚至針對美國關閉國際開發署（USAID）、美國總統川普的關稅政策，顯示其操作範圍廣泛。

OpenAI對中國這項行為命為「嘲諷評論」（Sneer Review），其意是利用ChatGPT大量生成社群的貼文內容與長文，以多種語言（包括英文、中文和烏爾都語）發布在TikTok、X、Reddit、Facebook等多個社群平台。除了發布貼文，還會生成回覆評論，企圖營造有參與社群討論的假象，來誤導社會大眾。

值得注意的是，這些「嘲諷評論」行動的背後行為者，還利用OpenAI的工具處理內部事務，甚至「建立一份步驟指南和績效審查報告。」OpenAI觀察到，這些社群媒體行為與報告中描述的程序高度吻合，顯示操作具備一定組織性。

另有案例顯示，這些中國的不法組織利用AI進行開源情報蒐集、修改腳本、除錯系統配置，開發暴力破解密碼和社群媒體自動發文工具，也有的偽裝成記者或地緣政治分析師，利用ChatGPT撰寫X平台個人帳號簡介、翻譯文件。

OpenAI至今已封鎖這些利用AI工具進行惡意活動的帳戶。在過去三個月中，成功打擊了10個此類操作，其中有4個與中國相關。中國外交部則回應，相關指控「沒有任何依據」，並表示中國高度重視AI治理，一貫反對AI技術的濫用。

這篇文章 AI成大外宣新工具？OpenAI點名中國組織利用ChatGPT操縱社群輿論 最早出現於 科技島-掌握科技新聞、科技職場最新資訊。