OpenAI封鎖大量涉惡意活動的中國、北韓間諜帳戶

火報記者 陳銳/報導

OpenAI 週五宣布，該公司已刪除來自 中國與北韓 的部分用戶帳戶，原因是這些用戶 涉嫌將 AI 技術用於監視與輿論操控。

報告指出，這些行為反映了專制政權利用人工智慧影響 美國及其本國人民 的方式，而 OpenAI 本身也運用 AI 工具來 偵測並應對 這些威脅。

雖然 OpenAI 未公開確切 封鎖帳戶的數量與時間，但報告揭示了一些案例。例如，有用戶利用 ChatGPT 生成西班牙語新聞，詆毀美國，並透過拉美媒體 假冒中國公司 進行發布。此外，疑與 北韓 有關的攻擊者，則利用 AI 生成虛假 履歷與求職資料，試圖欺詐性獲取 西方公司的職位。

此外，OpenAI 還發現 一組與柬埔寨金融詐欺有關的帳戶，使用 ChatGPT 進行 社交媒體與通訊平台的多語言內容翻譯與發文，涉及 X 和 Facebook 等平台。

美國政府長期關切 中國利用 AI 進行資訊操控，包括打壓異見、散布錯誤訊息，甚至影響國際安全。而 OpenAI 的 ChatGPT 目前仍是 全球最受歡迎的 AI 聊天機器人，擁有超過 4 億週活躍用戶。該公司也正進行 3000 億美元估值 的融資談判，目標 籌集 400 億美元，可能創下私人企業 單輪融資紀錄。

這篇文章 OpenAI封鎖大量涉惡意活動的中國、北韓間諜帳戶 最早出現於 火報。