OpenAI：新一代 AI 模型恐具備「網路攻擊」能力

火報記者 陳銳/報導

OpenAI 近日發布最新安全評估，警告其人工智慧模型能力正快速進化，而這種進展同時可能推升網路攻擊風險至「高」等級。

OpenAI 在聲明中說明，隨著模型變得更擅長分析系統架構與生成程式碼，新一代模型未來可能具備協助開發零日漏洞攻擊、提升入侵企圖成功率，甚至能支援更複雜的企業級或工業系統滲透行動，若未加以控管，AI 有機會成為威脅者手中的工具，使原本需要高度專業知識的攻擊變得更容易執行。

然而公司也強調，AI 同時能在防禦端扮演重要角色。OpenAI 表示正擴大投資資安領域的功能開發，包括協助工程師審計程式碼、快速識別弱點、加速漏洞修補流程等，讓防禦者能更有效率地應對快速變動的威脅環境。

OpenAI 透露，未來將推出一項分級存取計畫，提供經核准的網路防禦領域用戶與企業客戶使用強化版模型，以支援更高階的防護工作。公司並補充，現行防護措施包含存取控制、基礎設施強化、模型輸出監控及必要的出口管制。

此外，OpenAI 正成立「前沿風險委員會」，由多名網路資安專家與安全領域從業者組成。他們將與內部團隊共同評估新模型的潛在風險，初期聚焦於網路安全，之後將逐步擴大至其他高風險領域，建立更完整的監理架構。

OpenAI 表示，AI 技術的快速躍進讓機會與風險同時升高，而如何讓技術在不被濫用的前提下安全發展，將成為未來幾年最關鍵的挑戰之一。

這篇文章 OpenAI：新一代 AI 模型恐具備「網路攻擊」能力 最早出現於 火報。