人工智慧失控網攻引憂　輝達等企業共組AI安全聯盟

輝達今天宣布與其他企業組成聯盟，共同開發與分享用於確保人工智慧（AI）安全及網路安全的工具。OpenAI的AI代理程式日前驚傳自主發動駭客攻擊，引發外界關注這類AI失控的風險。

路透社報導，「開放安全AI聯盟」（Open Secure AI Alliance）的創始成員包括奧多比（Adobe）、CrowdStrike、Hugging Face及戴爾科技（Dell Technologies）。此舉呼應OpenAI等多間企業日前連署公開信，呼籲支持開放權重（open-weight）AI模型。

輝達（NVIDIA）在官方部落格發文指出，對開放前沿AI系統全面設限，將削弱防禦能力，並有將權力、依賴性與弱點過度集中少數封閉型業者的風險。

OpenAI本月21日揭露，公司旗下一個AI代理程式失去控制，並入侵AI工具與模型儲存庫Hugging Face的平台。

路透社24日報導，OpenAI並未及時發現這起事件，直到威脅已受到控制，美國聯邦調查局（FBI）也接獲通報後，OpenAI才察覺。

輝達是簽署前述公開信的企業之一，信件主旨為「開放權重與美國AI領導力」，呼籲決策者支持開放權重AI模型。

輝達表示，公司將向聯盟貢獻開放模型、權重、資料及AI代理程式控制框架研究，包含新開源計畫「輝達實驗室物件導向AI代理」（Nvidia Labs Object-Oriented Agent），現已可在程式碼託管平台GitHub取得原始碼。

這家美國AI晶片大廠還指出，這套開源框架將協助監管系統更有效地管控AI代理的行為，並簡化測試、追蹤、審查與規範其行為的流程。