臺北市
27°
( 27° / 26° )
氣象
2024-05-29 | 台灣醒報

訓練前沿AI新模型 恐有風險疑慮

OpenAI將訓練前沿AI新模型,成立「安全委員會」監督人工智慧!「前沿AI」(frontier AI)擁有強大先進的技術和運算能力,卻也帶來前所未見的風險疑慮,使得OpenAI在研發過程中更加重視其安全性。然而,OpenAI近期爆出高階主管離職,其監督AI風險的團隊也遭解散,安全委員會的成立令外界有所擔憂。



Trilateral Research》分析,「前沿AI」相較於現有尖端人工智慧模型,其在功能和應用方面都更為強大先進,而目前大多以通用人工智慧(AGI)的形式出現,該系統可以執行包括語言和影像處理等指令,並充當研發平台以建立AI應用程式。



以安全委員會監督AI

路透社》報導,OpenAI成立由首席執行官阿特曼及董事會成員領導的「安全委員會」,將針對公司專案營運的重大安全決策提供建議。另外,OpenA也開始訓練前沿AI新模型,以取代支撐其ChatGPT聊天機器人的GPT-4系統。



隨著人工智慧發展迅速,ChatGPT聊天機器人具有生成式AI功能,可進行仿人類對話及根據文字提示創建圖像,但也引發安全疑慮。DA Davidson分析師盧里亞表示,安全委員會的成立可能會讓OpenAI從非營利組織轉變為商業實體,有助於其保有問責制,並簡化產品開發。



未知風險高

衛報》指出,OpenAI的前沿AI新模型在效能和安全性上都領先業界,但卻沒有提及訓練細節及相關爭議,只聲稱其致力打造媲美人腦的通用人工智慧(AGI)。然而,OpenAI聯合創始人兼首席科學家蘇茨克維本月稍早驚傳離職,該公司也解散針對AI風險監督的技術團隊,外界對於新成立的安全委員會則有所擔憂。



另外,「前沿AI」擁有前所未見的技術和運算能力,以及能夠負責艱難的任務,其也帶來未知風險和不確定性,甚至將對人類生命和環境造成更嚴重的危害。

最新生活新聞

延伸閱讀