Anthropic AI模型Mythos引恐慌 科技巨頭與美政府急商AI安全

美國科技巨頭的執行長們近日與美國政府召開一場視訊會議，討論人工智慧（AI）模型的安全性與部署。此次會議的導火線是Anthropic公司開發的AI模型Mythos，其潛在風險引發了業界高度關注。

包括Anthropic執行長Dario Amodei、OpenAI執行長Sam Altman、Google執行長Sundar Pichai、微軟執行長Satya Nadella、xAI執行長馬斯克（Elon Musk）、CrowdStrike執行長George Kurtz以及Palo Alto Networks執行長Nikesh Arora等多位業界領袖皆參與了這場高層對話。

會議核心議題聚焦於大型語言模型（LLMs）的安全態勢、安全部署方式，以及當AI能力讓攻擊者較防禦者佔上風時應如何應對。據報導，Anthropic研究人員在評估Mythos模型後，認為其結果「令人震驚」，因此並未公開發布，僅提供給約40家大型科技公司進行限制性存取，其中包括蘋果（Apple）、Google、微軟（Microsoft）、輝達（Nvidia）、Palo Alto Networks和CrowdStrike等。

Mythos模型的詳細資訊已於今年3月下旬因Anthropic的配置錯誤而洩露。此次事件不僅加劇了AI模型可能影響網路資安攻防平衡的擔憂，也對市場造成衝擊。早在Mythos之前，Anthropic的早期發布版本Claude Opus及其代理工具，就已引發企業軟體股票約2兆美元的拋售潮，被戲稱為「軟體即服務末日」（SaaSpocalypse）。投資者擔憂AI代理工具能夠取代傳統的每席位（per-seat）軟體即服務（SaaS）授權模式。Mythos的洩露也進一步打擊了網路安全股票，外界擔憂AI恐將使得安全工具商品化。

有鑑於此，美國政府官員Vance和Bessent已與業界領袖針對AI可能顛覆網路安全攻防格局的議題進行了討論。此外，Bessent與聯邦準備理事會（Federal Reserve）主席鮑威爾（Jerome Powell）亦於4月7日緊急召集了美國銀行、花旗集團、高盛、摩根士丹利、富國銀行、摩根大通等多家主要銀行的執行長進行會議，反映出監管機構對AI技術潛在金融風險的審慎態度。