10位諾貝爾獎得主聯手AI巨頭 要求2026年前設定AI紅線

記者鄧天心／綜合報導 聯合國大會這週開幕，超過200位重量級人物聯合發聲，呼籲國際社會該為AI人工智慧劃出「紅 …記者鄧天心／綜合報導

聯合國大會這週開幕，超過200位重量級人物聯合發聲，呼籲國際社會該為AI人工智慧劃出「紅線」，並在2026年底前落實有執行力的規範，這群聯署者包括10位諾貝爾獎得主、兩位前國家元首、OpenAI、Google DeepMind、Anthropic的高層員工、科學家、外交官，甚至還有英國演員Stephen Fry，不過，三大AI巨頭的現任CEO這次都沒有參加連署。

他們指出，AI風險已經不是理論，包括實驗室製造致命病毒、大規模失業，甚至未來幾年人類會逐漸失去對AI的控制，聲明特別點出，有些先進AI早就會騙人、會害人，卻還被賦予更多自主權，能在真實世界做決定，這很危險，因此全球需要訂出「明確且可驗證的紅線」，才能防範AI失控，但聲明並沒具體說「紅線」該劃在哪裡，只說2026年底前這些規範要有辦法落實。

[caption id="attachment_193113" align="aligncenter" width="783"]

聯合國大會這週開幕，超過200位重量級人物聯合發聲，呼籲國際社會該為AI人工智慧劃出「紅線」，並在2026年底前落實有執行力的規範。（圖／UN）[/caption]

延伸閱讀：

美中達成架構協議！TikTok不賣演算法 改在美國授權與重訓

這不是第一次有類似倡議，去年另一份公開信就提議禁止AI自主複製、追求權力、發動網路攻擊或隱藏能力，這次連署的名單中，也有不少去年就參與過，中國AI界大咖如前百度總裁張亞勤、北京智源研究院理事長黃鐵軍也簽了名，另外，聯合國近期也宣布成立AI版的IPCC（像氣候變遷專家小組那樣），並舉辦全球AI治理對話，顯示國際社會對這議題越來越重視。

但事情沒那麼樂觀。美國政府對這種國際規範興趣缺缺，川普政府的AI行動計畫雖然說支持盟國合作，但也批評國際倡議太愛管，弄出一堆「不符合美國價值觀的文化議程」，或「被中國企業影響」。

美國參議員Ted Cruz更說，國會AI監管的重點之一是要「反制外國想管太多的企圖」，所以就算專家們大聲疾呼，短期內也很難看到具體成果。

聯合國大會前主席Csaba Kőrösi在聲明附錄中說：「人類史上是第一次遇到可能比我們更聰明的『東西』，而且再過幾年，我們就會面對它。」雖然路很難走，但這次連署已經證明，全球對AI的風險與潛力，真的開始認真看待了。

資料來源：Transformer News、UN

這篇文章 10位諾貝爾獎得主聯手AI巨頭 要求2026年前設定AI紅線 最早出現於 科技島-掌握科技新聞、科技職場最新資訊。