聯合國人權高專警告AI風險 籲各國和企業緊急管控

聯合國人權事務高級專員圖克今天呼籲各國與「前沿」人工智慧（AI）企業採取緊急行動，以管控一項他警告稱構成「前所未有風險」的技術。

法新社報導，圖克（Volker Turk）在致各國及AI開發商的公開信中警告，世界正處於「不可逆轉變革的關頭，這不僅影響我們，也將影響後代子孫」。

他表示：「當前競相開發功能日益強大AI的趨勢，正讓人類朝著涉及生活各個層面的更大生存風險邁出重大一步。」

與此同時，各界對「超級智慧」電腦系統風險的擔憂正日益升高，近期有一名研究人員擔心這項技術最終可能脫離人類控制，因而辭去在頂尖AI企業Anthropic的職務。

另一名未辭職的Anthropic員工也公開表示，「我們確實非常認真地相信，AI可能消滅所有人類」，並認為未來10年內發生這種情況的機率超過「10%」，引發各界譁然。

Anthropic執行長阿莫戴（Dario Amodei）12日呼籲AI業者「放慢前沿技術發展速度」，也就是協調放緩AI技術的開發進程，主要競爭對手、xAI創辦人馬斯克（Elon Musk）及OpenAI執行長阿特曼（Sam Altman）也公開表示支持。

圖克感嘆道：「在當今世界，我們幾乎完全仰賴少數幾家實力雄厚的企業，為全人類在AI發展方面做出正確選擇。」

他說：「我敦促各國和企業透過多邊機制緊急採取行動，以國際人權法為基礎，為先進及前沿AI模型治理擘劃行動方針。