諾貝爾獎得主與AI巨頭聯合發聲 籲為AI劃定紅線

超過200位科技圈資深老將、政界人士與諾貝爾獎得主今天呼籲全球各國，迅速為人工智慧（AI）劃定不得逾越的危險「紅線」。

法新社報導，這些重量級人士在聯合國大會（United Nations General Assembly）聯名發表公開信，其中包括10位諾貝爾桂冠得主，以及為AI巨擘Anthropic、谷歌（Google）旗下研究公司DeepMind、微軟（Microsoft）與OpenAI效力的科學家。

他們在信中寫道：「人工智慧擁有極大潛力促進人類福祉，但目前的發展軌跡恐帶來前所未見的危險。各國政府必須果斷採取行動，以免錯失有效干預的窗口。」

這些人士說，AI紅線應為國際一致同意的禁令，不得在任何情況下進行被視為過於危險的應用，例如將AI系統用於指揮核武庫，或操作任何形式的致命自主武器系統。

其他紅線可能包括允許將AI應用於大規模監控、社會評分、網路攻擊，或冒充他人等用途。

他們敦促各國政府，鑑於科技快速發展，應在明年底前為AI劃設紅線。

信中指出：「人工智慧可能很快就會遠遠超過人類能力，並加劇各種風險，例如人為設計的疫情、廣為流傳的錯誤資訊、大規模操縱個人（包括兒童）、國家及國際安全問題、大規模失業，以及有系統的侵犯人權。」

他們強調，許多專家警告，若不加以控制，未來數年內將越來越難以對AI實施有效的人類監管。