AI教父辛頓： AI使人類滅絕可能性20%

【本報綜合報導】「人工智慧（AI）教父」辛頓（Geoffrey Hinton）29日認為，未來30年內有10%到20%的可能性出現AI導致人類滅絕的結果。辛頓今年因在AI方面的貢獻而獲頒諾貝爾物理學獎。

英國「衛報」29日報導，辛頓曾說，對人類而言，AI科技有10%的可能性引發災難性後果。

英國廣播公司第4電台（BBC Radio 4）詢問他對可能出現的AI末日和10%的發生機率分析是否有變時，他說：「沒什麼變，10%到20%。」

節目客座編輯、前衛生大臣賈維德（Sajid Javid）說「機率增加了」，辛頓答道：「如果一定要說，你看，我們以前從未和比我們聰明的東西打交道。」他補充說：「你知道有多少例子是一個較聰明的東西被一個較不聰明的東西控制？這種例子很少。以一個母親和一個嬰兒為例，演化費了很大力氣讓嬰兒控制母親，但那是差不多我唯一知道的例子。」

辛頓說，人類與強大AI系統的智慧相比，就像學步的幼兒，「我喜歡這麼想：想像你自己和一名3歲小孩；我們就是那個3歲小孩」。

辛頓去年辭掉在谷歌公司的工作，以更暢快地談論AI發展不受控制所構成的風險。AI安全倡議人士的主要疑慮之一是，創造通用AI或比人類更聰明的系統，可能導致這項技術脫離人類掌控，危及人類存亡。

他說，現在的狀況是多數專家認為或許能在未來20年內開發出比人類聰明的AI，「這是很恐怖的想法」他認為，研發AI的速度「非常、非常快，比我原本預期要快很多」，政府必須監管這項技術。

他指出：「我擔心的是，看不見的手無法保障我們的安全，所以只將問題交給大企業的利潤動機，不足以確保這些公司安全地研發（AI）…唯有政府監管能迫使這些大企業從事更多安全研究。」

不過，網路科技巨頭Meta的首席AI科學家勒昆（Yann LeCun）不認為人類面臨存亡威脅，反而說AI「實際上可能拯救人類免於滅絕」。2024/12/29