臺北市
33°
( 35° / 31° )
氣象
2024-06-05 | 中央社

員工公開信 警告OpenAI缺透明度無法因應AI風險

ChatGPT開發商OpenAI的現任和前任員工發表公開信警告,世界領先的人工智慧(AI)公司缺乏必要的透明度和問責制,無法因應AI潛在風險。

法新社報導,這封公開信提出對AI安全風險的擔憂,「從進一步加深現有的不平等,到操縱和假消息,再到自主AI系統失控可能造成的人類滅絕」。

16位連署人包含Google DeepMind的員工,他們警告,AI公司「有強烈的財務動機來避免有效的監督」,而公司的自我監管其實沒有太大幫助。

信中指出:「AI公司擁有大量關於其系統的能力和局限性、保護措施的充分性以及不同類型傷害風險的非公開資訊。」

「但他們目前沒什麼義務與政府分享其中一些資訊,也完全沒有和民間社會分享這些訊息,我們認為不能完全指望他們自願分享這些訊息。」

公開信還說,這一事實意味公司內部員工是唯一可以通知大眾的人,連署者呼籲制定更廣泛的吹哨者法律來保護他們。

根據「紐約時報」報導,OpenAI的4名現任員工匿名連署,因為擔心遭到公司報復。

連署人還包括AI研究先驅班吉歐(Yoshua Bengio)、辛頓(Geoffrey Hinton)、羅素(Stuart Russell),他們常被稱為AI「教父」,也曾批評大家對AI風險缺乏準備。

最新財經新聞

延伸閱讀