AI發展不應獨留科技業 Anthropic創辦人籲外部監督

Anthropic 共同創辦人克里斯·奧拉（Chris Olah）於週一指出，人工智慧（AI）的發展不應僅由科技公司主導，而應納入宗教領袖、政府及公民社會等外部力量的監督與引導。

奧拉是在教宗良十三世（Pope Leo）首部人工智慧通諭發表會上作出此番言論。他強調，AI 將大規模取代人類勞動，若此情況發生，支援受影響的勞工將是史無前例的道德義務。他表示，包括 Anthropic 在內的每個尖端 AI 實驗室，其運作都受商業、地緣政治及個人等誘因與限制影響，這些因素有時會與廣泛的社會利益產生衝突。

克里斯·奧拉點出三大急需關注的領域：廣泛的失業問題、確保 AI 利益能全球共享，以及解釋複雜且不透明的 AI 系統行為。他質疑，鑑於 AI 的發展目前集中在少數富裕國家，如何能確保 AI 的成果能公平地在全球範圍內分享。Anthropic 公司過去曾因堅持在其模型用於軍事時需設置防護措施，而與川普（Donald Trump）總統的政府發生分歧。

奧拉認為，即使是懷抱善意的研究人員也會受到這些外部力量影響，因此外部監督至關重要。他歡迎天主教會參與 AI 相關討論，並稱 AI 提出的倫理問題遠超工程學範疇。他呼籲各界應有真誠且深思熟慮的批評者，共同挑戰企業，將強大新 AI 系統的發展導向正面方向。