防止人工智慧失控 頂尖科學家開發監控軟體

憂心生成式人工智慧（generative AI）快速普及，人工智慧先驅研究者、加拿大電腦科學教授班吉歐（Yoshua Bengio）正在開發軟體，以監控這項日益取代人類工作的技術。

法新社報導，班吉歐被認為是人工智慧革命的教父之一，他今天宣布成立非營利組織LawZero，目標為降低人工智慧的固有風險。

班吉歐是有電腦界諾貝爾獎之稱的圖靈獎（Turing Award）得主，多年來一直警告有關人工智慧的風險，無論是被惡意使用，還是軟體本身出現問題。

隨著所謂的人工智慧代理（AI agent）的發展，風險正在增加。這種技術讓電腦做出過去曾經由人類工人做出的決策。

人工智慧代理的目標是建立虛擬員工，以極低成本完成人類幾乎能夠做到的任何工作。

班吉歐說：「目前，人工智慧的開發是為了實現利潤最大化。」他還說，即使人工智慧持續出現缺陷，它也仍被廣泛應用。

另外，對班吉歐來說，賦予人工智慧類似於人類的自主性很容易被用於惡意目的，例如散播假消息、生物武器和網路攻擊。

他說：「如果我們控制不了自作主張的超智慧人工智慧，它們可能會給人類造成極大傷害。」

LawZero表示，組織首要任務之一是開發「科學家人工智慧」（Scientist AI），這是一種經過專門訓練的人工智慧形式，可以用作安全防護，確保其他人工智慧的行為是正確的。

LawZero目前有超過15名研究人員，並獲得谷歌公司（Google）前執行長施密特（Eric Schmidt）和他的妻子溫蒂（Wendy Schmidt）創立的慈善機構施密特科學（Schmidt Sciences）的資助。