AI世代保留人性的唯一方法

草根影響力新視野(琪拉編譯)

被譽為「人工智慧教父」的辛頓(Geoffrey Hinton)擔心，他參與打造的技術可能會毀滅人類。這位諾貝爾獎得主，曾任Google高階主管的電腦科學家。他曾警告稱，人工智慧毀滅人類的可能性高達10%到20%。他也對科技公司試圖確保人類在人工智慧系統面前保持「主導地位」的做法表示質疑。「這行不通。他們會比我們聰明得多。他們會有各種各樣的方法來規避這一點，」辛頓在拉斯維加斯舉行的會議上說道。

辛頓警告說，未來人工智慧系統或許能夠像成年人用糖果賄賂三歲小孩一樣輕易地控制人類。今年已經出現了一些人工智慧系統為了實現目標不惜欺騙、欺詐和偷竊的例子。

但辛頓並沒有強迫人工智慧屈服於人類，而是提出了一個耐人尋味的解決方案：在人工智慧模型中植入“母性本能”，這樣即使技術變得比人類更強大、更智能，“它們仍然真正關心人類”。如果人工智慧系統「夠聰明，它們很快就會發展出兩個子目標：一個是活下去，另一個子目標是獲得更多控制權，我們有充分的理由相信，任何一種具有代理能力的人工智慧都會努力活下去。」辛頓說。

圖片取自:(示意圖wikipedia)

辛頓認為，這就是為什麼培養對人類的同情心至關重要。辛頓表示，他不清楚從技術上如何實現這一點，但他強調，我們要朝這方面努力。「這是唯一的好結果。如果它不養育我，它就會取代我，但如果AI有母性，這些超級智能、充滿愛心的AI母親，大多數都不想擺脫母性本能，因為它們不想讓我們死去。」他說。

辛頓以其在神經網路領域的開創性工作而聞名，這為當今的人工智慧繁榮鋪平了道路。 2023年，他從Google辭職，開始公開談論人工智慧的危險。曾短暫擔任ChatGPT母公司OpenAI臨時執行長的埃米特·希爾表示，他對一些人工智慧系統試圖勒索人類或繞過停工命令並不感到驚訝。

希爾表示，與其試圖將人類價值灌輸到人工智慧系統中，更明智的做法是建立人類與人工智慧之間的合作關係。

許多專家認為，人工智慧將在未來幾年實現超級智能，也稱為通用人工智慧（AGI）。

資料來源：https://edition.cnn.com

[不許轉載、公開播送或公開傳輸]