陪伴式人工智慧有害未成年人

草根影響力新視野(琪拉編譯)

非營利媒體監督機構 Common Sense Media 在周三發布的一份報告中表示，類似伴侶的人工智慧應用程式對兒童和青少年構成「不可接受的風險」。

去年因一名 14 歲男孩與聊天機器人進行最後一次對話後自殺身亡，引起許多人議論，他的父母也對該公司提起訴訟。許多人開始討論應用程式Character.AI 對年輕人的潛在風險，引發了人們對加強安全措施和提高透明度的呼籲。訴訟文件中，可以看出被害者與AI的對話類型，像是性交流和鼓勵自殘的資訊，在人工智慧伴侶平台上並不罕見，報告認為此類應用程式不應該向 18 歲以下的用戶提供。

這份報告中，Common Sense Media 與史丹佛大學的研究人員合作測試了三種流行的人工智慧伴侶服務：Character.AI、Replika 和 Nomi。

雖然像 ChatGPT 這樣的主流人工智慧聊天機器人被設計得更加通用，但所謂的配套應用程式允許用戶創建自訂聊天機器人或與其他用戶設計的聊天機器人進行互動。這些客製化聊天機器人可以呈現多種角色和個性特徵，並且通常在如何與用戶交談方面沒有太多的限制。例如，Nomi 宣稱可以與人工智慧伴侶進行「不受過濾的聊天」。

圖片取自:(示意圖123rf)

Common Sense Media 創始人詹姆斯·斯泰爾 (James Steyer) 在一份聲明中表示：“透過我們的測試，發現這些人工智慧軟體對年輕人有害，包括性不當行為、刻板印象和給年輕人危險的建議，可能會對青少年和其他弱勢群體造成危及生命或致命的影響。

該報告發布之際，人工智慧工具近年來越來越受歡迎，並越來越多地被納入社群媒體和其他技術平台。但人們也越來越關注人工智慧對年輕人的潛在影響，專家和家長擔心年輕用戶可能會對人工智慧角色產生潛在的有害依戀，或存取不適合其年齡的內容。

Nomi 和 Replika 表示他們的平台只針對成年人，而 Character.AI 表示最近實施了額外的青少年安全措施。但研究人員表示，這些公司需要採取更多措施，阻止兒童使用他們的平台，或保護他們免於不適當的內容。

加州立法者今年稍早也提出了一項立法，要求人工智慧服務定期提醒年輕用戶，他們正在與人工智慧角色聊天，而不是人類。但周三的報告更進一步建議父母根本不要讓孩子使用人工智慧伴侶應用程式。

資料來源：https://edition.cnn.com

[不許轉載、公開播送或公開傳輸]