從注意力經濟演變為「意圖經濟」 AI如何悄悄操控你的決策？

GenAI透過分析用戶數據，實現了高度「超個人化」的精準預測。藉由自然語言處理（NLP）技術，AI能模仿人類對話，透過聊天機器人與用戶建立親密互動，影響決策更具效果。AI還能迎合用戶偏好，利用情感滲透在無形中操控心理與行為。編譯／Cynthia

生成式人工智慧（GenAI）正在全面影響我們的日常生活，從以往的「注意力經濟」演變成更進階的「意圖經濟」。在過去，廣告商主要透過爭奪用戶的注意力來推銷產品，而如今GenAI可以更深入地預測用戶需求，並將這些需求商品化。根據劍橋大學的研究，AI能夠透過分析用戶的心理與行為數據，將這些數據「賣給」出價最高的企業。這不僅可能侵犯個人隱私，還會逐漸侵蝕我們的自主決策能力，從購買產品到選擇支持的政治候選人，都可能受到AI的無形操控，讓我們的選擇不再完全出自本意。

[caption id="attachment_160696" align="alignnone" width="1200"]

生成式人工智慧（GenAI）正在全面影響我們的日常生活，從以往的「注意力經濟」演變成更進階的「意圖經濟」。（合成圖／123RF）[/caption]

AI透過數據操控用戶心理與決策

GenAI透過分析用戶數據，實現了高度「超個人化」的精準預測。藉由自然語言處理（NLP）技術，AI能模仿人類對話，透過聊天機器人與用戶建立親密互動，影響決策更具效果。AI還能迎合用戶偏好，利用情感滲透在無形中操控心理與行為。劍橋大學的研究指出，AI不僅可能扭曲用戶對資訊的真實認知，甚至能生成假記憶。2024年麻省理工學院研究發現，當人們接觸經AI修改的歷史敘述後，往往會將虛假內容誤認為事實。這類現象形成一個增強回饋循環，用戶對AI的依賴加深，反過來讓AI更能掌控用戶意圖，甚至改變整體社會的決策方式。

更多新聞：OpenAI最新AI模型o3 mini最終版來了 推理能力與功能更強大

透過AI助理改變我們的日常生活

GenAI現已全面融入我們的日常生活。微軟（Microsoft）、Google和OpenAI等科技龍頭紛紛將AI助理整合進生產力工具中，例如微軟的Bing Chat和Google Workspace的Gemini功能，讓工作更高效。而Meta的AI Agent CICERO則在遊戲和人際互動方面展現出強大的能力。這些技術不僅能預測用戶的行為，還能透過AI助理影響個人的選擇。輝達（Nvidia）執行長黃仁勳在2023年曾表示，未來所有應用程式都將首先與大型語言模型（LLM）互動，幫助判斷用戶的意圖。這樣的發展意味著我們與AI的接觸將無處不在，AI的影響力也將不斷擴大。

意圖經濟的倫理挑戰與解決方案

隨著「意圖經濟」的崛起，AI操控的倫理問題變得越來越嚴重。將用戶的意圖變成商品，不僅會威脅到隱私，還可能破壞社會的公平性。為了應對這些風險，我們必須建立透明且有責任的監管政策，確保AI的運作合乎道德。用戶也需要提高對AI操控風險的警覺，學會識別AI生成內容的真實性，最後科技企業、政府和大眾必須共同合作，建立一個負責任的AI生態系統，避免少數企業利用意圖經濟牟取暴利，並確保我們的自由選擇和社會價值不被侵害。

資料來源：BankInfoSecurity

※探索職場，透視薪資行情，請參考【科技類-職缺百科】幫助你找到最適合的舞台！

這篇文章 從注意力經濟演變為「意圖經濟」 AI如何悄悄操控你的決策？ 最早出現於 科技島-掌握科技新聞、科技職場最新資訊。