專家警告 GPT-4o潛在風險與安全挑戰不可不慎
OpenAI推出最新的聊天機器人GPT-4o,GPT-4o 擁有許多吸引人的新功能,網路安全專家建議不要對其在網路安全領域的影響抱有過高期望。Contrast Security的技術長Jeff Williams 指出,GPT-4o可能會產生不存在的漏洞,忽略真正的威脅,這樣的錯誤訊息可能會降低用戶對該工具的信任。他強調,網路安全領域最大的挑戰是缺乏對技術和流程的透明度,而不僅是依賴新工具來解決問題。
編譯/Cynthia
2024年,OpenAI推出最新的聊天機器人GPT-4o,這款工具有即時處理音訊、圖像和文字的功能,OpenAI的開發負責人Romain Huet強調,相較於之前的GPT-4,GPT-4o是一個重大的進步,能夠在多種媒體間進行處理資訊。
![專家警告 GPT-4o潛在風險與安全挑戰不可不慎](https://news.pchome.com.tw/newsdata/science/technice/20240528/71688965354696338005_1.jpg)
新工具帶來的安全挑戰
儘管GPT-4o 擁有許多吸引人的新功能,網路安全專家建議不要對其在網路安全領域的影響抱有過高期望。Contrast Security的技術長Jeff Williams 指出,GPT-4o可能會產生不存在的漏洞,忽略真正的威脅,這樣的錯誤訊息可能會降低用戶對該工具的信任。他強調,網路安全領域最大的挑戰是缺乏對技術和流程的透明度,而不僅是依賴新工具來解決問題。
更多新聞:GPT 代表什麼? GPT-4o、GPT 4 Turbo、GPT 3.5 第一次上手就懂
GPT-4o多功能應用的風險
GPT-4o的多任務處理能力使駭客能夠更有效率地進行攻擊。例如,其語音克隆功能可生成更真實的深偽技術,混合音訊和視訊,增加詐騙的難度。機器學習研究科學家Daniel Kang警告,此功能可能用於詐欺或冒充身份,對銀行身份驗證構成威脅。新功能的出現引發了安全隱患,專家擔心駭客會利用語音克隆製造虛假信息進行勒索,甚至虛擬綁架。
GPT-4o安全與隱私挑戰
OpenAI表示已經為GPT-4o加入多項安全和隱私保護措施,包括最小化數據收集、更有效的數據匿名化、強化加密協議,以及提高數據使用和共享的透明度。然而,使用者仍無法確認其訓練數據或操作方式,這意味著駭客可能試圖操縱或破解此工具。
建立AI工具安全共享責任模式
企業與AI工具供應商應建立共享責任模式,且需重視使用正確的政策、程序和技術來保護其資產。這包括限制員工使用生成式AI工具的方式,確保符合既定的安全政策,並透過強有力的合約管理第三方風險。Bedrock Security供應鏈安全公司執行長Pranava Adduri建議,企業應該遵循基本的數據保護原則,以保護重要、敏感或受監管的數據,並確保其在流通和存儲過程中的安全性。
資料來源:BankInfoSecurity
這篇文章 專家警告 GPT-4o潛在風險與安全挑戰不可不慎 最早出現於 TechNice科技島-掌握科技與行銷最新動態。
最新科技新聞
-
-
手機充飽又沒電!專家曝蘋果iPhone、iPad「隱藏功能」 打開後使用壽命翻倍
(15 小時前) -
金融時報:蘋果具AI功能新iPhone 採安謀晶片技術
(15 小時前) -
波音星際飛機留下太空人回地球 返航又有推進器故障
(16 小時前) -
LINE通話也能即時語音翻譯 三星宣布最新Galaxy AI正式下放
(19 小時前)