科技龍頭攜手 共同應對AI安全挑戰
隨著人工智慧(AI)技術快速進步,AI安全問題成為關注焦點。c雖然生成式AI帶來創新,但也引發模型被濫用的風險,CoSAI成立正是為了解決這些挑戰,提供相關安全防護。
編譯/Cynthia
隨著人工智慧(AI)技術快速進步,AI安全問題成為關注焦點。c雖然生成式AI帶來創新,但也引發模型被濫用的風險,CoSAI成立正是為了解決這些挑戰,提供相關安全防護。
![科技龍頭攜手 共同應對AI安全挑戰](https://news.pchome.com.tw/newsdata/science/technice/20240722/72163680924159338005.jpg)
CoSAI的核心目標與計劃
CoSAI主要目標是提供減少AI風險的工具,以及標準化的防護措施,聯盟致力於建立一套完整的安全框架,涵蓋AI和軟體供應鏈的安全,以及應對變化中的網路安全挑戰。這些措施包括創建安全環境和系統檢查,主要在降低AI開發過程中的風險。透過這些計劃,CoSAI將有助於制定行業標準,推動AI技術在安全的軌道上發展。
更多新聞:超強合作!Google微軟OpenAI和輝達成立AI安全聯盟
CoSAI聯盟成員介紹
CoSAI創始成員包括 Google、OpenAI 和 Anthropic 等擁有廣泛影響力的 科技公司。除了這些主要的 AI 開發商,像 Microsoft、IBM、Nvidia 和 PayPal 這些基礎設施提供者也加入這個聯盟。這些成員在業界中具備強大的實力,他們的參與不僅提升聯盟的技術水平,也擴大其影響力。成員間的多樣合作將有助於制定更完善的 AI 安全標準,並推動最佳實踐的落實。
CoSAI的初步安全措施
CoSAI初步措施包括建立一個安全環境和檢查系統,以防止AI模型的濫用。這些措施將涵蓋設計框架來保護AI模型免受網路攻擊。透過這些安全措施,聯盟將加強AI系統的防護,確保模型在使用過程中符合安全標準。這些努力主要在預防潛在的安全威脅,保障技術的正常運作。
AI安全性問題的多樣化挑戰
AI安全問題的多樣性逐漸增加,例如社交工程攻擊和深偽影像等威脅,這些問題不僅危害企業,也對公眾造成風險,如Trend Micro和 CrowdStrike 等安全公司,現在正運用AI技術來協助企業發現並應對這些威脅。儘管AI技術帶來許多好處,但若不加以防範,可能會被濫用。因此,AI安全性問題顯得尤為重要,這促使業界加強對這些挑戰的關注。
政府倡議與未來展望
美國總統拜登已呼籲私人企業重視AI安全與倫理問題,並於 2023 年 7 月簽署行政命令,要求主要公司制定安全標準。CoSAI正與 Frontier Model Forum、Partnership on AI等組織合作,推動AI安全標準化。MLCommons 計劃於今年秋季發布AI安全基準套件,來評估大型語言模型的反應。CoSAI的持續發展預期將對AI安全性產生深遠影響,並促使未來更多合作和技術進步,確保AI技術的安全應用。
資料來源:Dark Reading
這篇文章 科技龍頭攜手 共同應對AI安全挑戰 最早出現於 科技島-掌握科技新聞、科技職場最新資訊。
最新科技新聞
-
-
ONEmade SD5 16 in 1 SSD 固態硬碟擴充座與SD3 4 in 1 SSD 隨身擴充盒評測分享:最完美的USB外接盒
(8 小時前) -
台日聯手共擘創新發展契機!Cool Taiwan 2024 AI 大數據跨境新經濟決選暨頒獎典禮高峰論壇今盛大舉辦
(9 小時前) -
太赫茲光束晶片 為你1秒上傳萬人演唱會影片
(9 小時前) -
破天荒!南韓三星電子將與台積電 在HBM4領域首度合作
(9 小時前)