臺北市
28°
( 29° / 27° )
氣象
2024-06-03 | 美通社

新加坡推出Project Moonshot -- 這是一款生成式人工智能測試工具包,用於應對LLM安全和安保挑戰

新加坡推出Project Moonshot -- 這是一款生成式人工智能測試工具包,用於應對LLM安全和安保挑戰

新加坡2024年6月3日 /美通社/ -- 新加坡通訊及新聞部部長Josephine Teo 女士推出了AI Verify- Project Moonshot,這是一個易於使用的測試工具包,旨在解決與使用大型語言模型(LLM)(許多人工智能驅動解決方案的基石)相關的安保與安全挑戰。它是世界上首批開源工具之一,將紅隊測試、基准測試和基線測試整合在一個易於使用的平台上,這證明了新加坡致力於利用全球開源社區的力量來應對人工智能風險。


新加坡推出Project Moonshot -- 這是一款生成式人工智能測試工具包,用於應對LLM安全和安保挑戰

作為一個開放的測試版,Project Moonshot旨在以一種通俗易懂的方式提供有關模型或應用程序質量和安全性的直觀結果,即使是對非技術用戶來說也是如此。它是通過與DataRobot、IBM、新加坡電信(Singtel)、淡馬錫(Temasek)等合作伙伴合作開發的,以確保該工具有用並符合行業需求。

Project Moonshot也是向全球測試標准邁進的重要一步。兩家領先的人工智能測試機構AI Verify Foundation (AIVF)和MLCommons已經簽署了一份意向備忘錄(MOI),以合作打造一個通用的安全基准套件。

人工智能驗證基金會慶祝成立一周年

AIVF旨在利用集體專業知識的力量,以負責任的方式使用人工智能,該基金會在ATxSG上慶祝了成立一周年。基金會的成員數量已經翻了一番,達到120多家,Amazon Web Services (AWS)和戴爾(Dell)作為新的高級成員加入了基金會。基金會還擴大了職權范圍,從人工智能測試工具擴大到開發增強信任人工智能安全產品,如用於生成式人工智能的人工智能治理框架模型、AI Verify與ISO 42001標准的對接,以及將AI Verify與MAS的Veritas工具包集成。

支持東南亞科技領域的女性

Teo部長還公布了IMDA和Boston Consulting Group (BCG)的聯合報告《縮小東南亞科技領域的性別差距》(Closing Tech's Gender Gap in Southeast Asia)的調查結果。該報告調查了新加坡、印尼、馬來西亞、菲律賓、泰國以及越南的4000多人。報告顯示,雖然整個地區在支持女性在科技行業的發展方面取得了較大的進步,但在提高女性在技術崗位和領導層的代表性方面還有更多工作要做。

Teo部長重申了新加坡對培養和支持科技界女性的承諾,新加坡科技界女性(SGWIT)運動、新加坡科技界女性百強榜單(榜單旨在發現和表彰導師和榜樣,幫助女性走上領導之路)以及TechSkills Accelerator (TeSA)等舉措都有助於專業人士獲得相關的緊缺技能,包括幫助女性在職業生涯中斷後更輕松地重返技術崗位。這些舉措產生了重大影響,使新加坡繼續引領東南亞女性在技術領域的代表性。

聯系方式:atxsg.imda@omnicomprgroup.com

最新國際新聞

延伸閱讀