美中北京峰會首談AI護欄機制 防最強模型落入犯罪組織手中

美國與中國代表團近期在北京峰會期間，首度針對人工智慧安全治理展開討論，雙方正研議建立AI護欄機制與最佳實務協議，目標是防止最先進的AI模型遭非國家行為者利用，包括犯罪組織或恐怖組織。記者黃仁杰／編譯

美國與中國代表團近期在北京峰會期間，首度針對人工智慧安全治理展開討論，雙方正研議建立AI護欄機制與最佳實務協議，目標是防止最先進的AI模型遭非國家行為者利用，包括犯罪組織或恐怖組織。

美中首度針對人工智慧安全治理展開討論，雙方正研議建立AI護欄機制與最佳實務協議。（圖／AI生成）

美國財政部長史考特．貝森特（Scott Bessent）在接受CNBC預錄專訪時表示，美國維持在AI領域領先中國的地位至關重要，而這也是中國願意參與相關AI安全對話的重要原因。

貝森特表示，美方不希望AI監管扼殺創新，因此目前核心目標，是在安全與創新之間找到最佳平衡點，既維持最高技術性能，也確保模型具備足夠安全性。

這場對話正Anthropic最新AI模型Mythos引發市場高度關注之際。報導指出，Mythos近期暴露出多項軟體安全漏洞，促使銀行與大型企業緊急修補系統弱點並升級網路防護。

美國政府官員也對此發出警告，擔憂犯罪集團或恐怖組織可能利用這類高性能AI工具，對金融市場或全球金融體系造成干擾。

更多科技工作請上科技專區：https://techplus.1111.com.tw/

科技社群討論區：https://pei.com.tw/feed/c/tech-plus

另一方面，輝達執行長黃仁勳目前也正在北京參與峰會。根據先前報導，美國已批准約10家中國企業採購輝達H200 AI晶片。

不過，貝森特表示，他本人並不了解H200出口許可細節，並指出此類出口審批由美國商務部負責，而非財政部。

貝森特也表示，除了Anthropic外，未來包括Google與OpenAI的AI模型也將持續出現重大技術突破，美國政府目前正與這三家公司保持密切合作。

此外，美國財政部目前也已與美國11家大型銀行合作，確保相關金融系統能及時修補AI帶來的新型安全漏洞，後續也將擴大至區域型銀行與社區銀行。

貝森特強調，如果中國在AI競賽中處於領先，美中之間恐怕不會有這場AI治理對話。他表示，美國希望將自身的AI最佳實務與價值標準，逐步推向全球。

來源：路透社

這篇文章 美中北京峰會首談AI護欄機制 防最強模型落入犯罪組織手中 最早出現於 科技島-掌握科技新聞、科技職場最新資訊。