用掃毒軟體測AI爭議 刑事局：兩階段檢測工具混談

報載立法院人士稱，刑事局「用掃毒軟體檢測生成式AI」是亂測。刑事局今晚澄清說，報導所稱「用掃毒軟體測AI」是將兩階段檢測工具混為一談，顯有誤解，特此說明以正視聽。

中時新聞網報導表示，內政部刑事局11月16日發布「慎用中國生成式 AI」示警，並公布一份檢測報告，稱「通義千問」、「騰訊元寶」在公平性、準確性等多項指標不合格。立院人士今天表示，刑事局使用的檢測工具是只能分析手機App的MobSF（移動端安全檢測框架），根本不具備檢測雲端AI模型的能力，此事已獲數發部正式公文確認。

刑事局晚間發布新聞稿回應澄清表示，針對中國製生成式AI應用程式的檢測，是採取「APP資安檢測」與「AI模型風險檢測」兩階段模式，兩者使用的工具與依循標準截然不同。

刑事局說明，APP資安檢測部分，採用國際通用開源檢測框架。針對「APP應用程式」部分，刑事局採用開源軟體MobSF進行檢測，此為資安領域通用的標準程序，重點在於檢測軟體程式碼本身的安全性。

其次，AI模型風險檢測方面，依循NIST標準及國內AI評測指標。刑事局說，針對「生成式AI語言模型」的產出內容與風險，非使用上述的MobSF或掃毒軟體檢測，而是透過自然語言提問進行實測。

刑事局說，這是依據美國國家標準暨技術研究院（NIST）發布的「人工智慧風險管理框架（AI RMF）」，制定「AI語言模型評測問題列表」進行檢測，檢測標準並參考台灣AI產品與系統評測中心（AIEC）公告的10項AI評測項目進行。

刑事局表示，相關檢測作業均依循專業標準與國際框架，針對APP資安與AI內容風險分階段採用適當工具進行驗證。媒體報導所稱「用掃毒軟體測AI」是將兩階段檢測工具混為一談，顯有誤解，特此說明以正視聽。