AI偵測器成詐騙新手法 人工撰寫反被控AI生成再收費

隨著人工智慧（AI）技術日益普及，市面上卻浮現多款可疑的AI文字偵測工具，不僅錯將人類撰寫的內容判定為AI生成，更進一步向使用者收取「人工化」（humanize）費用，形成一種新型網路詐騙。

法新社（AFP）事實查核團隊近期點名了「JustDone AI」、「TextGuard」與「Refinely」等三款AI文字偵測工具。這些工具聲稱能評估文本中AI生成的比例，然而，在法新社以荷蘭語、希臘語、匈牙利語和英語進行測試時，多篇由人類撰寫的文章都被錯誤標記為高比例AI生成內容。其中，一篇關於美伊戰爭的人類報告被JustDone AI誤判為「88%由AI生成」，該網站隨後便提出付費「人工化」服務，聲稱能將文本轉化為「100%獨特內容」，收費最高可達9.99美元。

這些工具的偵測結果顯然存在問題，即使輸入毫無意義的文字，仍會被標記為AI生成。一名用戶在評論平台抱怨，即使是「100%由人類撰寫的內容，JustDone仍將其標記為AI」。德國研究偵測工具的學者黛博拉·韋伯-伍爾夫（Debora Weber-Wulff）直指：「這些並非AI偵測器，而是意圖出售『人工化』工具的詐騙，其結果往往會產生我們所謂的『扭曲詞句』。」此外，JustDone與Refinely在沒有網路連線的情況下也能運作，暗示其結果可能是預設腳本，而非真正的技術分析。

康乃爾大學（Cornell University）被其中兩款工具列為使用者機構，但該大學對此澄清表示，「與任何AI偵測公司都沒有建立合作關係」。康乃爾大學也坦言，雖然生成式AI確實增加了學生提交非原創作品的風險，但「偵測技術不太可能提供有效的解決方案」，因為「準確偵測AI生成內容非常困難」。

這種不可靠的AI偵測工具所產生的錯誤判讀，不僅威脅著AI驗證的公信力，也助長了「騙子紅利」（liar's dividend）現象，即真實的內容可能被誤認為是AI偽造品而遭到質疑。假消息追蹤機構NewsGuard的沃卡爾·里茲維（Waqar Rizvi）指出，他們現在觀察到一種「不那麼陰險，但同樣惡劣的現象」，即真實的視覺內容被指控為AI生成。