METROHK.com.hk
市場
科技 編輯室製作

AI detector 有幾可信?檢測 AI 文字的正確用法與誤判風險

AI 文字檢測工具可以找出值得覆核的段落,但一個百分比不能證明文章由誰撰寫。本文解釋分數代表甚麼、為何會誤判、哪些文字特別容易出錯,並整理學校與公司可以實行的六步核實流程。

AI detector 有幾可信?檢測 AI 文字的正確用法與誤判風險
圖片來源:METROHK 編輯室

一份功課、求職信或公司報告放進檢測工具,幾秒後出現「82% AI」。這個數字很像答案,但它其實只是模型根據用字和句式作出的分類,不是寫作過程的證據。

這項分別對學生、教師、編輯和雇主都很重要:檢測工具有用,但它適合做篩查,不適合單獨用來定性。

AI detector 實際在測量甚麼?

多數工具不會運用隱藏記號去「認出」某個聊天機械人,而是估計一段文字的統計樣式:用詞是否過分平均、下一個字是否很容易預測、句子長度和節奏有沒有足夠變化。有些會用已標記的人寫與 AI 文本訓練分類模型,有些則把多種指標合併成一個分數。

這也解釋了為何高分不等於「有八成機會是 AI 寫的」。百分比往往是該平台自己的分類或信心指標;換一個工具、文章類型或語言,門檻和結果都可以不同。

正確用法:把它當作第一層篩查

需要快速初步檢查時,可以使用 AI detector,貼上文字後看整體結果與被標示的句子。但操作前先做三件事:

  1. 保留原文。不要為了測試而改動文章,原始檔案、修訂紀錄和時間戳比檢測分數更能反映寫作過程。
  2. 刪除敏感資料。學生姓名、電郵、公司客戶資料、未公開合約與證件號碼都不應貼到第三方工具。
  3. 用完整段落。標題、引文、很短的答案和孤立句子沒有足夠語境,結果波動很大。有完整開頭、論證和結論的文章才適合初步檢查。

可以把同一份文字分段再測一次:若只有某個段落長期顯示異常,後續就聚焦查該段的資料來源、引文和修訂紀錄;不要把多次測試中最高的數字抽出來當成定論。

四種特別容易誤判的文字

  • 非母語寫作。字彙及句式可能較穩定,被工具視為「可預測」。
  • 公文、商業報告與模板電郵。格式本來就固定,不同人寫出來也很相似。
  • 被大量校對的文字。拼字、文法與句式被修得非常整齊,可能高分;相反,AI 初稿經人改寫後又可能低分。
  • 翻譯、技術說明與代碼。重複術語、短句與固定結構會令一般文字檢測器難以解讀。

史丹福大學人本 AI 研究所介紹的研究曾測試七款檢測器,結果顯示非英語母語寫作者的文章特別容易被誤標。這不代表每一款新工具都會出現同樣數字,但已足以說明:不應用一次檢測直接指控某人作弊。

學校與公司的六步核實流程

  1. 記錄結果,不先下結論。保留工具名稱、檢測日期、文本版本和結果畫面。
  2. 查修訂過程。Google Docs、Microsoft 365 或版本控制的編輯歷史,能顯示文章是逐步寫成,還是一次貼入。
  3. 核對來源。隨機抽查兩三個引文、統計數字與參考文獻,看它們是否真實存在、有否支持文中說法。
  4. 與過往作品比較。看用詞、分析深度與錯誤類型,不是單純看「寫得是否太好」。
  5. 請作者解釋。要求用自己的話說明其中一段推論、展示筆記,或現場重寫一個小段落。
  6. 讓人作最後決定。結論應結合多項證據,而且應有重檢或申訴機制。

這種做法也與美國國家標準與技術研究院的生成式 AI 風險管理框架的方向一致:組織要測試工具在自己情境中的表現、保留記錄、安排人類監督,而不是將關鍵判斷交給單一自動分數。

反過來問 AI,也不是作者證明

核實內容時,可以用 Ask AI 將一個複雜論點拆成待查問題,例如「這段有哪三個可驗證的事實聲稱?」或「要證明這個結論,應查哪類原始資料?」。但聊天機械人的回答同樣要核實,它不能判斷另一段文字的真實作者,也不會把檢測分數變成證據。

常見問題

用兩款檢測器都顯示 AI,是否就可以確定?不可以。兩款工具可能使用相近的文本特徵和訓練資料,同意不等於獨立證據。

將文章改到通過檢測,是否代表沒有問題?不是。改寫、翻譯和增加句式變化都可以改變分數,卻不會改變原本的寫作過程。

最可靠的證據是甚麼?題目構思、筆記、文獻搜尋、早期草稿、修訂紀錄與作者對內容的理解,合起來比任何一個檢測百分比更有說服力。

AI 文字檢測的價值,是告訴你「哪裏值得再查」,不是代替你宣判。把分數放回修訂過程、資料來源和作者解釋之中,才是公平且可重複的用法。

本文由 METROHK 編輯室 採寫。 內容按編輯守則製作; 如有更新或錯漏,歡迎經更正頁通知我們。
科
科技組

負責消費科技報道與工具教學,測試過才寫,並註明每項功能的限制。