中國作家協會主管

隨著DeepSeek、ChatGPT等AI大語言模型的飛速進化，機器生成內容越來越“擬人”，“真假美猴王”的經典橋段正在人工智能領域上演。日前，西湖大學教授張岳領銜的自然語言處理實驗室研發出一款能夠識別機器生成內容的AI程序Fast-DetectGPT，能夠以96%的準確率識別ChatGPT生成文本，對DeepSeek生成文本的檢測準確率達89%。

“真假美猴王”上演，誰是“如來”？

2023年12月發表在國際期刊上的一項研究，討論了頂級期刊的語言學家能夠在多大程度上區分AI寫作和人工寫作。72位語言學家參與了這項調研，結果顯示正確率不足40%。

事實上，機器生成的文本與人類生成的文本雖然看起來很像，但在語義、語法、用詞習慣等細節處理上存在許多不同。張岳解釋，機器的思考偏向“統計性”，而人類的思考里除了“統計性”，還有“因果性”。具體體現在當遇到困難，人類會反思，但這種能力大模型尚不具備。

張岳進一步解釋，以寫文章為例，AI的寫法是學習現有的數據，從中挑選最“安全”的詞，也就是按照概率高低來選詞，這和人類寫作的創造性有本質區別。例如在“我吃了一頓××”這個句式中，機器往往會在“吃”這一動詞后使用搭配概率較高的“飯”，但人類可能會說：“我吃了一頓美味。”

研究團隊認為，人類和機器在給定上下文的情況下，詞匯選擇存在明顯差異，而機器與機器之間的這種差異并不明顯，這就是Fast-DetectGPT的工作原理。

另辟蹊徑，“以子之矛，攻子之盾”

有了原理，那么該如何操作？Fast-DetectGPT研發者之一、西湖大學博士生鮑光勝解釋，面對一句話或者一篇文章，Fast-DetectGPT會從AI的角度出發先想想，如果是自己寫會怎么寫？然后根據這個自問自答的參考答案，比對原文看看重合度有多高，相當于“以子之矛，攻子之盾”。

具體而言，當Fast-DetectGPT接收到一個文本片段，首先會在不改變原意的情況下進行改寫，把局部的同義詞替換掉，再將這份替換后的文本與原始文本進行對比。如果原始文本是AI寫的，兩者的相似度會比較高。簡單來說，AI對AI寫的內容更熟悉，可以“深入敵后”認出同類作品。

據介紹，出于對AI安全性和可信賴方面的擔憂，歐美等國已有不少用AI檢測AI的研究，比如普林斯頓大學學生開發的GPTZero、斯坦福大學研究團隊推出的DetectGPT等。此次由西湖大學研發的Fast-DetectGPT相較于DetectGPT的檢測速度提高了340倍，準確率提升75%。

Fast-DetectGPT不僅對不同語種和內容有良好的適用性，還能識別AI潤色和翻譯的文章。無論是人寫的經由AI潤色或翻譯的文字，還是AI寫的經由人潤色或翻譯的文字，都逃不過它的“法眼”。

AI持續進化，矛更利還是盾更堅？

盡管當前的技術大幅提高了對AI生成文本識別的準確性，但張岳坦言，不久的將來，AI可能會發展出“反偵察”技術，從而提高內容識別難度，人與機器之間這種“矛”與“盾”的攻防角色會不斷互換、演進。

另一個擔憂在于，當人類吸收的語料中越來越多混入AI生成內容，人類寫作會不會越來越接近AI？對此，張岳表示，隨著互聯網上AI生成內容的不斷增加，一批與AI相伴而生的年輕人可能也會逐步“學習”AI的表達風格，但人類的表達始終具有“因果性”，與AI存在本質區別。而在更遠的未來，AI可能學會像人一樣思考，屆時識別難度可能更高。