OpenAI官方推出AI生成內容識別器，但成功率只有26%，網友：還不如論文查重工具

識別 ChatGPT 生成的內容，OpenAI 親自上陣了。

很多人也許已經忘記，ChatGPT 正式發佈時間是去年 11 月底，到現在才剛剛兩個月，但它掀起的熱潮卻已引發科技公司紛紛跟進，催生了獨角獸創業公司，還讓學術界修改了論文接收的要求。

在 ChatGPT 引發 AI 領域「是否要禁用」大討論之後，OpenAI 的真假鑑別工具終於來了。

1 月 31 日，OpenAI 官宣了區分人類作品和 AI 生成文字的識別工具上線，該技術旨在識別自家的 ChatGPT、GPT-3 等模型生成的內容。然而分類器目前看起來準確性堪憂：OpenAI 在部落格裡指出 AI 識別 AI 高置信度正確率約為 26%。但該機構認為，當它與其他方法結合使用時，可以有助於防止 AI 文字生成器被濫用。

「我們提出分類器的目的是幫助減少人工智慧生成的文字造成的混淆。然而它仍然有一些侷限性，因此它應該被用作其他確定文字來源方法的補充，而不是作為主要的決策工具，」OpenAI 發言人通過電子郵件對媒體介紹道。「我們正通過這個初始分類器獲取有關此類工具是否有用的反饋，並希望在未來分享改進的方法。」

最近科技領域隨著圍繞生成式 AI，尤其是文字生成 AI 的熱情正在不斷增長，但相對的是人們對於濫用的擔憂，批評者呼籲這些工具的創造者應該採取措施減輕其潛在的有害影響。

面對海量的 AI 生成內容，一些行業立刻作出了限制，美國一些最大的學區已禁止在其網路和設備上使用 ChatGPT，擔心會影響學生的學習和該工具生成的內容的準確性。包括 Stack Overflow 在內的網站也已禁止使用者共享 ChatGPT 生成的內容，稱人工智慧會讓使用者在正常的討論中被無用內容淹沒。

這些情況突出了 AI 識別工具的必要性。雖然效果不盡如人意，但 OpenAI AI 文字分類器（OpenAI AI Text Classifier）在架構上實現了和 GPT 系列的對標。它和 ChatGPT 一樣是一種語言模型，是根據來自網路的許多公開文字示例進行訓練的。與 ChatGPT 不同的是，它經過微調可以預測一段文字由 AI 生成的可能性 —— 不僅來自 ChatGPT，也包括來自任何文字生成 AI 模型的內容。

具體來說，OpenAI 在來自五個不同組織（包括 OpenAI 自己）的 34 個文字生成系統的文字上訓練了 AI 文字分類器。這些內容與維基百科中相似（但不完全相同）的人工文字、從 Reddit 上共享的連結中提取的網站以及為 OpenAI 文字生成系統收集的一組「人類演示」配對。

需要注意的是，OpenAI 文字分類器不適用於所有類型的文字。被檢測的內容至少需要 1000 個字符，或大約 150 到 250 個單詞。它沒有論文檢測平臺那樣的查重能力 —— 考慮到文字生成人工智慧已被證明會照抄訓練集裡的「正確答案」，這是一個非常難受的限制。OpenAI 表示，由於其英語前向資料集，它更有可能在兒童或非英語語言書寫的文字上出錯。

在評估一段給定的文字是否由 AI 生成時，檢測器不會正面回答是或否。根據其置信度，它會將文字標記為「非常不可能」由 AI 生成（小於 10% 的可能性）、「不太可能」由 AI 生成（在 10% 到 45% 之間的可能性）、「不清楚它是否是」AI 生成（45% 到 90% 的機會）、「可能」由 AI 生成（90% 到 98% 的機會）或「很有可能」由 AI 生成（超過 98% 的機會）。

看起來和圖像識別的 AI 很像，除了準確程度。根據 OpenAI 的說法，分類器錯誤地將人類編寫的文字標記為 AI 編寫的文字的概率為 9%。

一番試用之後，效果的確不大行

OpenAI 宣稱其 AI 文字分類器的成功率約為 26％，一些網友上手試用之後，發現識別效果果然不行。

知名 ML 和 AI 研究人員 Sebastian Raschka 試用之後，給出了「It does not work」的評價。他使用其 2015 年初版的 Python ML 書籍作為輸入文字，結果顯示如下。