斯坦福團隊推出DetectGPT，學生用AI寫論文要犯難了

首頁 > 科技

斯坦福團隊推出DetectGPT，學生用AI寫論文要犯難了

來源：海底探探 釋出時間：2023-01-30 15:01

GPT-3、PaLM 和 ChatGPT 等大型語言模型（LLM）已經被證實能夠針對各種各樣的使用者查詢做出非常流暢的響應，可以天生“令人信服”的有關科學、數學、歷史和當前事件以及社會趨勢等複雜題目的回答。

儘管這些回答常常佈滿錯誤，但這些天生文字的清楚、天然仍舊使得 LLM 在某些情況下被用來替換人力，特別是在學生論文寫作和新聞撰寫方面。

例如，學生可能使用 LLM 來完成書面功課，使得教師無法正確地評估學生的學習情況；而且，由 LLM 撰寫且公然釋出在新聞網站上的內容，往往存在大量的事實性錯誤，因為缺少足夠的人工審查，也會對新聞讀者產生誤導。

不幸的是，在對 LLM 天生的文字和人類編寫的文字進行分類時，人類的表現只比隨機情況略好（Gehrmann et al., 2019）。因此，使用自動檢測方法來識別人類難以識別的訊號，成為當前業內的一個重要研究方向，這種方法可能會讓教師和新聞讀者更相信他們看到的內容來自人類。

近日，斯坦福大學研究團隊提出了一種名為 DetectGPT 的新方法，旨在成為首批打擊高等教育中 LLM 天生文字的工具之一。相關研究論文以“DetectGPT: Zero-Shot Machine-Generated Text Detection using Probability Curvature”為題，已發表在預印本網站 arXiv 上。

在此次工作中，研究團隊基於“LLM 天生的文字通常徘徊（hover around）在模型的對數機率函式的負曲率區域的特定區域四周”這一發現，提出了一種用於判別 LLM 天生文字的新指標，這一方法既不需要練習單獨的分類器，也不需要收集真實或天生的段落的資料集。

圖｜確定一段文字是否由特定的 LLM 天生。（來源：該論文）

據論文描述，DetectGPT 可以將 20B 引數 GPT-NeoX 天生的假新聞文章的檢測從 0.81 AUROC 進步到 0.95 AUROC。

研究團隊表示，這一方法在檢測機器天生的文字方面優於其他零樣本方法，或在未來的機器天生文字檢查方面非常有前途。另外，他們也將嘗試將這一方法用於 LLM 天生的音訊、影片和影象的檢測工作中。

然而，這一方法也存在一定的侷限性。例如，假如現有的掩模填充模型不能很好地表示有意義的改寫空間，則某些域的機能可能會降低，從而降低曲率估計的質量；以及 DetectGPT 比擬於其他檢測方法需要更多的計算量等。

未來，跟著 LLM 的精益求精，它們將成為越來越有吸引力的工具，可以在各種環境（好比教育、新聞和藝術）中取代人類作家。

儘管在所有這些環境中都存在語言模型技術的正當使用，但教師、讀者和消費者可能需要工具來驗證具有高度教育、社會或藝術意義的某些內容是否來自人類，特別是在真實性（而不僅僅是流暢性）至關重要的情況下。

參考連結：

https://arxiv.org/abs/2301.11305

https://www.neowin.net/news/stanford-introduces-detectgpt-to-help-educators-fight-back-against-chatgpt-generated-papers/

GPT-3、PaLM 和 ChatGPT 等大型語言模型（LLM）已經被證實能夠針對各種各樣的使用者查詢做出非常流暢的響應，可以天生“令人信服”的有關科學、數學、歷史和當前事件以及社會趨勢等複雜題目的回答。

儘管這些回答常常佈滿錯誤，但這些天生文字的清楚、天然仍舊使得 LLM 在某些情況下被用來替換人力，特別是在學生論文寫作和新聞撰寫方面。

例如，學生可能使用 LLM 來完成書面功課，使得教師無法正確地評估學生的學習情況；而且，由 LLM 撰寫且公然釋出在新聞網站上的內容，往往存在大量的事實性錯誤，因為缺少足夠的人工審查，也會對新聞讀者產生誤導。

不幸的是，在對 LLM 天生的文字和人類編寫的文字進行分類時，人類的表現只比隨機情況略好（Gehrmann et al., 2019）。因此，使用自動檢測方法來識別人類難以識別的訊號，成為當前業內的一個重要研究方向，這種方法可能會讓教師和新聞讀者更相信他們看到的內容來自人類。

近日，斯坦福大學研究團隊提出了一種名為 DetectGPT 的新方法，旨在成為首批打擊高等教育中 LLM 天生文字的工具之一。相關研究論文以“DetectGPT: Zero-Shot Machine-Generated Text Detection using Probability Curvature”為題，已發表在預印本網站 arXiv 上。

GPT-3、PaLM 和 ChatGPT 等大型語言模型（LLM）已經被證實能夠針對各種各樣的使用者查詢做出非常流暢的響應，可以天生“令人信服”的有關科學、數學、歷史和當前事件以及社會趨勢等複雜題目的回答。

儘管這些回答常常佈滿錯誤，但這些天生文字的清楚、天然仍舊使得 LLM 在某些情況下被用來替換人力，特別是在學生論文寫作和新聞撰寫方面。

例如，學生可能使用 LLM 來完成書面功課，使得教師無法正確地評估學生的學習情況；而且，由 LLM 撰寫且公然釋出在新聞網站上的內容，往往存在大量的事實性錯誤，因為缺少足夠的人工審查，也會對新聞讀者產生誤導。

不幸的是，在對 LLM 天生的文字和人類編寫的文字進行分類時，人類的表現只比隨機情況略好（Gehrmann et al., 2019）。因此，使用自動檢測方法來識別人類難以識別的訊號，成為當前業內的一個重要研究方向，這種方法可能會讓教師和新聞讀者更相信他們看到的內容來自人類。

近日，斯坦福大學研究團隊提出了一種名為 DetectGPT 的新方法，旨在成為首批打擊高等教育中 LLM 天生文字的工具之一。相關研究論文以“DetectGPT: Zero-Shot Machine-Generated Text Detection using Probability Curvature”為題，已發表在預印本網站 arXiv 上。

上一篇：超預期目標10... 下一篇：建設銀行特約...
猜你喜歡
熱門閱讀
同類推薦

本站內容收集於網路，如有侵權，請聯絡我們處理

IT-TOOLS | PDF Tools | TinyImage | 詩韻中華 | OG Image Generator

今日必看 | 聯絡我們 | sitemap | 簡體中文