蕭簫 發(fā)自 凹非寺

量子位 | 公家號(hào) QbitAI

ChatGPT的呈現(xiàn)，讓很多人看到了交期末高文業(yè)的曙光 （手動(dòng)狗頭）。

無(wú)論是英語(yǔ)論文、仍是閱讀條記，只要在ChatGPT的常識(shí)范疇內(nèi)，都能夠奉求它幫手完成，寫(xiě)出來(lái)的內(nèi)容也有理有據(jù)。

不外，有沒(méi)有想過(guò)你的教師也籌辦用“ AI文本檢測(cè)器”一類的工具來(lái)避免你做弊？

像如許輸入一段看起來(lái)沒(méi)弊端的條記，顛末它一番檢測(cè)，認(rèn)為那段文字“由AI編寫(xiě)” （Fake）的可能性為 **.*8%！

△文本由ChatGPT生成

換個(gè)數(shù)學(xué)論文嘗嘗？ChatGPT的輸出看起來(lái)沒(méi)啥問(wèn)題，卻仍然被它準(zhǔn)確識(shí)破了：

△文本由ChatGPT生成

那可不是靠瞎蒙或推測(cè)，究竟結(jié)果對(duì)方同樣是個(gè)AI，仍是個(gè)訓(xùn)練有素的AI。

看到那有網(wǎng)友調(diào)侃：用魔法打敗魔法？

用AI寫(xiě)的工具來(lái)訓(xùn)練新AI

那個(gè)AI檢測(cè)器名叫 GPT-2 Output Detector，是OpenAI吉印通哈佛大學(xué)等高校和機(jī)構(gòu)一路打造的。 （沒(méi)錯(cuò)，OpenAI自家做的）

但即使是專門(mén)檢測(cè)GPT-2的模子，用來(lái)檢測(cè)其他AI生成文本效果也同樣不錯(cuò)。

做者們先是發(fā)布了一個(gè)“GPT-2生成內(nèi)容”和WebText （專門(mén)從國(guó)外貼吧Reddit上扒下來(lái)的）數(shù)據(jù)集，讓AI理解“AI語(yǔ)言”和“人話”之間的差別。

隨后，用那個(gè)數(shù)據(jù)集對(duì)RoBERTa模子停止微調(diào)，就得到了那個(gè)AI檢測(cè)器。

RoBERTa （Robustly Optimized BERT approach）是BERT的改良版。原始的BERT利用了1*GB大小的數(shù)據(jù)集，但RoBERTa利用了包羅6*00萬(wàn)條英文新聞的160GB數(shù)據(jù)集。

△文字來(lái)源Medium@Megan Ng

當(dāng)然，那個(gè)檢測(cè)器也并不是100%準(zhǔn)確。

同時(shí)，模子生成成果隨機(jī)性越高，AI生成內(nèi)容被檢測(cè)出來(lái)的概率也會(huì)更低。

但即使將模子調(diào)整到生成隨機(jī)性更高 （Temperature=1，越接近0生成隨機(jī)性越低），1.24億參數(shù)模子被檢測(cè)出的概率仍然是88%，1*億參數(shù)模子被檢測(cè)出的概率仍然有*4%。

那是OpenAI兩年前發(fā)布的模子，其時(shí)對(duì)GPT-2生成的內(nèi)容就“一打一個(gè)準(zhǔn)”。

如今面臨晉級(jí)版的ChatGPT，檢測(cè)英文生成內(nèi)容的效果照舊能打。

AI檢測(cè)器給出是人寫(xiě)的概率為**.*6%……

當(dāng)然話說(shuō)回來(lái)，ChatGPT也能檢測(cè)本身生成的文本。

One More Thing

值得一提的是，ChatGPT暗示本身其實(shí)不能拜候互聯(lián)網(wǎng)來(lái)搜刮信息。

顯然，它還意識(shí)不到GPT-2 Output Detector那個(gè)AI檢測(cè)器的存在：

所以能不克不及像網(wǎng)友所說(shuō)，讓ChatGPT生成一段“不被AI檢測(cè)器測(cè)出來(lái)的”內(nèi)容呢？

很遺憾不克不及：

所以高文業(yè)仍是本身寫(xiě)吧……

— 完—

「人工智能」、「智能汽車(chē)」微信社群邀你參加！

歡送存眷人工智能、智能汽車(chē)的小伙伴們參加我們，與AI從業(yè)者交換、商討，不錯(cuò)過(guò)最新行業(yè)開(kāi)展手藝停頓。

PS. 加老友請(qǐng)務(wù)必備注您的姓名-公司-職位哦 ~

點(diǎn)那里 ??存眷我，記得標(biāo)星哦～

一鍵三連「分享」、「點(diǎn)贊」和「在看」

科技前沿停頓日日相見(jiàn)~