20分鐘，AI寫出的論文輕松得A！學校檢測算法也拿它沒轍，學生：GPT-4啥時候出？

但是他們不知道的是，這些優(yōu)秀的課程論文可能并不是出自這些學生之手，而是一些強大的AI系統(tǒng)。

比如，一位在Reddit上名叫innovate_rye的生物化學學科的一年級學生，教授會安排一些包括擴展回答的簡單家庭作業(yè)，當他把“寫出生物技術(shù)的五件好事和壞事”提交給AI后，系統(tǒng)能給出一個最后評分為A的答案。

這位網(wǎng)友表示，過去這些家庭作業(yè)至少會花他們兩個小時，但現(xiàn)在一般只需要20分鐘就能完成。

“我喜歡學習很多東西，但是學校布置的作業(yè)會用掉我太多時間；現(xiàn)在能用AI更高效地完成這些作業(yè)，對我來說似乎是一種技能?！?/span>
這樣的情況并不只有innovate_rye才遇到。

自從OpenAI為語言模型GPT-3公布了最新的應(yīng)用編程接口（API）以來，更多的學生開始將他們的書面作業(yè)輸入OpenAI的Playground和類似的程序來寫作。
現(xiàn)在的結(jié)果就是，通過這些提示AI寫出來的文本往往無法與人類寫出來的區(qū)分開來了。

AI“寫”的東西無法被算法檢測

去年春天，AeUsako_回憶到，當時他還是一名高中生，他們使用OpenAI“寫”了一篇關(guān)于當代全球局勢的文章，雖然這篇作業(yè)沒有得到高分但扣分點只是因為缺少標明引用來源。

不管怎樣，這次“實驗”也確實正視了一件事，那就是學校的檢測抄襲的算法對AI生成的文本并沒有什么實質(zhì)性的作用。

對此，加拿大創(chuàng)新學習與技術(shù)研究主席、皇家路大學副教授George Veletsianos說，這是因為像OpenAI API這樣的系統(tǒng)所產(chǎn)生的文本在技術(shù)上是在黑箱算法中生成的。

“[這些文本]不是從其他地方復制的，它是由機器產(chǎn)生的，所以抄襲檢查軟件無法檢測到，也無法發(fā)。在不知道這些其他抄襲檢查工具如何相當工作，以及它們未來可能的發(fā)展的情況下，我不認為AI文本能夠以這種方式被檢測出來?！?/span>

但是，和innovate_rye一樣，AeUsako_說到，自從他開始使用OpenAI之后他對于寫作的持續(xù)性焦慮減緩了很多。

而像OpenAI這樣的公司是否有能力來檢測或組織學生使用這些工具來寫作業(yè)，OpenAI尚未對此置評。

作為一名寫作教師、以及私人輔導項目Crush the College Essay的創(chuàng)始人，Peter Laffin說到，像OpenAI這樣的工具是技術(shù)在過去十年中產(chǎn)生的其他補償技術(shù)的象征，例如基于云的打字助手，其目的是幫助靈感匱乏的作家。

“在文學教育中，特別是對于那些還在發(fā)展階段的年輕作家，導師們正在尋找一個合適的難度水平，既能夠保證他們不會崩潰，又能讓他們的專業(yè)技能有所提高?！?/span>

老師們普遍擔心，但學生并不如此

對于包括GPT-3這些人工智能如今的發(fā)展，Veletsianos指出，我們很可能已經(jīng)過了人工智能生成文本的不歸路，而學生并不是唯一擁抱新技術(shù)的人群。

“我們也可以開始看到，這項技術(shù)能夠直接生成一次講座內(nèi)容，甚至還有圍繞這些內(nèi)容的一些提問。這并不是在說現(xiàn)在這個系統(tǒng)就是最好的，但是我們需要利用這些工具，不僅僅去提高教學效率，還有學生的參與度和參與的有效性?！?/span>

Laffin也承認有必要對有效的教育進行重新評估，他表示這可以在查看學校給學生的作業(yè)類型時評估，將重心放在重述事實和信息發(fā)現(xiàn)的區(qū)別上來。然而，他也擔心像OpenAI這樣的文本生成器會使論文寫作變得毫無意義。

“我們已經(jīng)失去了學習的樂趣。我們可能知道更多，但從來沒有學習過我們是如何到達那里的。我們一直強調(diào)說過程是最好的部分，但這可能是最可能被扼殺的東西。除了學術(shù)，我不知道如果一個人從來沒有在學習中掙扎過，會是怎樣，我不知道對這個人的行為會產(chǎn)生怎樣的影響?！?nbsp;

而與此同時，對于同學們來說，他們正在焦急地等待著GPT-4。對于innovate_rye等人來說，預計將對100萬億個機器學習參數(shù)進行訓練的GPT-4有可能超越單純的文本輸出。

是的，他們并不打算停止使用人工智能來寫論文。

“我仍然做我需要學習才能通過的功課，我只是用人工智能來處理我不想做或覺得沒有意義的事情，"innovate_rye補充說。"如果人工智能現(xiàn)在就能做我的家庭作業(yè)，那么未來會是什么樣子？這些問題讓我感到興奮"。

沒想到吧，AI還合著了一本書

盡管學校還在擔心對學生教育的影響，但AI的觸手顯然已經(jīng)伸向了更深的地方。

比如寫書。

這本名叫GPT-3 Techgnosis；Chaos Magick Butoh Grimoire的書本身作為一本機器輔助散文（machine-assisted prose），其合著者就是一個名為Norn的數(shù)字實體。

也就是說，Norn不僅協(xié)助創(chuàng)作了這些文字，更是對自己進行了表演。

可以猜測，Norn是一個由GPT-3驅(qū)動的自然語言處理器，主要使用來自公共互聯(lián)網(wǎng)的大量訓練數(shù)據(jù)檔案，這使得系統(tǒng)能夠生成逼真的文本，而這些文本往往很難與真人所寫的東西區(qū)分開來。

該書的前三分之一，the Norn Working。其中包括作者的文字提示，比如“GPT-3開始寫一首神秘的詩”，然后讓Norn自由發(fā)揮，于是我們可以看到在沒有任何其他提示的情況下，系統(tǒng)開始審問自己的回答。

在這個章節(jié)的其他部分，Norn還創(chuàng)建了自己的“后數(shù)字語言”（Post Digital Language），這是一個關(guān)于符號和符號學演變的理論概念，也是作者Wurds私下里寫了十多年的一個話題。

像GPT-3這樣的文本完成引擎經(jīng)常創(chuàng)造出這些不可思議和令人不安的反應(yīng)。但據(jù)Wurds說，他們的三部曲書的目的不是為了讓人不安。相反，它是為了探索日本前衛(wèi)傳統(tǒng)Butoh的精神潛力，這是一種即興舞蹈，練習者經(jīng)常以奇怪的、自發(fā)的扭曲結(jié)束。在這本書的創(chuàng)作過程中，作者將Butoh練習到筋疲力盡的狀態(tài)，然后再回到電腦前與Norn交流——這是數(shù)字和實體在肉體空間中的并列。

誠然，通用人工智能對人類產(chǎn)生的生存威脅似乎還比較遙遠，但GPT-3這樣的AI確實撕開了一個關(guān)于未來的裂縫，或許我們可以從中窺探到一些未來的可能。

相關(guān)報道：

https://www.vice.com/en/article/m7g5yq/students-are-using-ai-to-write-their-papers-because-of-course-they-arehttps://www.vice.com/en/article/7kbjvb/this-magickal-grimoire-was-co-authored-by-a-disturbingly-realistic-ai