以防作弊，ChatGPT 遭教育部“拉黑”：師生禁用！

上個(gè)月，弗曼大學(xué)哲學(xué)助理教授 Darren Hick 逮到一個(gè)用 ChatGPT 寫論文的作弊者后，就感慨：“ChatGPT 太先進(jìn)了，它肯定會(huì)（在學(xué)生中）流行起來的。”

可能是他分享的經(jīng)歷引起了人們的關(guān)注，也或許的確有越來越多的學(xué)生開始用 ChatGPT 來完成作業(yè)，總之本周美國紐約市教育部正式宣布：紐約市的學(xué)生和教師，無法再在教育部設(shè)備或互聯(lián)網(wǎng)上訪問 ChatGPT。

一句話概括就是：火爆全網(wǎng)的 ChatGPT，被紐約教育部“拉黑”了。

正如 Darren Hick 上個(gè)月所說，ChatGPT 的免費(fèi)和即時(shí)，及其超強(qiáng)的自然語言處理能力，令很多學(xué)生動(dòng)了“歪腦筋”：有關(guān)文字寫作的作業(yè)，就讓 ChatGPT 來完成——最可怕的是，如不仔細(xì)推敲，很難分辨出它們是由 AI 生成的還是學(xué)生自己寫的。

近來，《紐約時(shí)報(bào)》組織了一批作家和教育工作者，向他們同時(shí)展示了由 ChatGPT 寫作的文章和人類學(xué)生寫的文章，其中包括一位四年級(jí)老師、一位專業(yè)寫作輔導(dǎo)員、一位斯坦福大學(xué)教育教授以及一位兒童作家。而他們，都無法精準(zhǔn)地將二者區(qū)分開來。

對此，報(bào)道記者調(diào)侃道：“能看出這是一個(gè)四年級(jí)學(xué)生寫的還是新聊天機(jī)器人寫的文章嗎？如果你分辨不出來，不用驚訝，因?yàn)樗哪昙?jí)老師也不能?！?/span>

或許就是基于這些事實(shí)，才令紐約教育部做出了“禁用 ChatGPT”的決定。該教育部發(fā)言人 Jenna Lyle 出面解釋：“由于擔(dān)心對學(xué)生學(xué)習(xí)的負(fù)面影響，以及對內(nèi)容安全性和準(zhǔn)確性的擔(dān)憂，我們將限制在紐約市公立學(xué)校的網(wǎng)絡(luò)和設(shè)備上訪問 ChatGPT?！?/span>

具體來說，雖然 ChatGPT 能提供快速簡便的問題答案，但紐約教育部方面認(rèn)為，這樣的 ChatGPT 并不能“培養(yǎng)批判性思維和解決問題的能力”，而這些技能對于學(xué)生“在學(xué)術(shù)上的成就和終身成功”至關(guān)重要。

不過，這并不意味著紐約教育部全盤否定了 ChatGPT 的一切。其發(fā)言人指出，如果有個(gè)別學(xué)校計(jì)劃研究 ChatGPT 背后的技術(shù)，仍可以向教育部申請?jiān)L問該網(wǎng)站。除此之外，這條禁令的范圍僅限于“紐約市公立學(xué)校的網(wǎng)絡(luò)和設(shè)備”，師生仍可以在非教育部設(shè)備或互聯(lián)網(wǎng)上訪問 ChatGPT。

目前，除了紐約教育部對 ChatGPT 發(fā)出禁令，美國當(dāng)?shù)剡€沒有其他城市對 ChatGPT 做出類似處理。不過許多業(yè)內(nèi)人士認(rèn)為，紐約作為美國第一大城市，它的帶頭很可能會(huì)影響其他地區(qū)的決定。

實(shí)際上，自 OpenAI 于 2022 年 11 月發(fā)布 ChatGPT 后，它就引起了很多爭議，各種事實(shí)也證明，至少現(xiàn)階段的 ChatGPT 還沒有傳說中的那么無所不能：

• 12 月，Stack Overflow 稱 ChatGPT 答案的正確率很低，對整個(gè)網(wǎng)站以及尋求正確答案的用戶來說有害，宣布禁用 ChatGPT；

• 國內(nèi)的微信也限制 ChatGPT 小程序；

• 甚至 OpenAI 首席執(zhí)行官 Sam Altman 自己也發(fā)推表示：“ChatGPT 目前能力還非常有限，但因?yàn)樵谀承┓矫孀銐騼?yōu)秀，所以會(huì)給人留下一種誤導(dǎo)性的偉大印象。現(xiàn)在依靠它來做任何重要的事情都是不妥的。”

如今教育界對 ChatGPT 的擔(dān)憂及排斥也正是如此。除了其回答的準(zhǔn)確性不能保證，擔(dān)心會(huì)給學(xué)生造成誤導(dǎo)，ChatGPT 還能利用機(jī)器學(xué)習(xí)結(jié)合過往對話，對用戶提問給出類似風(fēng)格且語句通順的回答——這一功能顯然容易讓學(xué)生“心生邪念”，對于習(xí)慣用作業(yè)來評(píng)估學(xué)生理解和批判性思維能力的教育工作者來說，也是一個(gè)很棘手的問題。

因此，在看到越來越多利用 AI 作弊的事件后，一名普林斯頓大學(xué)計(jì)算機(jī)科學(xué)專業(yè)的學(xué)生 Edward Tian 也自發(fā)創(chuàng)建了一個(gè)應(yīng)用程序 GPTZero，它可以正確檢測文章是否由 ChatGPT 生成——據(jù)了解，GPTZero 一經(jīng)上線就非常受歡迎，還一度“由于出乎意料的高流量”而崩潰。

針對紐約教育部發(fā)布的這條禁令，許多人對此發(fā)表了自己的看法。

部分網(wǎng)友十分認(rèn)同此禁令的實(shí)施意義：”習(xí)慣了別人把答案喂到嘴里，漸漸地就會(huì)失去思考能力。比方說有些短視頻，看著看著會(huì)發(fā)現(xiàn)自己只是機(jī)械地看著，大腦其實(shí)是沒有思考的，人家說什么就覺得是什么。“

但同時(shí)也有人指出，希望 ChatGPT 的存在，能”有效倒逼老師不再布置一些形式化的作業(yè)“。

一位紐約市的歷史教師 Adam Stevens 也認(rèn)為，限制 ChatGPT 并不是真正的解決方法，重點(diǎn)是要讓學(xué)生學(xué)會(huì)探索值得了解的事情：“15 或 20 年前，當(dāng)學(xué)生可以‘在 Google 上找到答案’時(shí)，人們對谷歌也說了同樣的話?！?/span>

對此，最近深陷輿論風(fēng)波的馬斯克也不忘煽風(fēng)點(diǎn)火：“歡迎來到新世界，再見了家庭作業(yè)！”

有趣的是，針對這條禁令，外媒 VICE 還詢問了“當(dāng)事人” ChatGPT 的看法，而它給出了較為公正的回答：

“重要的是，要考慮在教育中使用 ChatGPT 的潛在風(fēng)險(xiǎn)和好處，并在做出決定之前進(jìn)行仔細(xì)權(quán)衡。此外，還必須聽取所有利益相關(guān)者的觀點(diǎn)和關(guān)切，包括教育工作者、學(xué)生和家長，以便做出明智和公平的決定?！?/span>