|
|
由于教授误用 ChatGPT，全班学生的毕业差点成为一个大问题。
整理 |屠敏
出品 | CSDN（ID：CSDNnews）
曾多少时，震慑无数学生的「学好数理化，走遍天下都不怕」Slogan 在 AI 互联网期间，正在变得失效。现现在，俨然已变成 GPT 打遍天下无敌手。
在此趋势下，无数学生群体借助 GPT 生成论文、完成计算、填补作业......这也让许多学术界的教授们烦恼不已，称许多学生丧失了自主学习、独立思考的本领，只知道把问题抛给 GPT 工具来解答。
为了反向抵制这种情况，一名教授决定用“邪术”打败“邪术”，千万没想到的是，当他误把生成式的谈天机器人 ChatGPT 用来检测学生本身完成的学术论文时，所有学生的成绩不仅都变为了“不及格”，以致连获得毕业证都成为了问题。
事情缘由
详细的事情起因，要从一位名为DearKick网友在 Reddit 交际平台无奈发的帖子说起。
原来是德克萨斯 A&M 大学商业学院（Texas A&M University-Commerce）农业科学和自然资源系教农业课程教授 Jared Mumm 对所有学生发了一封邮件，称他正在利用 AI 工具来评估学生提交的作业是由人类编写的照旧计算机生成的。
根据披露的截图，邮件完整的内容如下：
下午好！
你们现在应该都能在 D2L（大学常用的在线课程管理体系）上看到你们的课程最终成绩。在每个人单独给我发电子邮件之前，请仔细阅读这封邮件。
在给你们的最后三次作业评分时，我已经在 Chat GTP 上开通了本身的账户。我登录这个账户后，复制并粘贴你们的回答，Chat GTP 会告诉我，这些内容是否是步伐自动生成的内容。我把每个人的最后三次作业分别输入两次，如果它们都被 Chat GTP 认领是 AI 生成的，你就会得到 0 分。
我对这门课的最终成绩提交将在今天下午 5 点停止。我将给这门课程的每个人打 "X"。如果你对今天下午 5 点前在 D2L 上看到的成绩不满意，你将完成另一项作业。如果你对你的成绩感到满意，就不要交下一份作业。
对于新提交的作业，你需要在周五下午 5 点前完成。它将通过电子邮件发送给你一个 word 文档。如果你提交新作业的时间是在星期五下午 5 点之后，你将收到当前在电脑中已经表现的成绩。这项作业的价值为 200 分。
本作业的提示如下：你正在为一家农场主提供咨询服务，他们要求你资助他们决定是否应该在母猪生产小猪时候，匍匐喂它们吃东西。
你要列出 5 个来由。不过，当我通过 Chat GTP 步伐来检查的时候，如果有任何利用的迹象，不仅你现在的成绩会维持现状，而且我会在课堂成绩之外判定你为学术不端，这将影响你将来到场任何一门我的课程或这所大学的任何其他课程。
一石激起千层浪，许多学生比较懵，不知教授到底是在干什么。
不丢脸出，这封邮件中包罗了不少错误，譬如时下游行的 AIGC 工具是叫「ChatGPT」，而非“Chat GTP”。
而产生这种关键错误的背后，在于教授好像并不懂 ChatGPT 这款工具以及工作原理，将这款生成式的 AI 谈天机器人 ChatGPT 误当做检测 AI 内容的工具。
毋庸置疑，工具都用错了，结果肯定不会好到哪里去。
正如众人所料，ChatGPT 最终将许多学生提交的作业标记为 AI 生成的。
据外媒 rollingstone 报道，学生不是没有想过要向教授解释，只是他们解释了，教授不听。以致当有学生向教授提供没有利用过 ChatGPT 的证据时，教授忽略的这一点，以致“爆脏话”，在学校的评分软件体系中批评说：
“我不给 AI Shit 评分。”
无奈之下，有学生“发邮件联系了院长并抄送给大学校长”，但是没有立即得到资助。被卷入这场风波的学生说，明明他们的文章确实是他们本身写的。更让他们感到瓦解的是，一部门临近毕业的学生被暂时扣留了毕业证书。还有网友表述，Mumm 教授以类似的方式让“几个”整个班级都不及格，而不是质疑他检测作弊者方法的有用性。
来自学生的反击
对于熟悉 ChatGPT 工具的人想必都知道，它是继承大量数据训练而成，根据各种提示，也极容易模仿人类书写的内容，自然也会将人类编写的内容辨认为“AI 生成的”。
为了证明 ChatGPT 易错性这一点，网友Delicious_Village112复制了一段Mumm 教授发表过的论文择要，并询问 ChatGPT 这是人类编写的照旧 AI 生成的。
结果 ChatGPT 认为它可能是“AI 生成的”：「是的，如果得到精确的提示，你分享的段落确实可能是由像 ChatGPT 这样的语言模型生成的。」
大学告急发布声明
面临越来越多的学生在网上开始爆料这一事件，德克萨斯 A&M 大学商业学院告急发布声明回应：已经办理了农业课堂中对 ChatGPT 的担心。
在声明中，这所高校表示，他们注意到近来的几篇新闻报道涉及到这样的指控：德克萨斯A&M大学商业学院农业课的高年级学生由于对人工智能生成的作业有疑问而获得了不及格的成绩，并被暂时拒绝颁发文凭。
A&M-Commerce 证实，没有学生由于这个问题而挂科或被克制毕业。
当前，这班的班主任教授 Jared Mumm 博士正在与学生就最后一次的书面作业进行单独沟通。一些学生获得了“X”的临时成绩——表示“未完成”——以便让教授和学生有时间确定是否利用了 AI 来写作业，如果是的话，再做级别判定。
目前，已有几名学生被免去嫌疑，他们的成绩也已经公布，而一名学生已经站出来承认他在作业中利用了 ChatGPT。其他几名学生选择完成 Mumm 博士提供给他们的新作业。
公告称，大学官员正在调查这一事件，并订定政策来办理在课堂上利用或滥用人工智能技能的问题。他们还在积极采用人工智能检测工具和其他资源来管理人工智能技能和高等教育的交叉问题。在课业中利用人工智能是所有学习机构面临的一个快速变革的问题。
与此同时，网友 DearKick 在最初的帖子下面更新道，迄今为止，教授已经向被冤枉的 1 名学生道歉：
情况（大部门）已办理。
在与教授和几位行政官员的会面中，我们相识到几个关键点：
最初人们认为整个班级的毕业证发放都被搁置了，但实际上只是班级的一半多一点职员被波及。
毕业证处于“保留”状态，直到“对每个人的调查完成”。
学校表示，他们没有克制任何人毕业/脱离学校，由于毕业证处于“保留”状态，还没有正式被拒绝。
DearKick 称，到目前为止，他已经与几名学生攀谈过，截至撰写此批评时，已有 1 名学生通过在谷歌文档中编辑的时间而被免去嫌疑，虽然他们的毕业证还没有发放，但应该发布。
与此同时，DearKick 透露称，「由于教授的粗言秽语和与学生的不专业沟通，他的工作可能会受到影响，不过，不是由于对 AI 工具的错误利用。」据悉，该教授向迄今为止被证明没有作假的 1 名学生道歉。
什么样的情况下才气利用 ChatGPT？
截至目前，这份声明好像办理了大部门学生的问题，但是这一次教育工作者对于 AI 工具错误利用而引发的混乱，也让许多人担心不已。
高校里面是否应该利用 AI 工具？老师又是否应该利用软件来检测学生提交作业中 AI 生成的内容？
其实，在 ChatGPT 刚刚出现的时候，不少大学教授就号令不可以利用 ChatGPT。以致一位来自弗曼大学哲学助理教授 Darren Hick 还曾发文分享，抓到了一位用 AI 写论文的作弊者，并上报了上去。
在这一趋势下，美国纽约市教育部正式宣布：纽约市的学生和教师，无法再在教育部装备或互联网上访问 ChatGPT。
究竟上，ChatGPT 并不是用于对 AI 生成的文本进行辨认的最佳工具，它以致无法准确确定是否有人用它来写一篇文章。
过去几个月间，虽然 OpenAI 推出AI-Text-Classifier、斯坦福大学带来DetectGPT，以致连大学生都在研发 GPTZero 等 AI “打假”工具，用以区分人类写的文本和来自各种供应商利用 AI 写的文本，但是极高的失败率，让人望而却步。
此前，来自美国马里兰大学的五位计算机科学家 Vinu Sankar Sadasivan、Aounon Kumar、Sriram Balasubramanian、Wenxiao Wang 和 Soheil Feizi 在研究了检测大型语言模型生成的文本之后，发布了一篇《AI 生成的文本可否可靠地检测？》论文，最终得出：任何以问号结尾的提问都可以用“不”往返答。
该论文的一作 Vinu Sankar Sadasivan 坦言，纵然是利用最好的检测器来检测 AI 生成的文本，这种概率并不比扔硬币进行判断好到哪里去。
"生成性 AI 文本模型利用人类文本数据进行训练，目的是使其输出与人类相似。这些 AI 模型以致记住了人类文本，并在某些情况下输出它们，而不会引用实际的文原来源。随着这些大型语言模型不断迭代，最好的检测器只能达到近 50% 的准确性“，Sadasivan 说道。
根据论文结果表现，可靠的文本检测任务在实践中是不可能的。
我们可能永远无法可靠地说出一篇文章是由人类照旧人工智能写的。
参考：
https://www.rollingstone.com/culture/culture-features/texas-am-chatgpt-ai-professor-flunks-students-false-claims-1234736601/
https://www.theregister.com/2023/05/17/university_chatgpt_grades/
https://www.reddit.com/r/ChatGPT/comments/13isibz/comment/jkeqnam/?context=3
https://arxiv.org/abs/2303.11156
来源：https://view.inews.qq.com/k/20230518A0507D00
免责声明：如果侵犯了您的权益，请联系站长，我们会及时删除侵权内容，谢谢合作！ |
|
/1 
