用chat破解ChatGPT，高校和AI斗智的这四个月

admin

从GPT-3到3.5，再到4——ChatGPT快速迭代的这几个月，高校对于学生用它完成作业的抵抗态度悄悄转了向。近日，香港科技大学的一门课程鼓励学生在期中报告使用ChatGPT，并承诺给予额外加分。
与此同时，教师和学生之间的“拉锯战”逐渐趋于平和。学生一开始热情满满，用着用着却发现ChatGPT生成的答案虽然看上去“卖相”不错，但细究下来大概不那么靠谱，比如部分内容为杜撰；教师中则分化出了不同的看法：有人坚持禁用ChatGPT，也有人提出与其禁用，不如观察它、使用它，用批判性思维去看待它。
破解ChatGPT最有效的方法是反制它吗？有高校教授认为，ChatGPT就像是提供标准答案的培训机构，但人们总有方法跟它斗智斗勇，以前搜索引擎时代是这样，以后chat（聊天）时代还是这样，而“破解ChatGPT的最重要的方法就是chat”。
从禁用到鼓励，高校对ChatGPT态度转向

ChatGPT是由美国人工智能实验室OpenAI开辟的对话AI模型。于去年11月底推出后，ChatGPT的底层模型已经经过两次迭代，拥有极其出色的文本生成和对话交互能力。而对于很多学生来说，ChatGPT最大的用处莫过于输入一个问题，就能轻松得到看上去质量相当不错的作业、报告甚至论文。
“这个写作程度，公务员写材料职位稳了。”“把课程小论文丢进ChatGPT改，没想到效果奇好，很多发起都很中肯，这样做真的会节省很多时间，作为助教帮助改讲堂论文也得到了教授的认可。”网络上，学生如此描述他们使用ChatGPT的亲身体验。根据美国在线课程网站Study.com向一万名18岁以上的学生发起的调查，89%的学生表示本身会使用ChatGPT完成作业。
但很快就有人发现，ChatGPT有时会“一本端庄地胡说八道”。比如有人检索了ChatGPT生成的论文参考文献，结果发现绝大多数文献为杜撰。更值让教师们担心的是，当学生习惯了使用ChatGPT来完成学习任务，大概会对它产生依赖甚至用它作弊，进而丧失独立思考能力。
为防止ChatGPT带来学术欺诈、剽窃的现象，高校、政府、学术期刊纷纷发布禁令。截至目前，美国、英国、法国、澳大利亚、印度均有多所大学明令禁止在论文和课程作业中使用ChatGPT，否则将以学术不端进行惩处。
在美国，洛杉矶联合学区早在去年12月就成为首批封锁ChatGPT的地区之一，纽约市教育部也已公布禁止在学校的设备和网络上使用ChatGPT。《自然》《科学》等国际知名学术期刊亦发表声明，完全禁止或严酷限制使用ChatGPT等AI呆板人撰写学术论文。
不外，近来高校对ChatGPT的态度似乎有“破冰”的迹象。
这种迹象最早可以追溯到已有多所高校对ChatGPT下达禁令的美国。2月，宾夕法尼亚大学沃顿商学院资深教授Ethan Mollick发文号令学生“在教学中拥抱ChatGPT”。专门研究创业与创新的Mollick认为，只有这样，才气让学生们经过事实核查从而可以或许很快明白AI的正确性和偏见问题。
3月初，香港科技大学（下称“港科大”）公布，由教师自行决定是否答应学生使用ChatGPT。这一决定很快有了实行者——当月14日，港科大一门课程鼓励学生在期中报告中使用ChatGPT，还给予额外加分。
该学科负责人黄岳永表示，与其他香港高校禁止或限制使用ChatGPT等AI工具不同，港科大管理层希望鼓励各人“尽快去学”。他还表示，在评分时，更看重学生与ChatGPT互动时的辩证思维和反思能力。
和高校教师对ChatGPT的态度相比，学生对ChatGPT的热情却在逐渐冷却。
在他们看来，由于没有接入网络、数据库并不完整，ChatGPT往往在复杂的理论上“栽跟头”。但出现这一问题的时间，ChatGPT并不会坦诚地表示“我不知道”，而是会先编造一些答案。
“我用它搜索论文，但它输出给我十几份不存在的文献。”有研究生在社交媒体上表示。因此，一位博士生在网上直言：“不要试图让ChatGPT给你写文献综述，由于复杂的理论它也不懂，最好本身给它解释一遍，而且还要防着他出现虚伪文献、错误引用等问题。”
担心ChatGPT粉碎学术公平，迫不及待还是杞人忧天？

只管存在种种瑕疵，ChatGPT的强盛无能否认。根据美国医疗保健初创企业安西布尔健康公司研究人员发表的论文，ChatGPT在美国执业医师资格考试中得分率为52.4%-75%（60分即为通过考试）。此前，ChatGPT还通过了美国的司法考试以及商学院考试。
一边是流利的对答和在某些标准考试中的完美体现，一边是极度缺乏知识、虚伪信息信手拈来——当ChatGPT走入高校甚至学术界，伴随着对于学术公平、学生丧失学习积极性的担忧，教师群体之中渐渐分化出了几种不同的观点。
上海大学文学院创意写作学科教授、博士生导师谭旭东不停注意培养学生的创意和主体性。他对南都记者表示，ChatGPT大概引发学术不端和诚信问题，“如果过分借重这种尚未完全成熟的人工智能技术，那至少对写作是一个伤害。”
在首批禁止学生在学校网络和设备上访问ChatGPT的纽约，教师们采用了相当严酷的惩罚措施。
“在未经确认的情况下使用ChatGPT的后果与任何学术剽窃案件的后果相同，从重造作业、扣分，到向学院院长提交报告都有大概。”纽约大学文理学院副院长Jenni Quilter担当媒体采访时说。该校的古典学系主任David Levene也提到，除非得到他的明确许可，否则任何使用ChatGPT的行为都将被视为剽窃。
当谈到国内高校该如何束缚或是使用ChatGPT时，谭旭东直言应该禁止用ChatGPT写论文和研究报告。他指出，用ChatGPT写论文，尤其是写研究论文是“舍本逐末”，由于以呆板和技术替代人去思考、研究，本身就是不负责任的行为。
但武汉大学校长张平文并不同意高校禁止使用ChatGPT的做法。“年轻人有使用高科技获取知识的愿望，这是一纸禁令所无法阻挡的。”他在担当媒体采访时指出，“对待ChatGPT的使用态度应像治理洪水一样，堵不如疏”，更要练习学生的批判性思维，不要满意于算法推送的现成答案，同时加强盛学人文教育，提高学生的人格养成和精力境界。
还有一种观点认为，当下的ChatGPT存在着诸多能力上的限制，以是担心它粉碎学术公平是杞人忧天。
英国格拉斯哥大学博一在读的小段对此深有感触。在他看来，对于博士而言，ChatGPT能给学业带来的帮助“险些可以说是没有”。
小段日常的工作大部分是读文献、撰写文献综述，其中包括对研究方向、当前领域研究进度、研究态度的思考和批判，但ChatGPT并不能辅助这一点。“由于文献综述要基于大量的文献撰写，写的时间有一定的格式规范，而ChatGPT无法带文献引用，只能输出简单的文本。”他说，“它的数据库内里没有学术数据库的版权，以是文献综述这一块它肯定不可”，而且目前ChatGPT不能上传文档、文本输出有字数限制，并没有人们想得那么实用，“大概更得当本科生或者硕士生。”
这些观点得到了华南理工大学法学院副教授叶竹盛的证实。他告诉南都记者，ChatGPT只能给学生提供基础性的信息检索的辅助，并且有些内容是经不起推敲的，高程度的学术论文写作只能由研究者本身来完成，ChatGPT无法完成深度内容的呈现。
“ChatGPT大概会有一些基础性的错误。比如有一次我用寻找法律条文的方式测试ChatGPT，发现它完全无法详细精确地查找哪一部法律的哪一条是什么内容，并且大概会出现基础的知识类错误，然后它也大概会犯一些逻辑上的错误，比如说因果关系的错误或者倒由于果。”
叶竹盛还指出，高程度的学者一眼就可以判定出来论文自身的程度怎么样，是不是言之有物、能不能站得住脚、有没有学术创新性，“这个不是ChatGPT可以或许取代得了的”。“ChatGPT并不能生成高程度学术性文章，因而不会对学术领域带来颠覆性影响，也就不用担心它粉碎学术公平。”
“破解ChatGPT最重要的方法就是chat”

每当一个变革性的新兴技术出现，其“双刃剑”效应似乎总让人们游走于拥抱它还是抵抗它的两难境地。尤其在学校里，教师对学生的引导至关重要，如果只是“一禁了之”，忽视新兴技术给学术规范带来的挑战，或许会引发其他弊端。
“学校作为一个科研和教学机构，体现出教育行业的反思和自我革命的要求，我觉得这个大概是更重要的事变，而不在于它禁止还是允许（使用新型AI技术）。” 中国传媒大学消息流传学部副教授周逵如是说。
他表示，虽然本身的讲堂上还没有出现使用ChatGPT的行为，但他会对本身的教学模式做出调解，如在作业中让学生们提交问题而不是答案。“我觉得能问出好问题比找到好答案大概更重要。要看到ChatGPT到目前为止还不会提问，我觉得人类目前还可以保持住发问者的状态和尊严，至少从人文社科领域可以这么去思量。”
“它（ChatGPT）有点像给考生提供标准答案的培训机构，但是一般这种情况之下很容易被问出来。总是有方法去跟它斗智斗勇的，在以前搜索引擎时代是这样的，以后chat（聊天）时代还是这样的。”周逵笑称，“破解ChatGPT的最重要的方法就是chat。”
前述宾夕法尼亚大学教授Mollick则已经在面向本科和硕士级别的创业和创新课程中，以三种不同的方式练习学生使用AI，甚至允许学生使用ChatGPT来写论文，不外他也给出了使用ChatGPT的限制，以帮助学生更好地认清ChatGPT的工具属性。这三种方式分别是向AI提供描述性词汇，在描述中增加一些限制和专业知识，以及“AI+人工”共同编辑——末了一种方式的教学效果显着优于前两者。
香港大学禁用ChatGPT后，副校长何立仁曾对媒体表示此举是短期措施，但他于3月9日再次向师生重申相关政策不变，将持续到8月结束。对此，叶竹盛直白地表示不认同：“我觉得应该要担当这个技术，由于防是防不住的。对高校来说，当下最重要的是改变培养的重点和稽核的重点，然后尽快应用ChatGPT学术反剽窃体系，这种体系大概才是当务之急。”
相比高校选择禁止还是鼓励使用ChatGPT，周逵更担忧的是，现在各人都沉浸在技术爆炸的想象当中，社会对其负面影响却没有足够的应对方式。“我觉得学校不管禁止还是接纳，都大概需要在一个更超然的立场上去观察、做批判性思考。”
采写：南都记者胡耕硕 实习生路欣冉

来源：https://view.inews.qq.com/k/20230328A04G8A00
免责声明：如果侵犯了您的权益，请联系站长，我们会及时删除侵权内容，谢谢合作！