ChatGPT按需生成类人文本的能力已在高等教育中引发了一场危机。教师和教授们感到困惑，不知道该如何应对这种可能使任何学生都能捏造作业而无需实际学习的技术。尽管人们可以理解地想要简单地禁止它进入课堂，但我（C.W. Howell）在埃隆大学的宗教研究课程中采取了一种替代方法。
相反，我决定让学生直接与ChatGPT互动。我选择这样做有两个原因。首先，实际上很难甚至不可能禁止它；无论如何，学生们都会使用这种文本生成人工智能。其次，不幸的是，即使是那些试图负责任地使用它（即，不只是完全作弊）的学生也并不真正了解这项技术。一个常见且关键的错误是，许多学生错误地认为它是一个绝对可靠的搜索引擎。一位学生试图将ChatGPT用作研究工具，并且没有意识到它可以捏造虚假来源和引语，将欺诈性信息纳入了一篇原本无辜的论文中。我的目标是通过向学生讲授像ChatGPT这样的模型的缺陷来防止这种失误。
为了做到这一点，我创建了一个人工智能驱动的课堂作业。每个学生都需要从ChatGPT生成自己的文章，并根据我的指示对其进行“评分”。学生们被要求在文档上留下评论，就像他们是教授在评估学生的作品一样。然后他们回答了我提供的问题：ChatGPT是否捏造了任何来源？如果是，你是如何发现的？它是否正确使用了任何来源？它是否弄错了任何真实来源？它的论点是有说服力还是肤浅？
关于支持科学新闻
如果您喜欢这篇文章，请考虑通过以下方式支持我们屡获殊荣的新闻报道： 订阅。通过购买订阅，您正在帮助确保未来关于塑造我们当今世界的发现和思想的有影响力的故事。
结果令人大开眼界：63篇文章中的每一篇都包含捏造和错误。大多数学生对此感到惊讶，许多人对这项技术的印象不如他们在做作业之前那么深刻。我希望其他教授和教师也能从将此类作业纳入他们的课程中受益。
除了教授人工智能素养和负责任地使用ChatGPT之外，这项作业还激发了学生们令人兴奋和深刻的见解——关于人工智能在课堂上的使用、写作论文的目的以及在机器时代作为人类的意义。我邀请了他们中的两位，Cal Baker和Fayrah Stylianopoulos，分享他们对人工智能在教育领域的看法和见解。
Cal Baker，大学二年级学生
学校作业最关键的要素不是课程材料或成绩：学生在完成作业过程中经历的实际思考过程比仅仅提交完成的任务更重要。工作中的细节很少像这种思考那样重要。如果学生使用ChatGPT为他们做作业，我担心他们会错过这些认知体验。
在大多数情况下，材料本身很少是布置学校作业的首要原因；相反，当学生完成作业时，他们大脑中发生的事情才是学校教育的支柱。做数学练习题、综合来源或写诗都是提高学生大脑的作业示例。当学生工作时，他们的神经元形成新的连接，使他们下次能够更快更轻松地工作，并提高他们进一步学习和生产力的能力。
使用像ChatGPT这样的人工智能完成作业可能会损害学生的认知发展。欧盟2018年关于人工智能对教育潜在影响的政策报告解释说，学生的大脑正处于“关键发展阶段”。它进一步警告说，如果年轻的大脑在关键发展阶段学会依赖人工认知技术，将会产生“相当根本的后果”。换句话说，如果学生不自己努力完成学校作业，他们可能会错过发展解决自身问题所需的大脑结构的机会。最近一篇2022年发表在《人工智能前沿》上的论文得出了类似的结论：作者推测，虽然将任务“认知卸载”到人工智能“可以提高即时任务的绩效，但也可能伴随有害的长期影响。”这些影响可能包括解决问题的能力下降、记忆力变差，甚至学习新事物的能力下降。
从表面上看，一个人练习某件事越多，他就越有可能擅长它。但在更深层次上，学生在进行这些作业时大脑中发生的过程是最重要的部分。如果学生求助于人工智能而不是自己做作业，他们本应用于该作业的神经通路将会退化而不是形成和重塑。这最终会伤害学生。如果他们依赖于短期内使他们的生活更轻松的技术，他们将无法发展他们未来工作所需的能力，从而使他们的生活在长期内更加困难。
Fayrah Stylianopoulos，大学二年级学生
虽然ChatGPT如果被滥用肯定很危险，但我认识到它有潜力在学生的学术旅程中为他们提供支持。在最好的情况下，ChatGPT可以成为一种多功能的资源，为教师和学生带来新鲜、互动的想法，供他们在课堂上享受。例如，它可以根据标准化的目标建议独特的学习体验，起草课程计划和学生作业提示。ChatGPT甚至可以就学生自己的课堂笔记进行测验（以简答题或多项选择题的形式），但值得注意的是，学生可能通过编写自己的问题和回忆线索在认知上得到更好的服务。
然而，人工智能在学术领域的普遍存在迫使学生反思他们是谁，以及ChatGPT是什么。
人工智能生成的文本听起来可能是对的，但连续的可信性与真相不是一回事。为这项作业批改ChatGPT的文章清楚地表明，学生们，出于这个原因和其他原因，比像ChatGPT这样的大型语言模型聪明得多。不幸的是，很少有人意识到这一点。许多学生在面对这种技术时感到渺小或不聪明。我们需要肯定学生，并在他们心中灌输自信，让他们意识到他们的观点很重要，他们的批判性思维是无法自动化的。
一些批评家将像GPT-3这样的大型语言模型比作训练有素的鹦鹉，它们重复熟悉的短语，却不知道这些短语的微妙语境可能对人类听众意味着什么。如果这种仅仅“听起来对”的冷漠和超然的先例在课堂上得到奖励，它将对人类的思维和对话产生悲剧性的同质化影响。我相信，我们对这个世界的命运所共有的基本而深刻的利害关系值得一提，这是人类（也包括鹦鹉）所拥有的，但ChatGPT不具备的。尽管ChatGPT拥有所有令人难以置信的能力，但它对我们或世界没有任何关系感。这样一种超然的声音怎么能为我们提供我们已经拥有的东西呢？
我担心，如果学生过度依赖机器学习技术，他们将学会像它一样思考，并专注于预测最有可能的“正确答案”，而不是批判性地思考并寻求理解细微的思想。科幻小说经常描绘人工智能接管社会，导致技术奇点（技术不可逆转地超越人类）和世界末日。但我并不担心人工智能会达到我们现在的水平。我更担心我们可能会退回到人工智能的水平。
这是一篇观点和分析文章，作者或多位作者表达的观点不一定代表《大众科学》的观点。