学生用AI完成练习,答案更完整,正确率也提高了。老师看到结果,很容易认为这是一种有效的学习支持。但如果下一次关掉工具,学生做得反而更差,我们应该怎样理解前一次的成功?
这里有两个不同的目标:让眼前的任务完成得更好,以及让人获得以后能够使用的能力。它们可以同时实现,也可能分开。仅看有AI时交上来的作业,很难知道发生的是哪一种。
Hamsa Bastani、Osbert Bastani、Alp Sungu及合作者在2025年发表于《PNAS》的研究,用高中数学课堂检验了这个区别。论文标题直接指出:缺少约束的生成式AI可能损害学习。但精读的重点在标题后面——什么样的工具,在什么安排下,影响了哪一种学习结果?正式论文 ↗
一分钟读懂
- 研究对象:土耳其一所高中近千名学生,围绕已学过的数学内容开展课堂复习实验。
- 关键比较:没有生成式AI、基础GPT辅助、加入教师设计的学习约束的GPT辅导;先有辅助练习,再无辅助考试。
- 主要结果:两种GPT条件均提高练习表现;基础GPT组在之后的独立考试中低于对照组,辅导版组未发现与对照组显著不同。
- 阅读边界:这是特定学校、学科和工具设计下的短期效果。它既不能证明所有AI教学有害,也没有证明辅导版带来了长期学习增益。
01 · 先把“学习效果”的时间点说清楚
评价一个工具,最容易取得的是使用中的表现:完成多少题,用了多久,答案得了多少分。但教学还关心一个更远的结果:学生在没有同样支持时,能否处理相近问题,以及能否把理解带到新情境。
这篇研究把两种表现安排在同一次课堂活动中。先由教师复习内容并讲解例题,再进入学生练习,最后独立考试。AI只在中间的练习阶段进入,最后测试不允许使用资源。作者全文§2,PDF pp. 6–9 ↗
这个顺序使研究者能够观察:在得到帮助时成绩提高的人,是否真的掌握了稍后需要独立使用的知识。考试题与之前练习的概念相近,因此结果首先反映短期、近距离的独立表现,不能直接当作几个月后的保持或跨学科迁移。
对于日常教学,这个区别也很实际。把一次作业写得漂亮,可能来自学生能力、AI输出、教师提示,或者几者共同作用。只有把支持条件和测试条件说清楚,才能判断评价到底落在谁的能力上。
原文并没有因此把无辅助考试宣布为全部教育价值。有些实际工作本来就允许长期使用工具,合作成果本身也值得评价。它选择无辅助表现作为主要结果,是因为问题明确指向技能获得,而不只是即时生产率。
02 · 三组学生,究竟有哪些条件不同
实验在2023—2024学年秋季开展,涉及九至十一年级约50个班,安排四次、每次90分钟的学习活动。任务覆盖的内容约占相关学期数学课程的15%。§2,PDF pp. 6–9 ↗
对照组按常规方式练习,可以参考教材与课堂笔记,没有获得生成式AI工具。
GPT Base组获得笔记本电脑,使用基于GPT-4、模拟常见聊天界面的辅导工具。系统被告知担任数学辅导者,但总体上按学生请求提供帮助,没有辅导版那一组学习约束。
GPT Tutor组使用相似界面,但系统获得教师参与设计的材料与指令:题目的正确解法、常见错误、对应提示,以及避免直接交出完整答案、要求学生展示尝试等规则。
所以,比较并不是“同一个机器人换了一个名字”。辅导版同时改变了答案可靠性的支持条件和帮助方式。若其结果更好,不能立即认定唯一原因就是“它不直接说答案”。这一点会影响后面如何理解机制。
对照组也不是完全没有学习支持。教材、课堂笔记、共同的教师讲解都在,研究估计的是在这些条件之上加入两种AI安排的效果。若把对照组写成“学生只能独自苦想”,就会夸大技术与常规教学之间的反差,也会误解实验实际比较的教学资源。
研究以班级安排处理条件,主分析排除并非按一般方式随机分班的荣誉班;条件分配也考虑班级特征与排课限制。教学开头和末尾保持共同流程,学生用纸提交答案,独立评分者按教师制定的标准评分。主模型考虑学生先前成绩、课程场次、年级、教师和评分者等因素,并按班级处理标准误。这些细节说明,它研究的是组织过的课堂干预,而非学生自由选择是否使用AI的简单比较。
03 · 教学约束是怎样进入工具的
原文图1展示了同一道数学题在两个版本中的系统提示。基础版主要说明题目与辅导角色;辅导版则包含如何回应学生、什么时候给提示、怎样处理错误以及哪些内容不应直接给出。§2及图1,PDF p. 7 ↗
其中一个重要动作,是先要求学生提供已经做过的步骤和卡住的位置。它改变了互动起点:系统不只是接收一道题,还尝试取得学生当前理解的线索。另一个动作,是逐步增加帮助,而不是一开始提供完整解法。
正确解法与常见错误也进入了系统上下文。这意味着教师的工作没有消失,而是部分转移到了工具设计之前:准备问题、核对答案、预判误区、制定反馈。辅导效果不能只记在基础模型名下。
对学校而言,这里存在一个容易被推广材料忽略的成本。一个能运行的聊天窗口,与经过课程内容整理和教学设计的辅导系统,投入并不相同。原文说明,构建题目专属材料需要教师参与;不能把结果简化成复制一句通用提示词就能得到同样效果。
“约束”在这篇论文中也不是一般意义的内容过滤。它主要围绕学习过程:怎样使帮助既能让人继续做下去,又不轻易跳过需要练习的步骤。规则是否真的被遵守、学生怎样适应规则,仍要通过互动记录观察。
04 · 练习涨分了,独立考试发生了什么
原文表1把成绩标准化到0至1,并报告模型估计。练习阶段,GPT Base相对对照组提高约0.137,GPT Tutor提高约0.361。与对照组约0.284的平均水平相比,作者将其表述为约48%和127%的相对提升。§3,表1,PDF pp. 10–11 ↗
127%不是提高127个百分点,也不是学生取得了超过满分的成绩。 它的分母是对照组的平均分。精读这类数字时,先找到分母,比先记住那个醒目的百分数更有用。
独立考试的方向不同。GPT Base组相对对照组的估计差异为−0.054,而对照组平均约0.321。作者据此报告约17%的相对下降。这同样不等于下降17个百分点;在0至1量尺上,估计差异约为5.4个百分点。
GPT Tutor组的独立考试差异估计约为−0.004,没有达到统计显著。它支持的是:这套设计下,没有观察到基础版那样的负面差异。它并不支持“辅导版使独立考试显著提高”,也不能证明两组在所有有意义的程度上完全相同。
由此可以得到一幅清楚的比较图:练习阶段,两种AI都带来帮助;撤去帮助后,基础版出现损失,辅导版与对照组未检出显著差异。本文最重要的证据就来自这两个阶段的并置,而不是某一个百分数。
这里还有一个读表习惯值得保留:表1报告的是回归系数和标准误,组别系数是模型估计的相对差异,不应把每个系数当作某个学生真实增加或减少的分数。总体估计说明这套安排的平均效果,不意味着每个人都沿同一方向改变。
“一个组显著、另一个组不显著”也不自动等于两组彼此显著不同。要主张两个AI版本之间存在多大差异,需要看直接比较。本文的主要叙述因此始终标明相对于哪一组,避免从两处显著性标记自行拼出第三个结论。
同样,未发现显著差异与证明等效是不同任务。若学校要认定某种系统至少不会造成超过某个程度的损失,就需要预先设定可接受界限,安排足够样本,并按相应设计检验。不能看到一个不显著结果,就宣布任何程度的风险都已排除。
05 · 是AI教错了,还是学生跳过了学习
观察到基础版组独立考试较差,还需要解释差异怎样产生。作者讨论两条路径:一条是AI的错误答案误导了学生;另一条是学生利用AI直接取得解法,减少了自己的有效练习。§4,PDF pp. 13–18 ↗
为检查第一条,研究者针对57道练习题,使用学生常见的直接索要答案方式,分别重复询问基础版十次,并把回答中的错误区分为逻辑错误与计算错误。这是对该系统、该题集和这种询问方式的测试,不是GPT-4在全部数学任务上的准确率。
他们进一步比较,模型在某道练习题上更容易出错时,学生在相应练习和之后相近考试题上的表现怎样变化。错误率与有辅助练习的表现有关,但这些分析没有为“考试损失主要由错误答案造成”提供同样强的支持。
另一部分证据来自对话。基础版中,学生更常直接提出题目或索要答案;辅导版中,求助和提交自己的尝试更突出。作者将这些结果解释为:基础版容易被当成直接完成练习的支撑,减少学习过程中的主动投入。
这种解释有依据,但还不是把两条机制彻底分离的实验。系统提示、正确答案支持和学生互动方式同时变化;对话也不是被随机分配成“认真思考”或“复制答案”。因此,更准确的写法是“证据支持作者提出的机制解释”,而不是“已经排除所有其他原因”。
若未来要拆开机制,可以分别控制系统正确率和提示方式,再观察学生独立表现。这是基于原文提出的后续设计,需要另做研究。
06 · 学生觉得学会了,与实际测得的结果可能不同
论文还调查了学生对学习和考试表现的感受。基础版组在独立考试中表现较差,却没有相应地认为自己学得更少;辅导版组也比其独立考试结果所支持的程度更乐观。§3 Student Perception及附录B.3 ↗
这使“学生喜欢这个工具”成为一种有价值、但不充分的证据。满意度可以告诉我们支持是否易用、是否减轻挫折;它不能独自证明学生获得了独立能力。困难减少的感觉,与理解增加的程度,需要分别测量。
这里也不应指责学生不诚实。人在练习过程中持续看到顺畅的答案,很容易据此判断任务已经掌握。问卷记录的是他们当时怎样理解自己的学习,而不是研究者提前设定的考试结果。
对教师来说,值得设计的是让学生更准确地知道自己掌握了什么。例如,在结束有辅助练习后,用一道短题要求独立解释关键步骤,再让学生比较原来的信心与实际表现。这是编辑建议,其效果不能由本研究直接担保。
这样的安排还应避免把测试变成惩罚。独立尝试暴露的是下一步需要怎样的帮助。如果学生因为怕被评价而隐藏困难,工具日志和课堂成绩反而更难反映真实学习过程。
07 · 原文的方法,哪些增强了判断,哪些仍有限制
研究的一项长处,是把问题预先落在无辅助考试上,而不是看到哪个结果漂亮就只报告哪个。附录A.6说明了预注册的组间比较,以及正文采用的回归分析;两种分析对主要结果的判断方向相近。附录A.6,PDF pp. 34–35 ↗
研究也保留了实际执行中的不完美。有五个班级场次因设备等外部原因没有按原计划使用处理条件。主分析按最初分配保留它们,也就是意向处理分析(intention-to-treat analysis);另做排除这些场次的稳健性检查。这样可以避免只留下“顺利使用工具”的学生,从而改变原来的比较基础。
但这仍然是一所学校的研究。共同课程、学校组织、教师准备和学生背景限定了结果能直接覆盖的情境。把它推广到成人写作、大学科研或不同语言的辅导,需要重新检验。
学习测量也集中在短期、相关题目上。研究让我们认真对待能力获得的风险,但不能据此写出“长期依赖必然导致永久退化”。后者需要更长时间、更广任务的追踪。
还有一个干预解释问题:AI组获得电脑和工具,对照组使用常规资源。因此总体比较包含整个实施安排。两种AI组的界面更相近,有助于比较设计差别,但辅导版内部仍是一组捆绑改变,无法把全部收益归给单一规则。
还有两类结果适合放回这个边界中。论文探查不同基础与学习条件下的效果差异,整体没有得到很多稳定的异质性证据;这不能直接证明所有学生受到完全相同的影响,也不能凭直觉指定“只有基础差的学生才有风险”。不同群体的比较需要相应的样本与统计把握度。§3 Heterogeneity、附录B.4 ↗
作者还发现,两种AI在练习阶段缩小成绩分散程度,但在无辅助考试中没有发现相应的显著变化。它再次提醒我们:工具在场时使产出更接近,不等于学生的独立能力差距已经缩小。若教育者关心公平,应把获得帮助的机会、使用中的表现与撤去帮助后的能力都纳入评价。§3 Grade Dispersion、附录B.5 ↗
08 · 对教学更有用的问题:帮助应该停在哪一步
从这篇论文出发,教育者可以先区分三种目的:让学生完成一个作品,让学生理解一种方法,以及让学生在没有同样支持时独立使用方法。一次活动可以兼顾它们,但不能默认三者自然一致。
下面是一段编辑设想。学生正在比较两个研究设计。若AI直接给出“哪个更好”的完整结论,学生也许能够迅速提交答案;若它先询问研究问题、让学生找出两组的控制条件,再对遗漏处提供提示,学习过程就不同。
这不意味着永远不能给完整示范。初学者可能需要看一个清楚的示范,才能知道任务要求。真正需要安排的是示范、自己的尝试、反馈和独立测试之间的关系,而非把“不告诉答案”本身当作教学质量。
同样,工具答得正确也不是全部要求。一份正确答案,如果替代了本来需要学生练习的推理步骤,仍可能帮助完成作业而没有帮助掌握方法。反过来,一段困难但可处理的提示,可能让人继续参与,也可能因为过难而失效。
因此,评价辅导系统应该观察帮助是否对准学生当前的困难,是否保留了需要练习的活动,以及学生最后能否离开这份帮助。模型能力、内容准备和教学流程,应作为一个共同安排接受评估。
09 · 下一项研究,可以怎样设计得更清楚
把提示与正确性拆开。 在可靠答案支持相同的条件下,比较直接解答与分步提示,控制总练习时间,并保留学生尝试记录。若差异出现,才更接近提示方式本身的效果;仍需检查学生是否真的按设计互动。
把即时表现与延迟保持拆开。 除了当堂考试,再设置一周后的独立测试,并加入结构相似但表面不同的新题。这样可以区分短期熟悉、保持与迁移,而不是只问“有没有学到”。
把平均效果与学习路径连起来。 同时记录原有能力、求助时间、索要答案、修正错误和解释步骤,但不把日志关联直接当因果。若要研究某种互动路径,可以通过随机提示或不同帮助顺序改变它,再检验结果。
对学校试点而言,还应记录教师准备时间、系统维护负担和学生实际获得帮助的机会。一个在充分准备下有效的干预,如何变成可持续课程,是另一个需要证据的问题。这些研究方向为编辑整理,不是原文已完成的后续实验。
10 · 延伸阅读
- 理解为什么人会把加工转移给工具:认知卸载综述把当下表现、后续记忆与自我判断分开,有助于细化这篇论文的解释。第16篇精读 ↗
- 理解怎样衡量AI素养:Long与Magerko讨论的能力范围不限于操作工具,也包括评价与理解AI。第8篇精读 ↗
- 比较工作场景中的证据:Lee等的知识工作者调查研究自述的思考投入,与本篇的课堂表现测量具有不同用途。第18篇精读 ↗
这篇论文值得带进教学讨论的,是一组必须同时展示的结果:有帮助时做得怎样,撤去帮助后又怎样。只呈现其中一边,都会漏掉我们真正想知道的学习过程。
原文与版本
Bastani, H., Bastani, O., Sungu, A., Ge, H., Kabakcı, Ö., & Mariman, R. (2025). Generative AI without guardrails can harm learning: Evidence from high school mathematics. Proceedings of the National Academy of Sciences, 122(26), e2422633122.
正式题录 ↗ · 作者公开全文及附录 ↗ · 作者公开数据与代码 ↗
本文按作者公开的68页正文及附录合并版核读研究设计、主要结果、机制讨论与预注册说明;文内PDF页码对应该版本,引用优先给章节和表号,不与期刊排版混用。未独立运行统计代码。2025年8月的出版方更正涉及作者单位信息。教学示例、数字解释和后续研究方案为编辑整理。
更新于2026-10-10 · v1.0。