任务边界与专业判断 · 论文精读

同一个AI,为什么一边帮人提效,一边让判断变差?

同样的工具为何既能改善产出,又会降低正确率?把两类任务、三种条件和完成率、质量、耗时分开,读懂锯齿状技术边界。

Dell’Acqua et al. · 2026Organization Science · Articles in Advance, 1–21 查看原文 ↗

一位顾问用AI设计新产品,方案很快变得完整;接着用同样的工具分析经营材料,建议依然条理清楚,结论却可能错了。最难察觉的转变,往往不是系统突然不会说话,而是它继续说得很好。

这是根据论文问题编写的编辑情境,不是实验中某位参与者的经历。它把我们带到一个具体问题:一个人在什么地方可以借力,又在什么地方需要重新判断?职业名称、任务看起来有多复杂,甚至上一次使用是否成功,都未必足以回答。

Fabrizio Dell’Acqua及合作者与波士顿咨询公司合作,把这个问题放进顾问的工作相关任务里。本文采用2026年《Organization Science》正式在线版,研究使用的是2023年4月底可用的GPT-4。发表年份与所测工具的时间应当分开看。论文题录 ↗

一分钟读懂

  • 研究做了什么:758名顾问进入两类互不重叠的任务分支,各自再比较无AI、GPT-4、GPT-4加使用概览三种条件。
  • 边界内的收益:完成率相对提高约12.2%,回答质量平均提升约32%;完成前17个子任务的用时也减少。
  • 边界外的风险:一项需要结合访谈与财务数据的判断任务中,合并AI条件后的正确率比对照低约19个百分点。
  • 阅读边界:这是特定模型、特定任务的实验。它揭示任务差异的重要性,没有画出所有职业的永久能力地图。

01 · 技术边界为什么是锯齿状的

“锯齿状技术边界”(jagged technological frontier)是论文用来描述AI能力分布的概念。人类觉得难度相近的工作,借助AI后可能表现更好,也可能表现更差。不同任务上的能力并没有沿着一条整齐的难度阶梯排列。印刷p.2/PDF3 ↗

我们容易借用自己的经验判断工具:写出流畅长文很难,找出表格中的一个问题似乎简单,于是认为前者都能完成,后者应该更没问题。但模型完成两件事所依赖的条件可能不同。看似简单的判断,也可能要求发现材料之间一个不能忽略的例外。

这里的“边界内”并不意味着毫无错误,“边界外”也不等于任何人都不可能借助工具完成。研究者通过预试选择任务:一类使用较直接的提示就能得到有用、高质量输出;另一类则需要更多人的引导与介入,直接交给模型容易出错。

原文图1把这种不均匀性画成一条起伏的边界。它是一张概念图,作者明确说明并非具体任务和效应大小的实测地图。读者可以用它理解为什么需要逐项检查,却不能在图上找到“教师在里面、医生在外面”之类的职业坐标。

边界还依赖模型和任务安排。更换资料、调整流程或加入复核,都可能改变结果。这也是这篇论文比一句“AI有时会错”更有解释力的地方:问题不止是错误存在,而是人能否识别自己正在处理哪一种任务。

02 · 758名顾问如何进入比较

这是一项预注册的现场实验室实验:参与者是职业顾问,做的是与咨询工作相关、但由研究者组织和控制的任务。它与真实客户项目的长期追踪不同,研究设计用一定程度的情境控制换取更清楚的比较。§3,印刷pp.4–5 ↗

758人先被分到两个分支:385人进入边界内任务,373人进入边界外任务。两组没有人员重叠。每个分支中,参与者先完成不借助AI的评估任务,再分配到三种条件,完成主要实验任务。

第一种条件没有AI。第二种可以使用GPT-4。第三种使用相同工具,并获得提示使用概览,包括介绍如何使用的材料。研究通过公司定制平台提供模型,记录人与系统的互动,而非让参与者各自随意使用不同版本的聊天产品。

作者在尾注17报告,分入AI处理条件的参与者中,97.6%至少使用过一次AI。这说明分配到工具与实际接触之间的落差较小,但不意味着每个人使用频率、提示方式或采纳程度相同。尾注17,印刷p.19 ↗

这套安排使研究者可以比较工具可用性及概览材料的影响,也能参考基线表现。但不能把结果写成同一批顾问先在产品任务成功,再带着刚形成的信任在分析任务失败。这样的故事很顺,却没有对应的个体追踪设计。

控制条件为何重要?假如只看到AI组的方案质量不错,我们不知道没有工具的人本来能做到什么程度;假如只看到有人被AI误导,也不知道在同一任务上独立判断的错误有多少。收益和风险都必须回到相同任务下的比较。

这里还需要留意“专业人士”这一条件。职业顾问能为工作相关任务提供有价值的判断,但他们不是所有知识工作者的缩影。研究的说服力部分来自参与者真的熟悉这类工作,而它的外推范围也受这种职业背景限制。若换成初学者,人的独立基线、识别错误的能力和对建议的使用方式都可能改变。

实验比较也有层级。先按任务分支看,再按有无工具看,最后才看概览材料是否产生额外差异。若跨过这些层级,只拿全体顾问的一个平均值作结论,恰恰会把论文想揭示的边界重新抹平。

03 · 边界内:从鞋类构思到上市计划

边界内的主任务要求顾问为细分市场构思一种鞋类产品,展开原型描述、市场细分和上市计划,共有18个子任务。此前的基线评估使用饮料概念;两者主题不同,不能把饮料任务写成正式实验的主要产出。§4.1,印刷p.6/PDF7 ↗

18个子任务涵盖创意、分析、写作与说服。例如提出产品想法、划分市场、撰写宣传材料与内部说明。研究选择这些材料,是为了让参与者需要完成一段较完整的知识工作,而非只回答一道容易评判的选择题。

回答质量由人类评分者评价,每份被评分的回答有三位评分者,随后形成综合质量分。论文还使用GPT-4评分进行补充分析。两种评价来源需要分开;主要的人类评分结果不应被概括成“模型觉得自己的内容更好”。

质量评分针对没有留空的回答。于是,这里至少存在两个问题:一个人完成了多少,完成的那些回答有多好。研究分别报告完成率与质量,避免只用单个总分把覆盖范围和产出水平混在一起。

换到今天的专业任务,这种区分也很有用。AI可能让人写出更多候选方案,却没有改善每个方案的可信程度;也可能使已完成部分更好,但留下更多未处理项目。论文的设计提醒我们,应先明确什么算完成,再决定怎样评价质量。

04 · 三种收益,要用三种单位读

完成率方面,对照组平均完成约82%的任务,GPT-only组约91%,GPT加概览组约93%。作者综合报告的相对提升约为12.2%。这是完成率的相对增幅,不能改写成速度提高12.2%,也不是增加12.2个百分点。表5及正文,印刷p.8 ↗

质量方面,本次采用的正式文本概述为平均提高约32%。表4第一列的无AI基准约为4.375分,两种AI条件的系数分别约为1.307和1.482分。它们对应评分差异,与正确率不是同一种量尺。网络介绍中的旧版本数字不能直接移入本版。

概览材料在质量上还有额外收益:表4中GPT加概览组显著高于GPT-only组,不同模型设定的组间检验p值约为0.014–0.049。这些系数采用1–10分评分尺度;不能把1.482与1.307读成百分比,也不能由此认定概览在所有任务上都有效。表4,印刷p.8 ↗

时间指标则有一个容易遗漏的细节:最后一题特别长,参与者被要求使用完整的任务时间。因此作者测量的是到达第18题、已经完成前17题所用的时间,而非整场活动何时离场。表6及正文,印刷p.10 ↗

在这个窗口里,GPT加概览组比对照少用约1129秒,约18.8分钟,下降22.5%;GPT-only组少用约1388秒,约23.1分钟,下降27.6%。它们说明任务推进更快,但不直接等于一整天、一个项目或一个组织节省同样比例的工时。

把三个结果并排看,才接近论文的完整发现:这组任务中,人们完成更多、回答评分更高、推进也更快。若标题只能留下“效率提高”,正文仍需要把效率拆开,否则读者很难知道工具究竟改善了什么。

收益也并非只属于原本表现最好的人。作者按评估任务表现区分上下半组,发现较低表现者获益更大,较高表现者也有提升。这是特定基线与任务的分组结果,不是对人的永久能力排名。

在解释质量评分时,还应关心评分标准允许看见什么。创意、分析、写作和说服力都与咨询产出有关,但高评分不会自动证明建议在真实市场取得成功。实验观察的是规定任务下的产出表现,客户采用后的实施、成本与长期效果需要另外追踪。这个区别帮助我们既认真对待显著提升,也不过早把任务评分当作商业回报。

05 · 边界外:关键线索不只在数字里

另一分支先进行销售渠道分析作为评估,再进入品牌分析主任务。参与者需要结合财务数据和公司内部访谈,判断哪个品牌最有增长潜力,并提出改善建议。§4.2,印刷pp.10–11 ↗

任务设计的关键在于,电子表格看起来已经提供了充分信息,但访谈中含有影响判断的重要细节。只沿着表面数据形成建议,会错过这些线索。研究者在预试中确认,直接把材料和要求交给模型,容易得到错误结论。

这让研究从“能不能生成”转向“能不能判断”。一个回答可以满足格式、展开理由、提出行动,却仍然选错应该优先发展的品牌。对这部分,主要指标是正确性:建议正确记为1,错误记为0。

正文报告对照组正确率约84.5%,GPT-only约70.6%,GPT加概览约60%;合并两种AI条件,与对照相比平均低约19个百分点。表2保留两位小数,分别是0.84、0.71和0.60,属于描述性统计,不能据舍入值反算更精确的效果。

同一任务的速度也值得并排读。表8第一列显示,相对无AI组,GPT加概览组少用约689秒,即11.5分钟,约30%;GPT-only组少用约407秒,即6.8分钟,约18%。这里测的是提交前的总任务用时。组间差异在第一列的p值为0.022,加入控制变量的模型中更显著,因此不能把第一列数值一律配成p<0.001。表8,印刷p.12 ↗

这不是说所有分析工作都不能用AI。实验选择的正是一种模型容易失误的任务,而边界外分支只有这一项主要任务。它有力证明负面影响可以发生,却不足以告诉我们此类问题在全部咨询工作中有多常见。

概览组在这里表现更低,也不能直接引申为“培训越多越危险”。本研究的概览、模型、材料与任务有具体内容。若要判断什么培训有助于发现边界,需要直接比较训练是否教会人识别关键例外,而不只是帮助人更顺畅地调用工具。

可以把这项任务中的工作顺序重新展开:读材料、形成候选判断、发现冲突、权衡证据、提出行动。最后呈现为一份建议书,过程中却包含多种认知活动。模型在生成建议书上表现出色,并不保证在发现冲突这一步同样出色。把整个任务只命名为“写报告”,就会误判哪些地方需要人的判断。

这种误判不只发生在使用前。草稿越完整,人越可能把后续工作理解为润色,默认重要分析已经完成。这是值得后续检验的编辑假设:工具改变的可能不仅是产出,还包括人对剩余任务的理解。若想验证,就需要记录用户在哪一步返回材料、何时修改核心结论,而不只统计最后答案。

06 · 说得有道理,和结论正确可以分离

论文进一步检查建议的说服力与内部连贯性。评分者未被告知正确的战略答案,依据1–10分量表评价论证。表9第一列中,GPT加概览与GPT-only相对对照分别高出1.475和1.046分;图6再按答案正确与否分组,显示AI辅助下的表达优势也出现在错误答案中。表9、图6,印刷pp.12–14 ↗

把结果合起来,概览组在边界外任务中交卷更快、论证评分更高,正确率却更低。但不能把省下的11.5分钟说成少做了11.5分钟核查:研究没有单独测量核查时间,也没有验证“概览提高信心,再通过减少核查造成错误”的完整中介链。

对读者而言,这个分离比“模型会胡编”更值得警惕。明显混乱的输出容易触发检查;形式成熟、论证顺畅的输出,可能更容易被沿用。这里描述的是一种与结果相容的机制解释,实验没有单独随机操纵“被说服的程度”,再证明它造成全部错误。

作者讨论的核心风险,是人未能正确调用自己的能力:工具在某些步骤有帮助,但人没有识别它在哪个关键判断上不可靠。拥有专业经验与实际发现这一错误,是两个不同条件。

预注册也有具体范围。尾注5说明,实验已在OSF预注册,但“锯齿状边界”的概念框架与实验具体任务的详细描述不在预注册内容中。预注册不是对全文每一项解释的统一背书;理解证据时,需要区分预先登记的设计与后来用于组织结果的框架。尾注5,印刷p.18 ↗

我们可以据此区分两种复核。形式复核检查结构、语气和完整性;内容复核回到证据,检查某个决定是否依赖遗漏的信息。若二者被混成一个“检查过了”的勾选框,最容易留下的恰恰是后者。

这是编辑提出的工作分析,不是原实验已经验证的解决方案。它的价值在于让改进目标变具体:不要只要求参与者更加谨慎,而要规定哪一条建议必须能追回原始材料,哪种冲突会触发重新判断。

07 · 与“人机协同”和组织增强对读

第19篇Vaccaro等的元分析区分了增强与协同:增强只要求人使用AI后胜过人独立完成;协同要求组合胜过人和AI中原本较强的一方。这篇顾问实验主要提供有AI与无AI条件的比较,没有同等完整的AI独立基线。相关精读 ↗

因此,边界内的结果支持人的表现得到增强,却不能仅凭这些条件宣布组合超越双方独立能力。这个区别不会削弱已发现的收益,而是帮助我们准确描述已经回答了哪个问题。

第20篇Raisch与Krakowski讨论的是组织里自动化与增强如何相互影响。某个步骤交给系统,会改变邻近任务及后续学习。这篇实验则把镜头缩到任务表现,提供较清楚的因果比较。相关精读 ↗

两篇放在一起,可以形成一个更完整的研究问题:如果组织把边界内的部分交给AI,人是否会获得更多时间判断边界外的内容,还是连发现例外的机会也减少了?这需要长期的流程证据,不能用一次实验替组织回答。

原文参考文献中的其他协作方式研究,也不应全部收编为本篇结果。名称吸引人的人机分工类型,可以作为延伸阅读;在讲述这项正式实验时,仍应把任务、条件和实际测量放在中心。

这组文献还提示一种更细的比较方式。与其问“用了AI的人是不是更优秀”,不如问同一个流程中,哪些判断由谁提出,谁负责查证,最后是谁把相互冲突的信息整合起来。责任可以由组织规定,实际认知工作却未必照着规定发生,两者都值得观察。

例如,规定由人最后确认,并不能说明人真正重新计算或核查了证据。他可能只检查表达,也可能确实发现了关键例外。研究人机组合时,最后一次点击属于谁,和决定实际上怎样形成,是不同层次的信息。任务表现与过程记录结合,才更容易判断所谓“人在回路中”具体发挥了什么作用。

08 · 把边界变成一个可以检查的工作问题

以下是编辑设想。一个团队使用AI准备课程材料,可以先把工作拆成提出活动方案、匹配学习目标、核查事实、判断学生实际困难四部分。拆分的目的不是提前指定哪些归AI,而是避免用一个“备课质量”遮住不同判断。

先用一批有明确评价依据的任务,比较无AI与有AI的产出。对开放生成记录方案质量与多样性;对事实判断记录正确率与关键遗漏;另记复核和返工时间。若只计生成速度,工具可能把成本转移到了检查者身上。

再加入一种明确的复核安排。例如要求每项关键建议标出依据,并在不同材料冲突时暂停采用。比较这种安排是否改善正确性、增加多少时间,能否帮助较少经验者发现问题。这比统一要求“认真检查”更容易检验。

最后记录模型版本和任务条件。某次结果只能说明当时的组合怎样运行。工具升级后,旧边界可能移动;人员熟悉之后,操作策略也可能变化。定期重测应围绕最重要的判断,而不是每次重新制作一张笼统的职业风险表。

实验给我们的最实际提醒,是不要让上一项任务的成功,替下一项任务提供未经检查的信用。一次很好的使用经历,可以成为继续探索的理由;能否把下一步也交出去,还需要属于下一步的证据。

对一个刚开始试用AI的团队,还可以先从失败样本入手。收集几份表面完整、结论却需要修改的产出,追查错误出现在资料读取、关系判断还是建议整合。再收集几份工具确实节省时间的成功样本,避免评估只剩寻找问题。两类材料并置,才可能逐步形成属于当前工作的使用依据。

这样的记录不需要先给AI下一个整体结论。某一步值得采用,可以保留;另一判断需要独立完成,也可以明确。锯齿状边界提供的正是一种细致而可修订的态度:既记录已经得到的帮助,也不让帮助掩盖尚未掌握的判断。

原文与版本

Dell’Acqua, F., McFowland, E., III, Mollick, E., Lifshitz, H., Kellogg, K. C., Rajendran, S., Krayer, L., Candelon, F., & Lakhani, K. R. (2026). Navigating the jagged technological frontier: Field experimental evidence of the effects of artificial intelligence on knowledge worker productivity and quality. Organization Science. Advance online publication.

出版方题录与原文入口 ↗

本篇依据已归档Articles in Advance版,正文印刷pp.1–21,PDF含一页封面,PDF页序比印刷页码多1。核对关键概念、方法、正文结果及表2、4、5、6、8、9、图6与尾注5、17;未逐项核验独立Online Appendix或重跑数据。质量提升采用本版32%口径,开篇情境及课程应用为编辑延伸。

更新于2026-10-18 · v1.0 · 正式版。