论文讲解 · 约 16 分钟 · AI 合成配音

AI 用得不对，只是使用者的问题吗？

Parasuraman & Riley (1997) · Humans and Automation: Use, Misuse, Disuse, Abuse
Human Factors 39(2): 230–253 · DOI ↗
开场 pp. 230–233
1987 · 巴尔的摩附近 · 列车
事故之后，司机仍在用胶带封住提醒超速的蜂鸣器
1994 · 俄亥俄州哥伦布附近 · 飞机
习惯依赖自动驾驶，雪夜进近没有监控空速
不理会报警
太依赖自动化
都是“人没用好机器”？
老师是太信 AI，还是太不愿意用？（编辑设想）
HUMAN FACTORS · 39(2): 230–253 · 1997
Humans and Automation: Use, Misuse, Disuse, Abuse
《人与自动化：使用、误用、弃用、不当引入》
Raja Parasuraman（美国天主教大学）· Victor Riley（Honeywell 技术中心）
实验模拟任务报警的数学分析事故材料
一篇综述 · 没有代表全文的新实验样本
交出去的，是哪一项功能 pp. 231–232
定义 · p. 231
自动化 = 由机器（通常是计算机）执行原本由人完成的功能
汽车启动马达自动电梯→已被看成普通机器
今天的自动化 ≈ 明天的普通机器
自动化不是全有或全无
完全手动
完全自动 · 只看到结果
Sheridan 十级 · 第七级
机器执行，再告知操作者；操作者改不了输出
AI 标出可疑引用
教师决定改不改
AI 直接改写引用
教师事后才看到
AI 替教师提交
教师只看到结果
三种安排为编辑示例 · 只统计“用没用 AI”看不出这些差别
p. 231
自动化没有取代人的活动，而是改变了工作的性质，常常在设计者意料之外
聚焦：个人任务表现团队 · 组织 · 社会政治：未详细讨论
四个词，把问题放在不同的地方 pp. 230、233–234、246
使用 · use
主动启用或关闭自动化；描述选择，不保证选得对
误用 · misuse
过度依赖：不该用时用，或没有有效监控
弃用 · disuse
忽视或未充分利用：无视、关掉报警与安全系统
不当引入 · abuse
设计者、管理者引入自动化时，没充分考虑对人的表现与权限的影响
abuse ≠ 用户滥用
这里的“人”包括
操作者设计者主管管理者监管者
p. 233
这些词不贬低任何一方
四种人格从落后到成熟的四个阶段
同一个人、同一个安排
依赖功能 A、关掉功能 B；一个不合理的安排，可能同时造成误用和弃用
p. 233
多数事故有多重原因；多数情况下，用或不用并不明显是错的
工具不错，为什么有人不用 pp. 234–238
问卷里的
态度
≠
多任务中的
实际依赖
两项研究：两者没有关系（pp. 234–235）
只靠问卷，很难预测人会怎么用
越忙越用？Riley 的实验
跟踪任务 · 难度 ↑→分类任务用不用自动化？→没有变化
大学生飞行员重做
作者的保留
难度操纵可能太弱，任务太简单
模拟飞行 · 飞行员自述
工作负荷是最重要的两个因素之一；个人差别很大
认知开销：决定要不要用，本身也费力
只有一页纸
扫描 + 设置 + 改错 → 不如直接打字
很多页
才会考虑 OCR（p. 236）
Kirlik 的双任务研究 · p. 236
没有一位参与者按设想使用自动驾驶。模型算入手动能力、启动时间、次要任务被耽误的代价：
某些条件下，不用才最优
Lee & Moray · p. 237
对自己手动的信心 > 对自动化的信任 → 手动；否则 → 自动
依赖
信任
自信
风险
任务复杂度
疲劳
状态学习
原文图 1 · 实线 = 实验支持，虚线 = 假设或因系统而异（此处只列部分节点）
因素多、彼此交互、个体差异大 → 难以预测个人
误用：有人看着，为什么还会漏 pp. 239–243
自动化偏差
遗漏错误
系统没提示 → 人没发现问题
执行错误
系统给了不合适的指令 → 人照着做
学生 ≈ 职业飞行员：偏差错误率相近（p. 240）
p. 240
人不天生是糟糕的监控者：空管、重症监护中，监控通常很有效率
跟踪 · 手动燃料管理 · 手动发动机状态 · 自动：找出它漏掉的故障
发动机任务自己手动做> 70%
交给自动化 · 可靠性恒定明显下降
另一个实验 · 只做监控> 95%
“明显下降”为原文措辞，正文未给数值（p. 241）
原文图 2 · 走势示意（未读取具体数值）
纵轴是人的发现率，不是机器准确率
挪到屏幕中央叠在主任务上关键在注意力
普通显示 · 四个圆形仪表
发现约 1/3
整合显示 · 偏离水平线
约 两倍
手动发现率已先匹配（p. 242）
40 分钟自动 → 10 分钟手动 → 后续监控变好
特定模拟任务的结果，不是通用时间表（pp. 242–243）
弃用：提醒越响，越没人理 pp. 244–246
报警阈值的取舍
放松阈值
少漏报，多误报
收紧阈值
少误报，可能漏掉危险
真有危险时
系统报警的概率
基准率
系统报警时
真有危险的概率
命中率 99.9%误报率 5.94%基准率 0.1%
原文示例（d′ = 4.7，p. 245）
有危险 ≈ 10
报警 ≈ 10
无危险 ≈ 9990
误报 ≈ 593
换算成一万次检测机会 · 本片演算
约 603 次报警
真对应危险的 ≈ 10 次，不到 2%
原文：约每 59 次报警 1 次为真（.0168）；按所列参数直接算约 .0166
“狼来了”
许多操作者无视、关掉报警（p. 245）
Getty 等 · 1995
报警为真的概率 .75 → .25：反应越来越慢
设计时要算进去
阈值 · 基准率 · 误报的信任代价 · 可考虑分级报警（“有可能” → “很确定”）
“检测很准”的 AI 工具，接着问
它报告的是哪一种概率？在什么基准率下成立？误报由谁来处理？
编辑延伸
不当引入：决定已经写进系统 pp. 246–248
以技术为中心的做法
能省钱 · 比人准→自动化→剩下的交给人
p. 247
移出操作者 ≠ 移出人的错误：自动化是用设计者替换了操作者
越不怕操作者出错↔越怕设计者出错
轮载传感器
传感器：起落架着地？→才允许打开减速装置
原意
防止在空中误操作
传感器失灵
最需要时用不了
原文：至少一起严重事件、一起事故（p. 247）
马里兰州盖瑟斯堡 · 列车
大雪 · 轨道积雪→自动速度控制减速不足→撞上停着的列车
调查认定的重要因素 · p. 247
司机因天气恶劣请求手动驾驶 → 管理方拒绝
自动化也可以替代管理者
循环（pp. 246、248）
误报太多 → 操作者不用
出了事 → 归咎操作者
给自动化更大权限
更不信任 → 设法绕过
↘
↙
↖
↗
这些证据能撑多强的判断 本片分析 · pp. 233、240–242、249
实验
比较条件
模型
推算最优选择
数学分析
解释报警概率
事故材料
展示真实后果
可以互相提问，不能互相替代
监控变差 → 信任过高？
也可能：注意力被占用 · 检查成本高 · 系统状态不容易看出
一起联锁失效 ≠ 联锁应当取消
结论里的一条建议 · p. 249
过度依赖 → 可能缺乏手动信心 → 培训，或评估是否适合岗位
同一页的立场 · p. 249
目的不是归咎设计者、管理者或操作者
分类不会自动分配责任 · 仍需具体的任务标准
叙述性综述没有系统检索报告没有汇总效应量以当时的航空与控制系统为主
可以继承
提问方式
不能直接搬走
效果大小
生成式 AI 的开放输出、版本变化、核查标准，需要重新研究
带回今天 pp. 248–250 · 后半为编辑延伸
使用
了解自动化怎么工作；开关不费时费力
误用
状态反馈足够醒目，也足够具体，能有效介入
弃用
报警设计考虑基准率与误报的后续影响
不当引入
按人的职责与能力定义角色，而不是剩下什么给什么
保持主动参与，即使表现不如全自动（p. 249）
“由教师最后把关”的三个检查点
1
看得见什么
每条引用的出处
2
来不来得及判断
留出复核的时间
3
判断后改不改得动
能暂缓提交、改流程
三者缺一，把关可能只停在口头上
Lee & See · 适当依赖
依赖要和系统的实际能力、和人能做的检查相匹配
结论 · p. 249
目的不是归咎任何一方，而是指出：复杂的环境与个体差异，让自动化以不同于预期的方式被使用
本集
Parasuraman & Riley · 人与自动化
使用 · 误用 · 弃用 · 不当引入
点播放开始，或者直接点下面的章节跳过去看
0:00

动手试试

跟着当前章节变化。点一点，看看条件一换，结果怎么变。

本章讲稿

点任意一句，从那里开始播放。