“看起来没问题”：智能体输出中的静默缺陷如何逃过人工监督
10 月 20 日提交的一项受控研究发现，开发者在智能体生成代码含有不显眼缺陷时仍常保持高信心，界面活动与最终批准不能单独证明监督有效。
事件 原文发布 本站收录 最后核验
为什么值得关注
生成式界面的确认、预览和状态指示只有在用户能识别关键错误时才有意义；把“用户点了批准”直接解释为“用户理解并验证了结果”会高估监督能力。
技术细节
研究先进行 12 人形成性观察，再让 36 名参与者完成 6 个短 Python 任务，得到 214 个可用任务结果。71 个含静默缺陷的任务中，28 个被修复、43 个未解决；这 43 个失败任务里有 34 个（79%）仍被评为 4/5 或 5/5 信心。静默缺陷修复率从首轮 27.8% 升至第二轮 51.4%，但任务间范围为 8%–75%。
适合哪些读者
设计审批、预览、代码代理监督和高风险生成式界面的产品与研究团队
原始来源
修订与更正记录 (1)
— Historical catch-up: the original PDF now provides study denominators, confidence results and limitations.