LiveUIBench 用完整工作流检验“代理即应用”
10 月 20 日提交的 LiveUIBench 把生成应用的验收从界面可打开,扩展到提交、修改、跨应用共享状态及回访后的完整工作流。
为什么值得关注
生成式界面可能通过许多局部检查,却没有完成用户目标。该研究要求同一序列中的可见结果、服务操作、保存状态和目标记录同时正确。
技术细节
LiveUIAgent 生成连接界面、动作目标和持久信息的编排,由共享运行时继续执行后续请求。LiveUIBench 在 Spotify、Amazon、Gmail、Phone、Venmo、Splitwise、Todoist、Simple Note 和文件系统上设置 500 个任务、10,590 项断言,含 302 个单应用、130 个多工具及 68 个共享世界任务。作者报告所有模型的完整工作流完成率都偏低;最高总体 FWR 为 19.60%,且局部断言覆盖更高并不保证完成更多工作流。
适合哪些读者
生成式 UI、代理应用运行时、持久状态与端到端评测团队
原始来源
修订与更正记录 (1)
— New original research discovered outside the existing source directory; full paper and submission record verified, with attributed results, explicit limitations and counterexamples.