研究评测研究论文

LiveUIBench 用完整工作流检验“代理即应用”

10 月 20 日提交的 LiveUIBench 把生成应用的验收从界面可打开,扩展到提交、修改、跨应用共享状态及回访后的完整工作流。

为什么值得关注

生成式界面可能通过许多局部检查,却没有完成用户目标。该研究要求同一序列中的可见结果、服务操作、保存状态和目标记录同时正确。

技术细节

LiveUIAgent 生成连接界面、动作目标和持久信息的编排,由共享运行时继续执行后续请求。LiveUIBench 在 Spotify、Amazon、Gmail、Phone、Venmo、Splitwise、Todoist、Simple Note 和文件系统上设置 500 个任务、10,590 项断言,含 302 个单应用、130 个多工具及 68 个共享世界任务。作者报告所有模型的完整工作流完成率都偏低;最高总体 FWR 为 19.60%,且局部断言覆盖更高并不保证完成更多工作流。

适合哪些读者

生成式 UI、代理应用运行时、持久状态与端到端评测团队

原始来源

修订与更正记录 (1)

— New original research discovered outside the existing source directory; full paper and submission record verified, with attributed results, explicit limitations and counterexamples.

相关事件

研究评测

另一项 VeriCUA 把 GUI 任务验收改为主动取证,并允许证据不足时弃权

Google 与香港大学团队 10 月 29 日提交了一项同名但独立的 VeriCUA:验证器先查看环境或轨迹建立任务 rubric,再用 GUI、无障碍树、文件、数据库等只读检查补齐证据,并把需求判为满足、违反或未知。在线实验中,它在 AndroidWorld、OSWorld 与 ScienceBoard 上均降低了相对基线的假阳性。

研究评测

GUI‑JEPA 用候选隐空间打分替代逐 token 动作解码

10 月 27 日提交的 GUI‑JEPA 面向移动 GUI 单步动作选择:它把无标签界面截图预训练得到的 JEPA 表征按候选动作和区域变换,在一次批处理中为无障碍树候选打分,不再让 7B 视觉语言模型逐 token 生成动作。

研究评测

TAM 把已核验的任务进展变成 GUI 代理的在线状态与可复用操作

10 月 27 日提交的 Task Advancement Memory(TAM)把“已经可靠完成了什么”同时用于当前任务压缩和跨任务学习:任务内维护可核验的进展、剩余目标与视觉证据,任务后从局部成功片段中提炼可复用操作,即使整条工作流最终失败。