研究评测研究论文

RELIEF 把真实交互反馈变成生成 UI 的修订训练数据

10 月 20 日修订的 RELIEF 研究用编码代理按反馈改写生成界面,再把改进嵌回原始生成轨迹,用于微调代码生成模型。

为什么值得关注

许多可用性问题只有在点击、填写和完成任务时出现;这项工作把交互后反馈连接到模型训练,而不只是在第一张截图上打分。

技术细节

作者构建了 200 个合成网站、355 段交互记录和 24 名参与者的数据,并比较代码检查、自动交互、显式用户反馈与从人类交互记录推断的批评。实验覆盖 Qwen 27B 与 Inkling 两个代码生成模型;在其测试设置中,从人类交互记录推断的批评在两个模型家族都获得最高观察到的 Elo。

适合哪些读者

生成式 UI 训练、交互反馈、可用性评测与代码模型团队

原始来源

修订与更正记录 (1)

— Primary paper verifies the revision method, dataset, feedback sources, results and explicit limitations.

相关事件

研究评测

另一项 VeriCUA 把 GUI 任务验收改为主动取证,并允许证据不足时弃权

Google 与香港大学团队 10 月 29 日提交了一项同名但独立的 VeriCUA:验证器先查看环境或轨迹建立任务 rubric,再用 GUI、无障碍树、文件、数据库等只读检查补齐证据,并把需求判为满足、违反或未知。在线实验中,它在 AndroidWorld、OSWorld 与 ScienceBoard 上均降低了相对基线的假阳性。

研究评测

GUI‑JEPA 用候选隐空间打分替代逐 token 动作解码

10 月 27 日提交的 GUI‑JEPA 面向移动 GUI 单步动作选择:它把无标签界面截图预训练得到的 JEPA 表征按候选动作和区域变换,在一次批处理中为无障碍树候选打分,不再让 7B 视觉语言模型逐 token 生成动作。

研究评测

TAM 把已核验的任务进展变成 GUI 代理的在线状态与可复用操作

10 月 27 日提交的 Task Advancement Memory(TAM)把“已经可靠完成了什么”同时用于当前任务压缩和跨任务学习:任务内维护可核验的进展、剩余目标与视觉证据,任务后从局部成功片段中提炼可复用操作,即使整条工作流最终失败。