UI‑TAU Bench 把生成界面接入数据库任务、用户补充与最终状态评测
10 月 8 日提交的 GenUI‑Harness 论文提出 UI‑TAU Bench:代理先查只读数据,GUI Coder 生成临时界面收集缺失信息,再由工具代理执行动作,以最终数据库状态评估完整人机任务。
为什么值得关注
生成式 UI 的价值不应只由截图、代码可执行或组件 schema 判断。该工作把检索证据、用户输入、界面提交载荷、工具动作和终态连接起来,并显式研究 LLM 评审奖励被表面可用界面欺骗的问题。
技术细节
UI‑TAU Bench 基于 10 个公共数据构建领域数据库,Lite 含 300 个任务、Full 含 1,000 个任务,要求生成的 React/TSX 界面暴露未决参数并支持下游动作。作者用 Dynamic UX 在隔离会话中执行界面,并以实际任务结果审计和修订 LLM 评审规则。Lite 上,GenUI‑Harness 跨九个共同 backbone 相对 smolagents 的宏平均 Pass@3 提高 4.48 个百分点(95% CI 2.37–6.59);专门训练的 4B 系统从 9.33% 提至 58.00%。在选择出的持续可用界面调查中,平均对话轮次从 3.4 降至 1.2。
适合哪些读者
研究生成式 UI 端到端任务评测、GUI 代码训练、用户模拟、奖励审计与数据库工具代理的团队
原始来源
- When Interfaces Speak paper and GenUI-Agent repository ↗arxiv.org
- Official GenUI-Agent training, evaluation and Dynamic UX code ↗github.com
修订与更正记录 (2)
— Paper full text and accompanying repository establish the benchmark, task design, reported results, reproducibility scope and explicit limitations; article includes a Full-split counterexample.
— Read original dated release/announcement/paper; matched existing events and supplementary sources with no duplicate. Preserved availability and evaluation limits; excluded unverified vendor impact claims and headline performance comparisons.