算法论文7
VIR-Bench:评测大模型旅行视频理解能力
机器之心
AI 摘要
日本团队提出 VIR-Bench 评估基准,测 AI 对旅行视频地理和时间理解。实验发现开源落后商用,模型规模、地理预训练等影响性能,当前模型仍有不足,指明进化方向。
阅读原文 · 机器之心
AI能否「圣地巡礼」?多模态大模型全新评估基准VIR-Bench来了
来自日本高校和企业团队提出多模态大模型评估基准 VIR-Bench,用于评测 AI 对旅行视频中地理位置与时间顺序的理解。它将任务拆解,构建数据集,实验显示模型虽有改进但性能远未达标,指明了大模型进化方向。

关注公众号
扫码关注
第一时间收到每日精选
相关文章
算法论文8
RefCaptioner 让视频与参考图精准对应
多模态大模型处理多参考图与视频对应关系能力不足。为此提出 RefCaptioner,强化模型对参考图识别感应能力、优化输出格式与奖励函数;还构建 MRVBench 评测基准,实验显示其表现优异。
机器之心
算法论文8
研究:Agent技能评估体系亟待完善
这篇来自Rutgers大学和UNC Charlotte的survey,首次系统梳理Agent技能的进化与评估全貌,覆盖19种技能进化方法和10个评估基准。指出当前评估体系有诸多不足,如无法追踪技能多轮反馈后是否变好等。
PaperAgent
开源动态8
上海交大开源 HLL,测 Agent 验证码处理能力
随着多模态大模型发展,Web Agent 面临验证码挑战。上海交通大学等团队发布 HLL 评测基准,解耦真实度为三维度,对 8 款前沿模型测试,揭示 Agent 在多步交互微操上的短板。
深度学习自然语言处理
算法论文8
Octopus:大模型持续学习新解法
上海交通大学与vivo团队提出全新持续学习框架Octopus,首创无需历史数据的梯度正交化技术。实验显示,它在UCIT基准上表现超SOTA方法,还实现正向后向迁移,适合端侧部署。
量子位