开源动态8
openJiuwen 协同昇腾,Agent 推理效率飙升
机器之心
AI 摘要
openJiuwen 与昇腾合作,打造「算力亲和」技术,打通任务状态与资源调度。如在蜂群任务里缓存随任务流转,提升效率,测试显示首 token 时延降超 57%,存储峰值省约 25%。
阅读原文 · 机器之心
openJiuwen协同昇腾打造智能体「算力亲和」技术,首token时延砍半,推理存储占用下降25%
传统推理引擎难以理解 Agent 任务状态,导致推理时延久、显存占用高等问题。openJiuwen 协同昇腾打造智能体「算力亲和」技术,建立语义协同机制,优化 KV Cache 管理,提升 Agent 系统运行效率。

关注公众号
扫码关注
第一时间收到每日精选
相关文章
算法论文9
PoS破解Agent任务停滞难题
智能体执行长程任务时常出现持续行动却无实质进展的「信念受困」问题,南开大学联合阿里云等机构提出PoS方法,通过显式维护信念状态、检测受困并针对性恢复,在多基准任务中显著提升效果,代码已开源。
机器之心
新闻资讯8
字节Seed发现DeepSeek-V4周期性弱点
本文解读字节Seed团队的研究发现,解释了DeepSeek-V4模型因分块KV Cache压缩存在周期性性能波动,并给出普通用户可直接使用的应对技巧。
MacTalk
新闻资讯8
传英伟达拟收购Reflection AI
本文是InfoQ编译的科技播客访谈,Reflection AI由前Google DeepMind Gemini团队成员创立,近期发布了5010亿参数的开放大模型Beam,主打编程、推理和智能体任务,发布一周后传出英伟达拟收购该公司的消息,访谈中分享了对开放模型诸多问题的观点。
InfoQ
开源动态9
清华发布OSWorld-Science评测基准
本文针对AI能否自主操作科研软件完成真实科研任务的问题,介绍了清华大学牵头多机构推出的OSWorld-Science,这是面向真实科研场景的智能体评测基准,包含146项真实科研任务,评测了12个主流模型,曝光了当前智能体的能力短板,为领域研究提供了统一评测基础。
机器之心