「低延迟推理」共找到 2954 篇相关文章
拜拜了GUI！中科院团队“LLM友好”计算机使用接口来了
中科院软件所团队研究指出，现有LLM智能体成功率低、效率差的瓶颈在于GUI。其设计与LLM能力错配，团队提出声明式接口GOI，实现策略 - 机制分离，经测试性能提升显著。
数据集蒸馏，连发两篇顶会！10%样本实现全量性能，鲁棒不失真
数据集蒸馏能让模型高效节能，WMDD和GUARD两项研究分别解决保留原始数据特性、提升模型对抗扰动能力问题。WMDD用Wasserstein度量保留几何特性，GUARD平滑损失景观获对抗鲁棒性。
Flash-Searcher：Web Agent的并行革命
当下Web智能体用顺序执行链解决复杂任务存在执行和信息利用率低的问题。为此提出Flash - Searcher，以DAG并行执行机制为核心，提升执行吞吐与速度，在多基准上表现优，代码已开源。
Anthropic新模型杀疯了！成本直降 2/3、性能直逼GPT-5，用户实测：比“吹”的还强，速度超 Sonnet 3.5 倍
Anthropic发布Claude Haiku 4.5版本，成本降2/3、性能逼近GPT - 5，速度超Sonnet 3.5倍。该模型已全平台上线，可处理大文件，安全对齐性佳。它能与Sonnet协同，适用于企业与软件开发，Anthropic业务也在爆发式增长。
8000行Python+Rust手搓ChatGPT，日收14.5k星！Karpathy：Agent只会帮倒忙
特斯拉前AI总监Andrej Karpathy发布开源项目nanochat，可搭建简易版ChatGPT复现模型。约8000行代码，成本低，功能多。卡帕西称手写代码，用Agent效果差，项目受网友热赞。
景不动人动，MLLM如何面对「移步换景」的真实世界？OST-Bench揭示多模态大模型在线时空理解短板
上海多所高校研究者提出 OST - Bench，从智能体探索场景动态在线视角挑战大模型能力。它更贴近真实世界，揭示主流多模态大模型在线时空理解短板，为未来模型发展指明方向。
重磅！Claude Sonnet 4.5发布，可连续编程30小时，Claude Code同款构建工具也开放了
Anthropic发布Claude Sonnet 4.5，官方称是全球最强代码、复杂智能体构建及擅用计算机的模型。伴随产品全家桶升级，还开放Claude Code构建工具，发布Imagine with Claude。该模型能力强且更安全。
最好的 DeepResearch 平替开源了
ROMA是元代理框架，以递归分层结构解决复杂问题，有并行问题解决、透明开发等优势。它通过计划 - 执行循环处理任务，介绍了安装选项、技术栈，还有预构建代理展示功能。
DeepSeek 新模型曝光，即将发布
据彭博社消息，年初凭 R1 模型震动全球的 DeepSeek 正开发全新 AI Agent 模型，创始人推动团队在今年四季度发布。该模型能代表用户执行多步骤操作、基于过往行为学习改进，行业也在向 Agent 软件转型。
CNCF 孵化用于 Kubernetes 边缘计算的 OpenYurt 项目
云原生计算基金会（CNCF）宣布 OpenYurt 加入其孵化项目名单。该开源平台由阿里巴巴 2020 年创建，将 Kubernetes 扩展到边缘计算环境，保持与上游 API 兼容，能减少延迟、提高可靠性。