「延迟遗憾」共找到 210 篇相关文章
“边说边思考”，Mini-Omni-Reasoner 开创实时语音推理新范式
Mini - Omni - Reasoner将推理能力引入大型语音模型，开创“边说边思考”范式，实现实时语音推理与交互。推出Spoken - Math - Problems - 3M数据集，经四阶段生成流程构建。训练采用分阶段策略，性能超基础模型。
NextStep-1：一次在图像生成上自回归范式的探索
阶跃星辰团队探索自回归图像生成新路径，推出 NextStep-1。它直接在连续视觉空间自回归生成，架构简洁，实现端到端训练。模型有高保真生成和编辑能力，Benchmark 表现佳，但也面临稳定性等挑战。
南开 && UIUC | SearchAgent-X，打破「效率瓶颈」，让复杂「AI搜索智能体」走向现实
南开大学和伊利诺伊大学厄巴纳 - 香槟分校的研究提出SearchAgent - X框架，解决大型语言模型驱动的搜索智能体效率痛点。它剖析制约效率的原因，通过两大‘加速引擎’优化性能，实验显示效果显著。
KTransformers入选计算机系统顶会、与主流框架合作，趋境&清华让「异构」成为推理新范式
KTransformers由趋境科技与清华团队联合研发，是高性能异构推理框架。其论文入选SOSP 2025，还与SGLang合作。它有算子优化等创新，能让CPU与GPU协同，推动推理架构融合，已成广泛复用的底层框架。
“像把大象塞进冰箱一样困难”，端侧大模型是噱头还是未来？
InfoQ《极客有约》X AICon 直播聚焦端侧大模型，探讨其落地挑战与破局思路。专家指出端侧部署有隐私、可用性等优势，但面临内存、精度等难题。华为、支付宝等分享方案，还探讨应用场景、商业模式及未来趋势。
为MoE解绑：全新「专家即服务」推理架构发布，超细粒度扩展锐减37.5%成本
近年来大模型推理开销增长，MoE架构虽能避免计算量同比增，但带来扩展性差、容错性低、负载不均等问题。为此作者提出全新「专家即服务」推理架构EaaS，实验显示它能锐减37.5%成本。
提速30倍，Meta重新定义了新一代RAG！
LLM时代，RAG成知识密集型任务标准范式，但处理长上下文时面临延迟高、内存贵问题。Meta超级智能Lab针对RAG特殊结构优化，提出REFRAG框架，有独特训练策略，实验效果显著。
16K星 Zep凭一张“动态记忆图”吊打一众Graph RAG
现有的RAG框架多依赖静态文档检索，无法满足企业对动态知识整合的需求。本次分享的Zep提供新型智能体记忆层服务，通过核心组件Graphiti动态整合数据，在LongMemEval基准测试中表现出色。
世界首个「实时、无限」扩散视频生成模型，Karpathy投资站台
Decart发布世界首个「实时、无限」扩散视频模型MirageLSD，输入视频流能快速转化画面，前特斯拉AI总监Karpathy投资。它在时长和延迟上有突破，也有需改进之处。
ICLR 2025新成果：文档检索“降本增效”，从此“开挂”
传统文档检索系统处理视觉信息丰富的文档存在瓶颈，ColPali方法直接从文档页面图像生成多向量嵌入，简化流程、提高性能、降低延迟。ColQwen - Omni在其架构上扩展到图文+音频多模态匹配。