「低延迟推理」共找到 2941 篇相关文章
AI翻译的「最后一公里」
文章指出文化差异成AI翻译难题，通用大模型数据不平衡，存在“算法霸权”。如处理低资源语言，AI易产生幻觉，还因无肉身难理解基于生理体验的隐喻，人机协作才是翻译未来。
7篇顶会NeurIPS 2025最佳论文都说了什么？
NeurIPS 2025七篇获奖论文揭示大模型思维同质化、推理能力虚幻边界等隐忧，也在注意力机制、神经扩展定律等方面取得物理学层面突破，为AI建立更严谨科学地基。
R1时代，RAG-Retrieval技术总结与展望~
RAG - Retrieval提供全链路RAG检索模型微调、推理及蒸馏代码，支持多模型、多loss和训练方式。还发布模型技术报告，设计评估框架，未来探索RL在检索领域应用。
Transformer祖传设计遭暴击，COLM顶会三篇论文发难
COLM 2026上，三篇论文对Transformer关键技术发难。《Cracks in the Foundation》指出长上下文架构选择影响大；《Lost in Backpropagation》揭示输出投影层信息损耗严重；《When Fewer Layers Break More Chains》表明层剪枝影响长链推理。
如何训练VLA？丰田研究院发布史上最大实验规模「保姆级」教程
丰田研究院和清华大学发布教程，用大量数据训练89个策略模型并验证。聚焦Co - training，研究五大模态、三种策略，对比不同架构，揭示有效和无效模态，还探讨CoT推理及多方面实验。
缓存命中率99.93%！DeepSeek最适合的Harness来了，GitHub狂揽8.6万Star
DeepSeek官方版Harness未出，民间开源编程Agent「Pi」先火。它适配DeepSeek，让其缓存不命中率低至0.03%，调用成本大降。Composio测试显示Pi完成任务平均成本最低。同时，DeepSeek正组建团队做官方Harness。
有人把巴菲特芒格炼化成Agent，然后开源了…
AI Hedge Fund项目将12位世界级投资大佬“炼化”成Agent，可实时分析股票、完善交易策略，还内置回测模块。它兼容13种大模型，部署门槛低，开源后获高星。不过多数框架未实盘，投资有风险。
刚刚国产双响炮炸场！智谱「牛来模型」和阿里Qwen3.8-Flash双双亮相屠榜
智谱发布GLM - 5.3 - Flash（牛来模型），原生多模态，支持1M token上下文，运行在国产芯片，价格实惠。阿里开源Qwen3.8 - Flash - Next权重，成本低性能优，在四大维度重构架构。
Anthropic新模型偷「吃瓜」！最强Fable 5爆冷
Anthropic提前曝光两个新模型claude-mashmallow-eap和claude-melon-eap，早期实测Marshmallow更佳。此前上线的最强Fable 5爆冷，企业调用少，营收低，其弟Opus 5反而胜出，开源模型也在抢占份额。
Karpathy刚进Anthropic，转头又投了它
AI初创公司Engram成立8个月，估值达6亿美金，获9800万美元融资。它聚焦AI记忆，用Cartridges技术降内存、提速度，将推理和记忆层拆开，团队成员背景强大，押注AI范式新转向。