「高效推理」共找到 2494 篇相关文章
月吞100万亿Token！AI中转站OpenRouter赚爆了
OpenRouter宣布完成1.13亿美元B轮融资，估值达13亿美元。它每周处理25万亿个tokens，全球用户超800万。其提供AI推理统一控制层，解决企业多模型管理难题，开源模型崛起使其价值凸显。
英伟达改卖Token？黄仁勋GTC后发声：token就是AI新通货，值钱的不是算力，是“每度电的智商”
英伟达黄仁勋在采访中强调其是加速计算公司，非单纯 GPU 公司。他认为 AI 竞赛从拼算力变拼产出，token 是新通货，还阐述了 AI 瓶颈、架构发展、推理编程、CPU 角色等观点。
想让机器人春晚包饺子？阿里达摩院：别急，先把「大脑」优化一下
阿里达摩院推出 RynnBrain 模型，从底层出发将时空记忆和物理空间推理训进模型，在 16 项具身 Benchmark 上达 SOTA。还开源 7 个模型，解决通用大模型在物理世界的局限，在多项任务表现出色。
首个真正“能用”的LLM游戏Agent诞生！可实时高频决策，思维链还全程可见
超参数科技推出全新游戏智能体COTA，它由大模型原生驱动，操作似职业选手，决策如教练，推理链路清晰。在自研FPS游戏Demo中表现出色，还打破‘不可能三角’，有望重构游戏人机关系。
不止于量化：最新综述用「时-空-构」三维视角解构KV Cache系统级优化
随着LLM向1M上下文演进，KV cache成推理服务效率核心瓶颈。墨尔本大学和华中科技大学研究者发布深度综述，用「时间 - 空间 - 结构」视角梳理KV cache优化方法，还归纳关键观察、提出开放挑战，并整理了资源库。
GPT-5「降智」真相曝光：不是变笨，而是五个超级开关没激活
新智元报道，OpenAI最新提示工程指南揭秘调教GPT - 5的方法。通过调整自主探索倾向、推理深度等五个开关，可让GPT - 5从偶尔靠谱变全能，还介绍了元提示小技巧解锁其潜力。
九天大模型大变身：性能狂飙35%！还能一键P大象
7月26日，中国移动在2025世界人工智能大会发布「九天」基础大模型3.0，端到端技术全面升级，复杂推理能力提升35%，智能体调用效率提升21%，还推出代码、数学等专项大模型，多模态能力也焕新。
GraphRAG还在持续进化，FlowRAG让证据链自己流起来
上海AI Lab和华东师大论文提出FlowRAG，它是GraphRAG变体，把RAG检索从按相似度排文本块推向沿证据流找推理路径。在多数据集上表现不错，虽平均Relevance低于LinearRAG，但更能保证证据链完整。
DeepSeek不惜代价保住它！V4关键特性被挖出来了
DeepSeek V4技术报告被深挖，为保留核心设计「batch invariance」不惜代价。该设计能保证线上推理稳定、各环节对齐，是复杂上下文系统底座，但会牺牲GPU利用率等，换来训练等多阶段可复现和稳定度。
A2A：多智能体的协作总线
文章介绍了A2A协议，它是多智能体系统的“协作总线”，能让不同智能体安全高效协作。阐述其核心使命、与MCP区别、核心概念、工作流实例，还描绘了“智能体社会”愿景，并给出基于官方文档的实现示例。