搜索：推理加速技术

「推理加速技术」共找到 4901 篇相关文章

美团开源Agentic新王，速度拉满，工具调用打爆Kimi？

周末美团开源LongCat - Flash大模型，参数量560B，推理速度达100 token/s，成本低，在Agent工具调用表现超Kimi - K2。它有Zero - Computation Experts和ScMoE创新，不过市场表现未获太多认可。

蚂蚁开源新模型CGM，首创将仓库代码图模态融入大模型，不依赖闭源模型和复杂Agent，仅需4步就能快速定位、生成补丁。它在多个测试基准中领先，技术论文等均已开源。

Google DeepMind CEO 预测 5 到 10 年有 50% 概率实现 AGI。本期《万有引力》直播对话将探讨通往 AGI 之路的教训。6 月 27 日，唐小引将对话刘嘉，从其学术轨迹解答 AI 路上的教训，还会剖析技术路径。

7月24日，中科院计算所“知境”团队发布知境社会心智大模型技术体系，为现有大模型补社会心智短板。其建评测体系SoMBench，设计训练系统Zing，用部署架构Actio，在多评测超越GPT - 5.5等，应用前景广。

大模型后训练阶段，SFT 和 RL 各有优劣。微软等联合提出新工作，量化 SFT 和 RL 在数据层面的差距，提出 IDFT 和 Hinted Decoding 等高效后训练技术，实验显示新方法泛化超 SFT、效率超 RL。

在高分辨率三维形状生成中，传统方式有计算与内存瓶颈。南京大学提出Direct3D - S2框架，基于稀疏体积构建，有空间稀疏注意力机制，加速计算，还引入统一格式VAE，生成质量领先，训练成本更低。

北京时间昨夜今晨，微软Build 2025开发者大会Day 1开场，CEO萨提亚·纳德拉透露“智能体网络”概念。大会展示微软在开发者工具、办公中枢、云平台等多方面进展，还宣布Microsoft Discovery平台加速科学突破。

AI科技评论独家消息，开普勒机器人联合创始人胡德波2026年4月成立索塔无界。该公司聚焦通用基座模型，以统一潜空间世界动作模型为核心，提出物理智能大脑技术路线，已与欧美企业达成合作意向。

传统小目标检测问题多，2026年4月FSDETR论文提出频空融合法，用14.7M参数获13.9% APS成绩。它有SHAB、DA - AIFI、FSFPN三个核心模块，还给出训练、推理及导出ONNX部署代码。

本文聚焦Multi - Agents模拟预测这一AI前沿方向，介绍其发展、原理、应用场景及代表公司。它能为人类社会建可反复运行的“世界模型”，虽潜力大，但面临验证难、技术瓶颈等问题。