搜索：并行推理加速

「并行推理加速」共找到 2748 篇相关文章

烧2万亿美元却难用？Gary Marcus狂喷AI赛道不靠谱：推理模型只是“模仿秀”，OpenAI一年后倒闭？

知名AI专家Gary Marcus在访谈中称，世界在神经网络投入巨资，但大语言模型无法实现AGI目标。他指出其推理模型是“模仿秀”，会出现幻觉，还预测OpenAI或被微软收购。

中国科学院自动化研究所联合美团提出单阶段监督 - 强化微调方法 SRFT，结合监督微调与强化微调，解决传统两阶段方法的不足，在多任务中提升推理和泛化能力。

北大、港中文等团队提出原生3D编辑框架VGGT-Edit，不再绕回2D，直接在3D空间编辑。它采用残差场预测等机制，在DeltaScene测试集表现出色，单次编辑约5秒，最高120倍加速。

今年 WWDC 大会上，苹果推出专为增强 Apple Intelligence 功能的语言基座模型，含约 3B 参数紧凑型与基于服务器的混合专家模型。经优化可在苹果芯片高效运行，改进工具使用与推理能力，评测显示设备端模型表现优。

南京大学、腾讯优图实验室和新加坡国立大学发布DiP框架，即将开源。该框架不依赖VAE，仅增0.3%参数量，推理提效10倍，在ImageNet获1.79的FID分数，解决扩散模型在像素空间难兼顾质效的问题。

2025年8月26日上海AI实验室开源发布书生·万象InternVL3.5，通过创新技术实现推理、部署和通用能力全面升级。它有多种尺寸模型，多项性能领先，还加强了智能体核心能力，应用场景广泛。

大型语言模型（LLMs）的思维链（CoT）推理能力被视为突破性进展，但论文揭示CoT可能只是数据分布内的模式匹配幻象，通过实验证明其在分布偏移时表现急剧退化，挑战主流认知。

如今未实现AI自我提升，一旦实现将是重大突破。但它不会突然飞跃，而是缓慢持续的过程。不同领域提升难度有别，科学进步受现实实验速度限制，AI自我提升更可能是缓慢加速进程。

ICLR 2026顶会文章提出全新大模型代码优化方案，切入代码优化核心难题。该方案将代码优化率提至71.06%，加速比达6.08x，正确性提至74.54%，有很强工程可用性。

阿里巴巴未来生活实验室团队解决多模态大模型视频推理难题，推出ReWatch数据集和ReWatch - R1模型。数据集克服现有训练数据痛点，模型用SFT + RL范式及创新奖励机制，实验成绩SOTA。