AI推理加速」共找到 10974 篇相关文章

8

大模型思维链推理速度倍增!——RoT新框架把思维链「画」进隐空间

随着大模型规模扩展,思维链(CoT)成处理复杂推理任务标准范式,但显式CoT依赖长序列生成,隐式CoT面临优化挑战。腾讯提出RoT新框架,利用视觉编码器将文本推理步骤转为视觉嵌入,实现Token压缩与推理加速,且过程可分析。

腾讯技术工程
推荐文章7

深入剖析AI公司正在面临的:「囚徒困境」

文章指出AI模型训练成本虽下降,但运营成本尤其是推理费用飙升,使AI公司陷入两难。用户只青睐最强模型,且模型资源消耗远超预期,订阅模式难以为继,还给出了避免亏损的三条出路。

AINLPer
算法论文8

Nature | 清华&芝大团队:AI让个体科学家“加速”,却让科学边界“收缩”

2026年1月14日,清华与芝大团队在《Nature》发表研究,通过分析4100余万篇论文,揭示AI融入科研的“双重效应”:它是个人科研“加速器”,让使用者产出和职业发展提升;也是科学整体“收缩器”,使集体知识疆域收窄。

力学与人工智能
开源动态8

全球首个历史基准!普林复旦打造AI历史助手,AI破圈人文学科

普林斯顿大学AI实验室与复旦大学历史学系联手推出全球首个历史领域评测基准HistBench及AI助手HistAgent。HistBench含414道题,能检验AI深度认知能力;HistAgent集成多种工具,在测试中表现优异。

新智元
新闻资讯7

DSpark推理速度提升80%后,OpenAI宣布新方法将推理成本降低了一半

近日,OpenAI 工程师开发优化技术,将模型推理成本降一半。业内猜测或基于公开成果,也有人认为是模型量化。此前 DeepSeek 推出 DSpark,使 V4 模型推理速度提升 60%-85%,还引入峰谷定价机制。

AI科技评论
7

AI 原生初创公司,都把钱花在了哪些 AI 产品上?

a16z与Mercury合作调研,基于超20万客户数据库,分析2025年6 - 8月支出模式,筛选出50家AI应用层公司。榜单揭示AI在产品与工作流的落地情况,显示早期创业公司愿买单的AI应用方向。

特工宇宙
开源动态8

Meta联手UCSD发布DeepConf:计算成本暴降85%,99.9%准确率!

Meta AI联合UCSD推出DeepConf技术,解决了AI高难度推理准确率与计算成本的难题。它让AI学会“察言观色”,筛选靠谱推理路径,在AIME 2025竞赛中与GPT - OSS - 120B模型取得99.9%准确率,还节省大量计算资源。

AIGC开放社区
算法论文8

告别「盲目自信」,CCD:扩散语言模型推理新SOTA

华为小艺香港团队等研究人员提出上下文一致性解码算法(CCD)。它解决传统DLM推理“短视”和采样预算固化问题,在开源DLMs上实现3.48倍加速和3.9%性能提升,适配多种解码设定。

机器之心
新闻资讯7

Cursor一夜翻车,AI 300万代码写浏览器被打假!全网群嘲「AI泔水」

Cursor宣称GPT - 5.2连肝7天造出浏览器,但开发者发现其代码无法编译,是缺乏工程逻辑的“AI泔水”。这一行为激怒开发者,也揭示AI编程需明确分工,未来软件开发靠“开挂工程师”带领AI

新智元
新闻资讯7

科学界爆发AI认知污染!1年狂投50篇论文,ICLR投稿20%AI生成

如今AI正污染科学界,出现幽灵引用、虚假数据和图片等问题。论文工厂用模板量产造假论文,审稿人用AI应对,作者还用密令操控AI审稿。预印本平台投稿量暴涨,可能沦为垃圾场,引发认知污染。

新智元