搜索：端侧推理模型

「端侧推理模型」共找到 8117 篇相关文章

OpenAI自曝：AI推理砸钱越多，碾压人类越狠！

OpenAI研究员探讨推理模型时代。Noam Brown强调预训练和推理范式，指出当前AI胜在通用性。推理范式成本低、效果好，如o系列模型表现出色。首席经济学家谈AI经济影响，称其重塑企业格局。

新研究揭示思维链CoT会分散模型「注意力」，使大模型推理时易出错。研究指出在需遵守指令任务中，用CoT推理模型准确率下降，还总结了四大模式，并提出四种缓解策略。

随着AI发展，大语言模型处理复杂推理任务能力提升，但推理时产生大量中间步骤和文本，拖慢计算速度、增加资源压力。浙大、蚂蚁等机构研究者提出LightThinker，可动态压缩推理步骤，降低内存占用和计算成本。

The Information记者爆料OpenAI即将推出的Astra模型采用“recurrent depth”新推理方法，该技术能降本提效，但引发AI安全与可观测性担忧。清华与字节论文解决了循环模型“算力不公平”问题，并给出Scaling Law。

上周阿里发布Qwen3.5中等规模超强模型，现又推出端侧小模型，获马斯克称赞。其智能密度翻倍且原生多模态，各型号有Base版。不同参数模型性能出色，阿里布局完整生态链，开启智能化未来。

当下AI难形成商业闭环，端侧AI或为落地答案。芯原股份戴伟民看好端侧AI市场，认为未来端侧推理需求或超云端训练，还指出AI眼镜、玩具、智能汽车等增量市场，同时介绍了芯原布局。

2025年，空间智能成大模型竞争新热点，模型在室内基准上分数飙升。但因训练与测试数据同源，其提升或只是“背答案”。中科院大学等机构发布OSI - Bench重新审视大模型空间能力，评测显示当前提升可能是虚假繁荣。

10月14日蚂蚁集团发布万亿参数思考模型Ring-1T，在多领域表现出色，推理能力直逼闭源巨头。此前已开源旗舰通用大模型Ling-1T。还介绍了训练技术创新，虽模型有不足，但开源夺冠证明‘思考力’可工程化。

WAIC期间，蚂蚁数科金融推理大模型发布会未开，论文已上线。其新模型Agentar - Fin - R1有8B和32B版，在金融测评集超DeepSeek等，还兼顾专业与通用，蚂蚁数科还提出评测基准Finova。

中国人民大学等联合团队研究发现，大模型推理有“信息脉冲”，特定步骤互信息值飙升形成“互信息峰值”，对应“思考词汇”。基于此提出无需额外训练提升推理性能的方法，代码已开源。