「低延迟推理」共找到 2941 篇相关文章
刚刚，OpenAI前CTO Mira Murati公司Thinking Machines Lab发文，揭开了大模型不确定性的真相
OpenAI前CTO Mira Murati创立的Thinking Machines Lab推出研究博客Connectionism，首篇文章聚焦LLM推理的非确定性问题。研究发现真正原因是批次不变性缺失，提出实现批次不变内核的方案，实验效果显著。
ClockBench：一个简单的钟表测试让AI全线溃败
ClockBench测试让11个多模态大模型与5个普通人认钟表时间，人类平均准确率89.1%，最好的AI仅13.3%。AI在复杂钟面表现差，却能处理抽象指令。该测试暴露视觉AI空间推理缺陷，对评估有启发。
美团也开源了大模型，但我觉得他们的野心是通用生活Agent。
美团发布并开源560B参数的MoE模型LongCat - Flash - Chat，推理速度快。与DeepSeek V3对比，输出速度优势明显。美团多个落地或内测AI功能服务C端生活场景，目标是打造通用生活Agent。
GPT-5通关《宝可梦水晶》创纪录！9517步击败赤爷，效率碾压o3三倍！
GPT-5通关《宝可梦水晶》创纪录，仅9517步击败赤爷，步数为o3的三分之一。它在主线任务效率也远超o3，如收集徽章、对战四天王等。其优势在于幻觉少、空间推理和目标规划能力强。
中国科学PMA|西工大张伟伟、索玮、宋家豪、曹文博：PINNs的局限性讨论与微分方程智能求解展望
物理信息神经网络（PINNs）是求解偏微分方程的热点方法，有统一处理正、反问题等优点，但也存在求解精度低、普适性差等局限。文章剖析其失效根源，展望了改进方向，为构建微分方程智能求解框架提供参考。
Theory of Agent：构造知行合一的智能体
当前AI（如ChatGPT）存在行为随机性、效率黑洞等问题，论文指出AI缺乏认知地基，需明确认知框架。还提出革命性等式“推理 = 行动”，分析了知识与决策边界，给出最优行为四象限，介绍落地路径和未来发展方向。
8B模型任务击败GPT-5？阶跃星辰开源Deep Think新框架，小模型解锁百万Token测试时计算
阶跃星辰推出并行协同推理框架PaCoRe，让大模型突破上下文窗口和处理速度限制。基于此框架，小模型能解锁百万级Token测试时计算。PaCoRe - 8B在数学基准测试中超越GPT - 5，还具备前沿性能、“综合”能力涌现等优势。
NVIDIA港大MIT联合推出Fast-dLLM v2：端到端吞吐量提升2.5倍
自回归大语言模型推理效率受限，Fast - dLLM v2 由 NVIDIA、港大、MIT 联合推出。它将预训练 AR 模型适配为能并行解码的 Block - dLLM，用约 1B tokens 微调，端到端吞吐量最高提升 2.5 倍，精度相当。
百度Qianfan-VL开源，纯国产自研昆仑芯跑出世界一流
百度开源全新视觉理解模型Qianfan-VL，有3B、8B和70B三个版本，在昆仑芯P800芯片上训练。该模型多模态能力强，OCR和教育场景表现突出，跑分超国际主流模型。芯片功耗低、架构优，模型训练方法创新。
OpenAI夺金IOI，但输给3位中国高中生
OpenAI官宣其推理模型在今年IOI线上竞赛中成绩刷新纪录，总分533.29，全球330名人类选手中排第六，AI参赛者中居首。不过其没比过三位中国高中生。此前OpenAI称模型获IMO金牌引争议，此次网友更谨慎。