「实时推理」共找到 2344 篇相关文章
链式思维是幻象吗？从数据分布视角重新审视大模型推理，马斯克回复，Grok破防
亚利桑那州立大学研究发现，思维链（CoT）推理可能只是对训练数据分布内模式的复现，输入与训练数据分布有差异时，推理链条会失效。研究探究了CoT泛化性等问题，对实际应用提出警示。
童年的滚球兽「走进」现实？华为天才少年创业，全球首个虚实融合的实时交互视频模型来了
Xmax AI 推出全球首个虚实融合实时交互视频模型 X1，通过手机摄像头实现虚拟与现实融合。它有四大玩法，操作简单。但面临多技术挑战，Xmax AI 团队实力强，给出硬核技术方案，愿景是让 AI 融入生活。
解决VLA模型落地难，普通硬件也能跑！全透明全开源的高效VLA模型把推理成本砍掉76%
2026年4月，中山大学与MBZUAI联合推出A₁模型，它是完全开源透明、自适应高效的截断式视觉 - 语言 - 动作模型，能削减推理成本、实现低成本落地，在仿真与真机上表现优异。
Shopee OnePiece：业内首个融合上下文工程、隐式推理和多目标训练策略的生成式搜推建模框架
2025年生成式推荐发展火热，但工业界落地多在序列化建模，替换传统范式遇阻。Shopee傅聪团队联合人大高瓴学院提出OnePiece范式，是业内首个融合多策略的生成式搜推建模框架，含上下文工程、隐式推理和多目标训练策略。
老黄在CES 2026 上预言：将要告别应用软件的预编译时代，未来的应用是 GPU 上实时生成每一个像素
黄仁勋在CES 2026预言，应用将告别预编译时代，在GPU上实时生成像素。他回顾2025年AI关键进展，介绍Agentic AI特点与能力，还谈了其搭建及应用前景，指出未来软件或基于Agent交互。
Token洪流的转向：当AI Agent成为Token消耗的主宰，什么样的推理服务基础设施才是刚需
Token消耗量转移，AI Agent成Token消耗主宰，大模型推理服务底层逻辑重塑。文章介绍AI Agent时代范式转变、对推理基础设施的需求，还阐述了为其打造的AI Serving Stack架构及优势，它获2025年度相关卓越奖。
大神Karpathy都投的AI实时视频生成模型：直播都能立即转，无限时长几乎零延迟
AI初创公司Decart推出首个零延迟无限实时视频生成的AI模型MirageLSD，大神Karpathy都投资了。它能实时生成视频流，无时长限制且延迟低至40毫秒以下，还攻克了传统模型‘误差累积’难题。
视频实时生成可交互！ 两位自动驾驶大牛创业世界模型：40毫秒/帧，无需任何游戏引擎，人人免费可玩
李飞飞押注的世界模型领域有新成果，Odyssey公司由两位自动驾驶大牛创立。其AI无需游戏引擎，40毫秒/帧实时生成视频，玩家能实时交互。虽处于早期预览版，但已展现潜力，世界模型或成竞争热点。
超越GPT-4o！华人团队新框架让Qwen跨领域推理提升10%，刷新12项基准测试
加拿大滑铁卢大学与TikTok新加坡的华人团队提出全新训练框架General - Reasoner，让Qwen系列大模型跨领域推理准确率提升近10%，在多项基准测试中超越GPT - 4o。该框架有全领域推理数据集和生成式答案验证器两大创新。
仅保留35% Token，性能反超原模型！快手可灵等用视觉信息引导音频压缩，推理时间直降42%
Omni - LLM计算浪费严重，快手可灵等团队提出OmniSIFT框架。它利用音视频非对称依赖关系，通过时空联合剪枝压缩视频、视觉引导筛选音频Token，大幅减少Token数量，提升性能和推理效率。