「大模型推理系统」共找到 9002 篇相关文章
关键技术详解｜腾讯一念 LLM 分布式推理优化实践
InfoQ 邀请袁镱分享《一念 LLM 分布式推理优化实践》。介绍了“一念 LLM”设计思路、推理优化挑战与突破等，还对比不同框架，指出优化方向，如先实现 PP，再推进 EP 与 PD 分离。
RecGPT-阿里的LLM推荐系统落地方案
文章介绍阿里RecGPT推荐系统落地方案，包括召回和推荐可解释性两方向。召回采用三塔结构，通过挖掘用户兴趣生成商品标签提升召回多样性。还提及行为序列压缩、推荐归因等，以及大模型微调和评估方法。
黄仁勋CES最新演讲：Rubin 今年上市，计算能力是 Blackwell 5 倍、Cursor 彻底改变英伟达软件开发方式、开源模型落后于先进模型约6个月
英伟达CEO黄仁勋在CES 2026演讲宣告AI从理解语言走向改造物理世界。他提及开源模型发展，还发布多款新品，如AlpaSim仿真框架、GROOT 1.6机器人模型、AI超算Vera Rubin等，凸显英伟达在AI领域的布局与野心。
AMI Labs 冯雁：AI 迈向现实世界，世界模型不可或缺 | ICML 2026
2026年7月7日，AMI Labs冯雁在ICML 2026带来特邀演讲，系统回答三个核心命题。她认为AI迈向现实世界，世界模型不可或缺，JEPA世界模型比生成式更具结构性优势，团队也取得系列关键突破。
数学编码超越O3-high，英伟达版「DeepSeek R1二代」推理模型开源~
Nvidia开源OpenReasoning-Nemotron系列模型合集，采用Qwen2.5架构，基于500万条轨迹训练。评测输出长度最高64K token，多版本刷新SOTA。其‘heavy’模式有独特能力，32B版在数学与编程基准超越O3（High）。
顶尖AI竟输给三岁宝宝，BabyVision测试暴露多模态模型硬伤
UniPat AI 等发布多模态理解评测集 BabyVision，测试显示多模态大模型纯视觉能力仅达三岁幼儿水平。其通过对比实验、细分任务评测，揭示模型系统性缺基础视觉能力，还给出新方向及发展建议。
Claude两个新模型实测流出！空间推理封神，算力直接榨干了
Claude两款新模型“棉花糖”和“甜瓜”实测流出，在3D强化学习和建筑空间布局上性能强大，还能直接理解并生成复杂3D坐标和空间关系。它们对算力吞噬疯狂，引发对其身份的猜测。
吴恩达新作：87%推理token用不着，丢掉反而快3倍
吴恩达新作Prefix Sliding指出，模型推理时丢弃中间已贬值token，只保留前缀+滑动窗口，无需训练可提速3倍，配合RL训练能将推理轨迹扩展到10万token以上。该方法为Agent场景提供新思路。
多模态卷王阶跃星辰Step 3登场，推理效率可达DeepSeek-R1 300%
新一代多模态推理基模Step 3登场，它采用原创MFA架构，具“多开好省”亮点，推理效率高、性价比优。7月31日将开源，能适配各芯片，还发起“模芯生态创新联盟”推动应用落地。
AI 编程 2025 总结：国产模型“能力追平”，国产编程工具还在“情感陪伴”
文章总结2025年AI编程发展，指出国产编程模型能力追平、工具与模型开放集成等六大趋势，同时提到AI替代重复劳动、提升核心能力门槛，呼吁2026年关注工程确定性。