「推理任务」共找到 3607 篇相关文章
梳理SGLang中DP Attention及其Padding问题
作者梳理SGLang中DP Attention及其Padding问题。介绍DP Attention背景、流程，指出padding分max和sum模式，旧版sum padding浪费计算、影响cuda graph使用，v0.4.10后有优化，max padding仍待完善。
让64张卡像一张卡！浪潮信息发布新一代AI超节点，支持四大国产开源模型同时运行
浪潮信息发布新一代AI超节点“元脑SD200”，可让64张卡像一张卡。它支持四大国产开源模型同时运行，实现算力聚合突破，通过软硬协同优化提升推理性能，采用开放架构推动“智能平权”。
挤不动的世界机器人大会上，自变量秀出了真·通用具身智能
2025世界机器人大会上，自变量机器人展示多项成果。通用轮式双臂机器人“小量”“小白”能完成制作香囊、家务整理等任务；“量子2号”仿人形机器人动作精准自然；其具身智能基座模型WALL - A有强大泛化性。
长上下文不再难：KV Cache 全生命周期优化实战
长上下文大语言模型发展带来计算和内存挑战，现有基准测试多忽视 KV 缓存完整生命周期。微软姜慧强在 AICon2025 分享 SCBench 工具，梳理推理优化方法，介绍 MInference 等，还提出 Tri - shape 方法等成果。
LeCun出手，造出视频世界模型，挑战英伟达COSMOS
训练有效世界模型面临数据、任务难度、算力消耗和评估等难题。Meta研究者提出通用视频世界模型DINO - world，可预测未来帧，在多方面有优势，实验显示其性能显著，能降低对标注数据需求。
最强开源Agent！Kimi K2接入Claude Code，爽翻～【喂饭级教程+实测】
上周五Kimi开源最新旗舰模型K2，它是1000B参数MoE大模型，专为Agent场景优化，API已上线且兼容多API。文章给出Kimi - K2接入Claude Code的喂饭级教程及实测，实测显示组合表现有亮点也有不足。
文心大模型 4.5 系列正式开源，涵盖 10 余款模型
6月30日，百度正式开源文心大模型4.5系列，含10款模型，实现预训练权重和推理代码全开源。可在飞桨星河社区等平台下载，百度实现框架与模型“双层开源”，技术创新多，性能表现优。
「超级智能」终极拼图曝光！小扎连撬OpenAI灵魂研究员，Meta梦之队已成形
扎克伯格从OpenAI等机构挖来九位AI顶级人才，涵盖数据、模型、推理等领域，组建无短板「梦之队」，全力冲刺Meta通向超级智能的最后一跃。此前Meta曾高价挖角OpenAI联合创始人，均遭拒绝。
将思维链（CoT）引入具身世界，哪种路径能真正打通机器人「知行合一」？
文章围绕将思维链（CoT）引入具身智能领域展开。介绍CoT从语言层面到成为机器人行为核心认知机制的转变，分析分层架构与端到端模型两种技术路径，还阐述自变量机器人统一架构的优势和能力。
刚刚，谷歌AI路线图曝光：竟要抛弃注意力机制？Transformer有致命缺陷！
谷歌未来AI路线图曝光，Gemini全模态是重点，模型向智能体转变，推理能力将扩展。谷歌还需突破现有注意力机制限制实现无限上下文。此外，文中盘点了OpenAI、DeepSeek等大厂AI年中表现。