「推理时纠错」共找到 2632 篇相关文章
从 0 到 1 做一款 AI 产品：技术怎么搭、成本如何控制、销售策略怎么定？
独立开发者 Arvid Kahl 分享从零构建 AI 播客产品 Podscan 及「节俭工程」经验，涵盖技术搭建、成本控制与销售策略调整。如用小众云服务降成本，从 PLG 转向 SLG 等，为小团队创业者提供实用借鉴。
研究者警告：强化学习暗藏「策略悬崖」危机，AI对齐的根本性挑战浮现
强化学习是大模型推理与对齐的核心方法，但常带来模型行为脆弱等问题。上海人工智能实验室徐兴成博士论文揭示‘策略悬崖’挑战，分析其成因，解释多种对齐失败现象，并提出对AI研究的启示。
梳理SGLang中DP Attention及其Padding问题
作者梳理SGLang中DP Attention及其Padding问题。介绍DP Attention背景、流程，指出padding分max和sum模式，旧版sum padding浪费计算、影响cuda graph使用，v0.4.10后有优化，max padding仍待完善。
让64张卡像一张卡！浪潮信息发布新一代AI超节点，支持四大国产开源模型同时运行
浪潮信息发布新一代AI超节点“元脑SD200”，可让64张卡像一张卡。它支持四大国产开源模型同时运行，实现算力聚合突破，通过软硬协同优化提升推理性能，采用开放架构推动“智能平权”。
长上下文不再难：KV Cache 全生命周期优化实战
长上下文大语言模型发展带来计算和内存挑战，现有基准测试多忽视 KV 缓存完整生命周期。微软姜慧强在 AICon2025 分享 SCBench 工具，梳理推理优化方法，介绍 MInference 等，还提出 Tri - shape 方法等成果。
全球首个多智能体Eigent开源！内置200+MCP，支持SSO企业级
OWL团队开源多智能体Manus类工具Eigent，能多智能体协作处理复杂任务。它可整合工具和数据，处理任务时清晰拆解执行。有多种预定义智能体，内置200+MCP工具，还支持人工干预。
突发！Qwen更新模型，全面超越kimi k2，强的离谱，主打Agent
Qwen小更新非推理模型性能强劲，各项指标超kimi k2，与Claude opus 4持平，Agent能力亮眼。Qwen团队告别混合思维模式，新模型上线，独立训练两模型，新版本多方面提升，团队称还有大招。
Open AI 新模型在 IMO 2025 上获得金牌！
OpenAI新模型在2025年国际数学奥林匹克（IMO）中达金牌水平，测试时不借助工具、不连互联网，且不太可能存在数据污染。该模型解决6题中的5题，非GPT - 5，近期也不发布。
千卡集群破壁之道：vivo视觉多模态大模型训练效率跃迁实战
多模态大模型在多领域需求增长，但千卡级 GPU 训练挑战大。vivo AI 架构师王兆雄在大会演讲，结合 LLaVA 和 DiT 模型实践，解析优化策略，分享提升训练效率与稳定性的经验，还展望了 AI Infra 未来。
长篇动画上色稳如老狗！全新开源LongAnimation
动画上色是制作长篇动画时“烧脑”又“烧钱”的环节，现有AI主流方法多为局部处理，易导致色彩漂移、风格不统一。中国科学技术大学团队提出动态全局 - 局部范式，构建LongAnimation框架，可确保长动画色彩一致。