「推理式思考」共找到 3038 篇相关文章
梳理SGLang中DP Attention及其Padding问题
作者梳理SGLang中DP Attention及其Padding问题。介绍DP Attention背景、流程，指出padding分max和sum模式，旧版sum padding浪费计算、影响cuda graph使用，v0.4.10后有优化，max padding仍待完善。
让64张卡像一张卡！浪潮信息发布新一代AI超节点，支持四大国产开源模型同时运行
浪潮信息发布新一代AI超节点“元脑SD200”，可让64张卡像一张卡。它支持四大国产开源模型同时运行，实现算力聚合突破，通过软硬协同优化提升推理性能，采用开放架构推动“智能平权”。
长上下文不再难：KV Cache 全生命周期优化实战
长上下文大语言模型发展带来计算和内存挑战，现有基准测试多忽视 KV 缓存完整生命周期。微软姜慧强在 AICon2025 分享 SCBench 工具，梳理推理优化方法，介绍 MInference 等，还提出 Tri - shape 方法等成果。
Gamma 创始人：小团队创业是共识，怎么做好才是最大的问题
AI创企Gamma 30人服务近5000万用户，ARR超5000万美元且持续盈利。创始人Grant Lee分享创业心得，包括小团队组织模式、重视通才、可持续业务理念、组织创新及应对PMF等问题的思路。
马斯克偷偷憋了个大招！Grok秒出《阿凡达》画质，好莱坞瑟瑟发抖？
马斯克又放大招，Grok即将推出「Imagine」视频功能，能加音效、配画面，支持多风格生成，可把图像转换为视频。它挑战谷歌Veo 3，生成速度快，操作体验好，还支持多方式创作。
突发！Qwen更新模型，全面超越kimi k2，强的离谱，主打Agent
Qwen小更新非推理模型性能强劲，各项指标超kimi k2，与Claude opus 4持平，Agent能力亮眼。Qwen团队告别混合思维模式，新模型上线，独立训练两模型，新版本多方面提升，团队称还有大招。
【访谈】在黑箱中寻找自我显影——对话苏仲尧｜三影堂厦门
苏仲尧个展《打开黑箱说亮话》聚焦摄影人机互动，引向对‘技术黑箱’思考。创作分三阶段，从文字照片到金属板，再结合AI。他将创作主导权回归自身，借作品探讨技术与人关系及当下处境。
苹果正在成为下一个诺基亚
彭博社爆料苹果深陷「史上最大AI危机」，高层警告苹果或成下一个黑莓或诺基亚。AI基础模型负责人被Meta天价挖走，高层老化、人才流失、新品挤牙膏式更新等问题凸显，苹果正面临衰落风险。
Jack Clark: 美国 AI 政策的隐形推手，时代的良心还是囚徒？
本文深入剖析Jack Clark，他关注中国AI进展，认可其成就，但对中国态度强硬。身为美国AI政策“民间沙皇”，他为美国遏制中国AI发展设计五层战略，文章探讨其进入AI核心圈原因、政策理念及背后悖论。
文心大模型 4.5 系列正式开源，涵盖 10 余款模型
6月30日，百度正式开源文心大模型4.5系列，含10款模型，实现预训练权重和推理代码全开源。可在飞桨星河社区等平台下载，百度实现框架与模型“双层开源”，技术创新多，性能表现优。