「推理框架开发」共找到 4680 篇相关文章
MetaShuffling：Meta的Fused MoE kernel工程方案，更激进的Kernel优化和尽量避免Padding
文章介绍Meta的Fused MoE kernel工程方案MetaShuffling，可高效部署Llama 4模型。它处理MoE推理挑战，介绍多种token选择路由方案，阐述运行时设计、不同并行化方式及优化思路，还展示性能测试与Trace分析。
GPT-5.6曝光了！OpenAI砸钱宣战：换掉Claude Code
GPT-5.5发布三周，GPT-5.6曝光且进入开发全速阶段，预计下月亮相。OpenAI本周四将上线「ultrafast模式」，速度提升2 - 3倍。Codex与Claude Code全面开战，OpenAI砸钱吸引开发者，AI自我加速与商业化形成正反馈。
748GB内存、20P算力，英伟达把数据中心塞进了桌子底下，第一台已经送到Karpathy家里
英伟达DGX Station GB300首批系统交付开发者，首台给了Andrej Karpathy。它有748GB内存、20P算力，用GB300芯片架构。背后是长时运行自主智能体开发需本地算力，英伟达从软硬层面推进。
OpenAI为龙虾紧急收购了一家23人公司
OpenAI前脚挖来龙虾之父，后脚收购专注AI安全与评测的初创公司Promptfoo。该公司开源评测框架流行，有30多万开发者用户。收购后将补齐OpenAI在‘龙虾安全’方面关键一环，且继续保持开源。
拒绝传统 Router“瞎指挥”，多智能体如何实现智能任务分配？
企业级多智能体系统瓶颈常是负责分发任务的传统 Router 太“傻”，搞不定跨域、解不了冲突、跟不上变化。腾讯云开源 TCAR 智能路由模型，它先推理再选 Agent 集合，经多数据集评测表现出色，还提供完整开源范式。
不止是 Claude Code 平替：这个开源 CLI 还支持“多模型协作 + 子代理并行”
Kode 定位是在终端中完成代码库理解、文件编辑、命令执行等开发流程，有三大亮点：将多模型协作设为核心能力；支持 AGENTS.md 文档模式；终端体验好，有强大的补全系统。还介绍了使用方法和适用人群。
从「塑料人」到「有血有肉」：角色动画的物理革命，PhysRig实现更真实、更自然的动画角色变形效果
当前主流绑定技术LBS有体积丢失等问题，影响动画真实感。UIUC与Stability AI联合提出PhysRig框架，用可微分物理模拟实现更真实自然的动画角色变形，还能做动作迁移，未来将开源并封装为插件。
英伟达、港大等发布创新KV缓存，实现扩散模型无训练加速
多数开源扩散语言模型推理效率不如自回归模型，英伟达、港大、麻省理工研究人员联合提出Fast - dLLM。它用近似KV缓存机制减少冗余计算，还提出基于置信度的平行解码策略，测试显示能加速且保持生成质量。
华为盘古首次露出，昇腾原生72B MoE架构，SuperCLUE千亿内模型并列国内第一
当前传统 MoE 有专家激活不均衡问题，华为盘古团队提出 MoGE 解决。基于此架构的盘古 Pro MoE 大模型在昇腾集群高效训练，推理性能强，在 SuperCLUE 榜单千亿内模型并列国内第一，赋能业务落地。
GitHub Copilot新代理把「自家人」逼疯了！
GitHub Copilot新智能体Coding Agent公测，官方想让它成协作开发搭子。但在微软仓库使用时问题多，多次提交失败、逻辑不通，未解决关键问题，虽能自动完成繁琐任务，但距‘靠谱搭子’还远。