「有状态推理」共找到 7617 篇相关文章
MetaShuffling：Meta的Fused MoE kernel工程方案，更激进的Kernel优化和尽量避免Padding
文章介绍Meta的Fused MoE kernel工程方案MetaShuffling，可高效部署Llama 4模型。它处理MoE推理挑战，介绍多种token选择路由方案，阐述运行时设计、不同并行化方式及优化思路，还展示性能测试与Trace分析。
瘦身不降智！大模型训推效率提升30%，京东大模型开发计算研究登Nature旗下期刊
京东探索研究院大模型研究登Nature旗下期刊。其提出系统与方法，经四大创新使大模型推理提效30%、训练成本降70%。成果支撑JoyBuild平台，可帮企业将通用模型转化为专业模型，加速商业化落地。
谷歌NotebookLM终于说中文了！这可是最火的大模型播客产品
NotebookLM正在变成谷歌AI路线里靠谱选手，现支持中文播报且将推移动App。它能将音频源转化为类似播客的对话，有摘要等功能，音频概览功能受欢迎，底层是谷歌Gemini 2.5 Flash，实用性强，即将上线安卓和iOS版App 。
748GB内存、20P算力，英伟达把数据中心塞进了桌子底下，第一台已经送到Karpathy家里
英伟达DGX Station GB300首批系统交付开发者，首台给了Andrej Karpathy。它有748GB内存、20P算力，用GB300芯片架构。背后是长时运行自主智能体开发需本地算力，英伟达从软硬层面推进。
Moltbot实战：MoltBot+RDS AI助手Skill管理RDS实例
文章介绍Moltbot与阿里云RDS AI助手结合管理RDS实例。RDS AI助手能集数据库管理等为一体，Moltbot以轻量级框架霸榜GitHub。二者组合有自动化诊断和运维管理能力，还能定制运维知识库，文中给出对接步骤。
长视频会议纪要、访谈节目精剪AI神器
WhisperVideo是用于长篇幅、多说话人视频的简洁演示系统，专为真实对话构建。它有SAM3视频分割、TalkNet主动说话人检测等功能，具备视觉关联说话人归属等特性，文中还介绍了安装、运行等内容。
刚刚，DeepSeek新模型MODEL1曝光，3处架构升级！
DeepSeek更新FlashMLA时曝光新模型MODEL1，从diff看它在MLA KV-Cache存储与访问方式上和V3/V3.2系列有3个本质差异，如物理排布更紧凑、引入‘extra’两段式cache、头维固定512×512。
2025小结：从RL到Agentic RL
作者回顾2025年从RL到Agentic RL的发展，指出Agentic RL存在慢、不稳定、难scale的问题，还探讨了RL与推理、CoT的关系，以及RL的泛化能力，认为RL能提升模型能力但还不稳定，期待明年研究。
谷歌推出 Jules：一款基于 Gemini 2.5 的异步编程智能体
谷歌将异步智能编程助手 Jules 正式发布，它基于 Gemini 2.5 Pro 模型，可执行多种编程活动。采用异步模式，直接接入代码库。测试阶段开发者反馈多，正式版有三种访问层级，但部分用户对其界面和输出质量不满。
一文看尽世界机器人大会，不用去现场人挤人了
2025世界机器人大会精彩纷呈，有200余家企业及百余款新品参展。大会分ABC三区，展示全场景覆盖与全行业应用的机器人。除展品，园区还有五大活动。文章带读者云逛展，介绍各馆特色机器人与产品。