「推理框架开发」共找到 4650 篇相关文章
国内首次！8.9毫秒推理速度破纪录，1元打穿百万token
在2025人工智能计算大会上，浪潮信息发布元脑SD200和元脑HC1000两款AI服务器。前者让DeepSeek R1的Token生成速度达8.9毫秒，后者将推理成本降至1元/百万Token，解决了AI智能体速度与成本难题。
扩散LLM推理新范式：打破生成长度限制，实现动态自适应调节
随着扩散大语言模型成为热门，但其推理时存在预设固定长度的限制。香港中文大学 MMLab 等提出 DAEDAL，赋予模型根据问题自主调整回答长度的能力，在性能和计算效率上有提升。
模型「漂移」新范式，何恺明新作让生成模型无须迭代推理
训练生成模型复杂，传统扩散模型训练费时费力。何恺明团队提出「漂移模型」新范式，不依赖微分方程，支持一步推理，实验验证其在多领域性能佳，有望解决生成式AI质量与效率权衡问题。
告别黑箱解释！首个潜变量自动解释框架 | CIKM'25
深度生成模型内部运作如「黑箱」，潜变量意义难捉摸。埃默里大学团队提出LatentExplainer框架，经数据扰动、智能提示、不确定性评估三步，为潜变量生成易懂解释，提升模型解释质量与可靠性。
Cursor也挖人了：Claude Code开发主管和产品经理被一锅端
编程神器Cursor母公司Anysphere挖到合作伙伴Anthropic两名前核心高管，原Claude Code开发负责人和产品经理将分别任Cursor首席架构师和产品负责人。这或使两家合作关系微妙，AI编程领域竞争激烈。
极简RL新范式：一半算力刷新1.5B模型推理SOTA
过去为提升中小参数量模型推理能力，开发者构建复杂RL流水线。JustRL论文提出极简、单阶段、固定超参训练方案，在两主流1.5B模型上刷新SOTA，节省2倍算力，消融实验还揭示部分技巧会致性能退化。
疯狂……韩国开发出强大的核灾难处理人形机器人。丑，但实用
韩国原子能研究院正开发用于核灾难响应和废料处理的人形机器人，目标是能举200公斤重物。与其他机器人相比，其举重能力优势明显。不过在真实核灾难现场应用还需长期测试。
6.5k星！轻量级多智能体对话编排框架Agent Squad
Agent Squad是轻量级多智能体对话编排框架，有6.5k星。它能管理多AI代理、处理复杂对话，具智能意图分类等特性。新SupervisorAgent可协调多专业代理，还有演示应用及多种使用示例。
「有望成为Transformer杀手」，谷歌DeepMind新架构MoR实现两倍推理速度
谷歌DeepMind发布新架构MoR，有望成Transformer杀手。它统一实现参数共享、自适应计算，兼顾性能与效率。实验显示其推理吞吐量提升，降低计算需求，但能否取代Transformer存疑。
AI Agent也有体检中心了？诊断级安全框架AgentDoG正式开源
上海人工智能实验室今日开源全球首个具深度诊断能力的AI智能体安全护栏框架AgentDoG。它能精准定位风险、解释决策成因。团队提出三维风险分类法，构建数据合成管道，实验表现领先，还集成归因模块。