「推理性能优化」共找到 4157 篇相关文章
Deepseek 正式发布 V3.1：混合推理，Agent能力大幅提高，token消耗减半
Deepseek正式发布Deepseek V3.1，采用混合推理，支持双模式切换，上下文扩展到128k，API支持Claude Code调用。工具与Agent能力提升，思考效率更高，token消耗减半，官方渠道全面升级，9月6号起调整价格。
统一框架下的具身多模态推理：自变量机器人让AI放下海德格尔的锤子
当前先进机器人无法像人类自如用工具，现有多模态系统有局限。自变量机器人提出端到端统一架构，以统一表示学习和多任务多模态生成解锁具身多模态推理能力，实现范式转换。
Cloudflare 用 Rust 重写核心系统：CDN 性能提升 25%，响应时间缩短 10 毫秒
Cloudflare 宣布用 Rust 重写核心子系统，响应时间缩短 10 毫秒、性能提升 25%。基于代理框架 Oxy 构建 FL2，创建中间层让 Rust 模块在旧系统运行，还制定测试发布策略及回退机制。
英伟达推理服务器被曝高危漏洞，云端AI模型被攻击直接裸奔
安全研究机构Wiz Research曝光英伟达Triton推理服务器一组高危漏洞链，可组合利用实现远程代码执行，造成模型被盗、数据泄露等后果。英伟达已发布补丁，25.07版本前系统有风险。
马斯克脑机接口，靠意念玩游戏只是基操，下一代设备性能翻三倍
近日，马斯克转发帖子，Neuralink植入脑芯片患者能用意念玩游戏。全球21人参与其临床试验，患者借此控制设备，生活改变。下一代设备性能将提升三倍，2026年或推出，还在开发复明设备。
拆解、对比与优化：LLM工具智能体的五种任务规划与执行模式
文章探讨了大语言模型驱动的AI智能体的五种任务规划与执行模式，包括ReAct、Plan-and-Execute、静态Workflow、Workflow+局部智能、模块化的分层规划，分析其优缺点、适用场景，还给出优化方法。
Meta 新成立超级智能实验室，让大模型RAG推理速度飙升30倍
Meta新成立超级智能实验室（MSL），首篇论文REFRAG将RAG推理速度提升30倍以上。它先把上下文压缩成摘要再解码，减少计算量和延迟，在多任务测试中表现出色，为大模型部署提供实用方案。
性能提升 10 倍，零改造实现 DIFY 模式迁移至 Spring AI Alibaba 模式
文章深度讲解如何将 Dify 平台开发的应用导出为 Spring AI Alibaba 工程。先介绍两者特点，后通过示例展示转换过程，还阐述迁移收益，如扩展灵活、性能提升 10 倍，最后提及 Spring AI 后续计划。
多模态扩散模型开始爆发，这次是高速可控还能学习推理的LaViDa
近期基于扩散模型的视觉 - 语言模型 LaViDa 出现，它继承扩散语言模型优点。与自回归模型不同，扩散模型能并行、处理双向上下文。LaViDa 在多任务测试有竞争力，推理蒸馏和文本填空表现好，还能权衡速度与质量。
想让机器人春晚包饺子？阿里达摩院：别急，先把「大脑」优化一下
阿里达摩院推出 RynnBrain 模型，从底层出发将时空记忆和物理空间推理训进模型，在 16 项具身 Benchmark 上达 SOTA。还开源 7 个模型，解决通用大模型在物理世界的局限，在多项任务表现出色。