「推理优化与部署」共找到 3516 篇相关文章
开源SOTA！商汤原生多模态一个大脑完成看图、推理、作画
商汤开源日日新SenseNova U1，用NEO - unify架构让像素和文字自由协作，多项指标达开源SOTA，适配10家国产芯片。它能完成看图、推理、作画等多任务，虽有局限，但后续优化值得期待。
4B参数实现理解、推理、生成、编辑一体化！InternVL-U重磅开源
上海人工智能实验室联合多所高校开源多模态一体化模型 InternVL-U，仅 4B 参数，突破现有统一多模态模型瓶颈，在复杂场景超越 14B 级模型，已全面开源，提供推理代码等。
谷歌与OpenAI对狙，Gemini主打极速性价比，GPT优化对话温度
谷歌与OpenAI对狙，谷歌发布Gemini 3.1 Flash - Lite，主打规模化性价比，专为高频场景设计，成本低、速度快；OpenAI上线GPT - 5.3 Instant，优化对话体验，减少拒答、增强联网搜索等。
Rx.NET 7.0 拆分 Windows UI 支持，大幅缩减应用部署体积
Rx.NET 7.0 发布，重点为缩小 Windows 应用部署体积。它将 WPF 等集成功能从核心包拆分，解决自包含应用框架依赖问题。虽有破坏性变更，但维护团队保证了一定兼容性。后续有新开发计划。
国内首次！8.9毫秒推理速度破纪录，1元打穿百万token
在2025人工智能计算大会上，浪潮信息发布元脑SD200和元脑HC1000两款AI服务器。前者让DeepSeek R1的Token生成速度达8.9毫秒，后者将推理成本降至1元/百万Token，解决了AI智能体速度与成本难题。
扩散LLM推理新范式：打破生成长度限制，实现动态自适应调节
随着扩散大语言模型成为热门，但其推理时存在预设固定长度的限制。香港中文大学 MMLab 等提出 DAEDAL，赋予模型根据问题自主调整回答长度的能力，在性能和计算效率上有提升。
模型「漂移」新范式，何恺明新作让生成模型无须迭代推理
训练生成模型复杂，传统扩散模型训练费时费力。何恺明团队提出「漂移模型」新范式，不依赖微分方程，支持一步推理，实验验证其在多领域性能佳，有望解决生成式AI质量与效率权衡问题。
西湖大学提出RDPO强化学习框架，实现扩散模型并行推理加速
扩散模型“顺序去噪”特性成速度提升瓶颈。西湖大学AGI Lab提出RDPO框架，不必改动模型本身，优化其“采样导航系统”，在多基准测试中取得领先图像生成效果，解决加速问题并提供RLHF对齐新范式。
征集全国首部AI大模型私有化部署标准起草单位和个人！
智合标准中心组织起草的《人工智能大模型私有化部署技术实施与评价指南》团体标准正式立项，这是国内首部相关标准。它全流程覆盖、多方面融合、三方协作，现正征集起草单位和个人。
找了一圈，部署扣子的开源版本，还得是你
7月26日，Coze将旗下“扣子开发平台”和“扣子罗盘”开源，加上此前的Eino，其开源拼图逐步补齐。Coze Studio可开发AI Agent，Coze Loop能解决Agent生命周期问题，还可借助火山引擎一键部署，降低开发门槛。