「推理优化与部署」共找到 3516 篇相关文章
OnlyOffice 平替，用 Vue3 + Vite 做了个“本地 OnlyOffice”：接入成本低到离谱！！！
文章介绍 onlyoffice-web-local 项目，它是基于 OnlyOffice 的纯前端本地网页文档编辑器，无需服务器端处理，部署轻、接入快、更安全。阐述其功能、适用场景，给出开发部署及集成方案，可作 OnlyOffice 平替。
字节发了个机器人全能大模型，带队人李航
字节推出Seed，其Robix视觉—语言单模型能搞定机器人推理、任务规划和自然语言交互，核心采用思维链推理和三阶段训练策略，效果超Qwen2.5 - VL、GPT - 4o等，负责人是李航。
中国团队让AI拥有「视觉想象力」，像人类一样脑补画面来思考
上海交通大学等团队提出 Thinking with Generated Images，让大模型像人类一样用「脑内图像」推理。该研究区分三种视觉思维模式，提出核心技术框架，解决视觉推理局限，实验效果好，未来有望在多领域突破。
DeepSeek点燃大模型效率之争，阶跃火速接棒：JetSpec让大模型解码速度最高提升近10倍
近期，DeepSeek发布DSpark，阶跃星辰发表JetSpec论文，二者聚焦大模型推理效率。DSpark关注验证效率，JetSpec从Draft生成本身入手。结果显示，二者都有加速效果，共同表明推理效率正成Agent落地关键变量。
最窒息的Bug：Agent循环搜索原地打转？SGR Agent用「双阶段认知」破局
Hybrid Schema - Guided Reasoning（SGR）是革命性AI研究智能体框架，用「两阶段推理 - 执行架构」和「持久化上下文记忆系统」，解决AI助手复杂研究任务的三大痛点，模拟人类研究过程，适用于多场景。
让两个大模型「在线吵架」，他们跑通了全网95%科研代码｜深势发布Deploy-Master
科学计算领域开源软件多，但多数无法直接运行，制约可用性。Deploy - Master 针对此开发，通过搜索筛选工具、双模型博弈构建，将部署成功率提至 95%以上，为 Agentic Science 提供行动基座。
刚刚，OpenAI在ICPC 2025编程赛上满分登顶，Gemini也达到金牌水平
在ICPC 2025编程赛上，OpenAI 5小时内解决12个问题满分登顶，其由通用推理模型集成体构成，结合GPT - 5与实验性模型；Gemini解决10个问题达金牌水平，在部分难题表现出色。
SGLang｜SGLang Diffusion
来自SGLang开源社区的Yichi介绍SGLang Diffusion，它是面向图像与视频生成的全开源扩散模型推理引擎。基于SGLang机制将能力迁移到扩散模型推理，能显著提速工作流，视频展示了多种功能。
重磅！Google 推出AlphaEvolve 实现算法自我进化，将颠覆数学与计算机科学！
Google DeepMind发布革命性的Gemini驱动编码代理AlphaEvolve，能设计并优化算法。它发现更快矩阵乘法算法、解决开放性数学问题，还优化了Google多方面计算基础架构，未来跨领域应用前景广。
数千大模型全跑「中国芯」！最后一公里已「焊」通
国产芯片运行大模型需额外适配，魔乐社区以开源模型推理适配协作模式破局。它推出‘模型推理适配协作计划’，联合多方力量，打通国产算力与大模型应用‘最后一公里’，还举办赛事激发创新活力。