「延迟对照」共找到 220 篇相关文章
千星项目LLMRouter:多模型路由,16+策略优化推理
UIUC开源智能模型路由框架LLMRouter,可自动为大模型应用选最优模型,有16+路由策略。该框架打通训练、评测等链路,解耦Route与Training模块,支持多轮协同等,还可插件式扩展。
3万员工+亲儿子全卖!甲骨文血色梭哈,全押OpenAI
为给OpenAI凑3000亿美金算力投名状,甲骨文裁员3万、卖医疗巨头Cerner抵债。其陷入信用危机,还改结算规则转嫁风险,订单交付迟,OpenAI或转单。甲骨文这场豪赌输赢未知。
企业级 AI Agent规模化落地的避坑指南,就藏在这四大趋势里
2025 年被视为企业级 Al Agent 落地拐点,“价值导向型”采购兴起,RaaS 正压过传统 SaaS。文章介绍 MCP、GraphRAG、AgentDevOps、RaaS 四大趋势,给出工程化解法,还展示金融、招聘等场景案例及落地自检清单。
CNCF 孵化用于 Kubernetes 边缘计算的 OpenYurt 项目
云原生计算基金会(CNCF)宣布 OpenYurt 加入其孵化项目名单。该开源平台由阿里巴巴 2020 年创建,将 Kubernetes 扩展到边缘计算环境,保持与上游 API 兼容,能减少延迟、提高可靠性。
“边说边思考”,Mini-Omni-Reasoner 开创实时语音推理新范式
Mini - Omni - Reasoner将推理能力引入大型语音模型,开创“边说边思考”范式,实现实时语音推理与交互。推出Spoken - Math - Problems - 3M数据集,经四阶段生成流程构建。训练采用分阶段策略,性能超基础模型。
NextStep-1:一次在图像生成上自回归范式的探索
阶跃星辰团队探索自回归图像生成新路径,推出 NextStep-1。它直接在连续视觉空间自回归生成,架构简洁,实现端到端训练。模型有高保真生成和编辑能力,Benchmark 表现佳,但也面临稳定性等挑战。
南开 && UIUC | SearchAgent-X,打破「效率瓶颈」,让复杂「AI搜索智能体」走向现实
南开大学和伊利诺伊大学厄巴纳 - 香槟分校的研究提出SearchAgent - X框架,解决大型语言模型驱动的搜索智能体效率痛点。它剖析制约效率的原因,通过两大‘加速引擎’优化性能,实验显示效果显著。
安卓彻底变了!Gemini接管所有屏幕,苹果连影子都没追上
谷歌在 Android Show I/O Edition 宣布,Android 从「操作系统」转型为「智能系统」,Gemini Intelligence 植入安卓设备,覆盖多硬件,还推出 Googlebook。谷歌端侧铺 Gemini,云端投 Claude,与苹果策略形成对照,竞争关键在分发。
KTransformers入选计算机系统顶会、与主流框架合作,趋境&清华让「异构」成为推理新范式
KTransformers由趋境科技与清华团队联合研发,是高性能异构推理框架。其论文入选SOSP 2025,还与SGLang合作。它有算子优化等创新,能让CPU与GPU协同,推动推理架构融合,已成广泛复用的底层框架。
“像把大象塞进冰箱一样困难”,端侧大模型是噱头还是未来?
InfoQ《极客有约》X AICon 直播聚焦端侧大模型,探讨其落地挑战与破局思路。专家指出端侧部署有隐私、可用性等优势,但面临内存、精度等难题。华为、支付宝等分享方案,还探讨应用场景、商业模式及未来趋势。