延迟对照」共找到 220 篇相关文章

开源动态8

千星项目LLMRouter:多模型路由,16+策略优化推理

UIUC开源智能模型路由框架LLMRouter,可自动为大模型应用选最优模型,有16+路由策略。该框架打通训练、评测等链路,解耦Route与Training模块,支持多轮协同等,还可插件式扩展。

新智元
新闻资讯7

3万员工+亲儿子全卖!甲骨文血色梭哈,全押OpenAI

为给OpenAI凑3000亿美金算力投名状,甲骨文裁员3万、卖医疗巨头Cerner抵债。其陷入信用危机,还改结算规则转嫁风险,订单交付迟,OpenAI或转单。甲骨文这场豪赌输赢未知。

新智元
推荐文章8

企业级 AI Agent规模化落地的避坑指南,就藏在这四大趋势里

2025 年被视为企业级 Al Agent 落地拐点,“价值导向型”采购兴起,RaaS 正压过传统 SaaS。文章介绍 MCP、GraphRAG、AgentDevOps、RaaS 四大趋势,给出工程化解法,还展示金融、招聘等场景案例及落地自检清单。

InfoQ
开源动态7

CNCF 孵化用于 Kubernetes 边缘计算的 OpenYurt 项目

云原生计算基金会(CNCF)宣布 OpenYurt 加入其孵化项目名单。该开源平台由阿里巴巴 2020 年创建,将 Kubernetes 扩展到边缘计算环境,保持与上游 API 兼容,能减少延迟、提高可靠性。

InfoQ
开源动态8

“边说边思考”,Mini-Omni-Reasoner 开创实时语音推理新范式

Mini - Omni - Reasoner将推理能力引入大型语音模型,开创“边说边思考”范式,实现实时语音推理与交互。推出Spoken - Math - Problems - 3M数据集,经四阶段生成流程构建。训练采用分阶段策略,性能超基础模型。

GitHubStore
开源动态7

NextStep-1:一次在图像生成上自回归范式的探索

阶跃星辰团队探索自回归图像生成新路径,推出 NextStep-1。它直接在连续视觉空间自回归生成,架构简洁,实现端到端训练。模型有高保真生成和编辑能力,Benchmark 表现佳,但也面临稳定性等挑战。

机器之心
算法论文8

南开 && UIUC | SearchAgent-X,打破「效率瓶颈」,让复杂「AI搜索智能体」走向现实

南开大学和伊利诺伊大学厄巴纳 - 香槟分校的研究提出SearchAgent - X框架,解决大型语言模型驱动的搜索智能体效率痛点。它剖析制约效率的原因,通过两大‘加速引擎’优化性能,实验显示效果显著。

AINLPer
7

安卓彻底变了!Gemini接管所有屏幕,苹果连影子都没追上

谷歌在 Android Show I/O Edition 宣布,Android 从「操作系统」转型为「智能系统」,Gemini Intelligence 植入安卓设备,覆盖多硬件,还推出 Googlebook。谷歌端侧铺 Gemini,云端投 Claude,与苹果策略形成对照,竞争关键在分发。

新智元
开源动态8

KTransformers入选计算机系统顶会、与主流框架合作,趋境&清华让「异构」成为推理新范式

KTransformers由趋境科技与清华团队联合研发,是高性能异构推理框架。其论文入选SOSP 2025,还与SGLang合作。它有算子优化等创新,能让CPU与GPU协同,推动推理架构融合,已成广泛复用的底层框架。

量子位
新闻资讯7

“像把大象塞进冰箱一样困难”,端侧大模型是噱头还是未来?

InfoQ《极客有约》X AICon 直播聚焦端侧大模型,探讨其落地挑战与破局思路。专家指出端侧部署有隐私、可用性等优势,但面临内存、精度等难题。华为、支付宝等分享方案,还探讨应用场景、商业模式及未来趋势。

InfoQ