搜索：推理优化与部署

「推理优化与部署」共找到 3550 篇相关文章

只需一次指令微调，大模型变身全能专家天团，8B模型性能反超全微调基线 | ACL25 Oral

预训练大模型适应专业领域需高昂微调成本，稀疏混合专家架构虽能提升推理效率，但从头训练耗资源。浙大与Thomson Reuters团队提出SIMoE，单阶段微调就能升级大模型，还解决传统方法两大局限，在性能和效率上双突破。

AI大牛梅涛创立的智象未来公司推出vivago2.0（智小象AI），支持图片、视频、播客生成，有上百种特效模板，生图还能自动优化prompt。其依托HiDream - A1，结合HiDream - I1和HiDream - E1能力，团队技术实力强且融资顺利。

北大校友Lilian Weng更新博客《Why We Think》，回顾利用测试时计算的研究进展，探讨让模型“思考更久”的方法。文中介绍了思维链、潜变量建模等策略，还提及多种提升生成质量的策略，如并行采样与序列修订，以及强化学习提升推理能力等内容。

OpenAI推出GPT-6 Astra，接连在埃尔德什单位距离猜想、纳维-斯托克斯方程等多个顶级数学难题上取得突破性进展，引发顶尖数学家对学术伦理与传统研究模式的争议，本文为OpenAI内部研究员的深度对谈编译，拆解AI数学推理的核心逻辑。

Fable 5.1和Mythos 5.1发布，Fable 5.1推理成本低32%。但发布几小时后被破解，27万字提示词泄露，曝光了其安全限制、隐私保护等秘密。它工具增加，还破解密码、能完成多种任务，不过也有用户抱怨耗token等问题。

北大卢宗青是国内第一视角数据最早押注者和隐空间路线推进者。他认为人类视频是具身智能唯一可规模化的数据路径，创立BeingBeyond走隐空间世界动作模型路线，成本低、推理快，还发布全球首个隐式触觉世界动作模型Being - H0.8。

当下推理模型流行在测试时多循环，以打磨答案。但新研究发现，7B模型LoopCoder v2只多循环1次（共2次），就能大幅提升性能，继续增加循环次数，性能反而下降。研究还分析了收益与成本，给出选择循环次数的诊断方法。

文章解读了欲取代Transformer的SSA（次平方稀疏注意力）算法。它支持12M tokens上下文，比fastAttention快52倍，训练和推理更快。SSA改变了注意力扩展特性，有计算和内存线性扩展等特性，经三阶段训练可可靠利用长上下文。

今年 Agent 与 AIGC 应用大爆发，Gartner 预计 2027 年超 75％的 AI/ML 工作负载将用容器技术部署。但现有容器技术栈不能直接用于 AI 业务，需解决两大技术挑战。阿里云 ACK 和 ACS 协同演进，应对挑战并不断突破，还积极投入开源。

在2026阿里云峰会上，阿里推出全新一代千问旗舰模型Qwen3.7 - Max。它在各类测评中成绩亮眼，性能直逼全球最强模型，还针对Agent优化。阿里全栈AI体系助力模型高频迭代，千问深耕开源社区，志在成为智能体时代基础设施。