搜索：大模型推理加速

「大模型推理加速」共找到 8454 篇相关文章

语音模型也能“freestyle”？可定制角色，模拟背景音

阿里新推两款语音模型，Fun - CosyVoice3.5可基于参考音频克隆声音，优化多方面能力；Fun - AudioGen - VD能进行‘从无到有’音色设计，并模拟复杂听觉环境。用户即日起可在阿里云百炼调用。

来自多所高校的研究者提出MLS - Bench，用于解决现有Auto - Research评测的归因问题。它含140个真实研究任务，校准受控修改范围，主实验显示当前模型在方法发现上有明显缺口，Auto - Research需更严格评测标准。

Google I/O大会后一天，Anthropic凌晨发布Claude Sonnet 4和Claude Opus 4。Claude Opus 4是“世界上最好的编程模型”，Claude Sonnet 4适合日常编程。此次更新有四大核心改进，聚焦开发者。还介绍了工作模式、定价等。

华为联合上海交通大学、华中科技大学推出世界模型WordGrow，可生成1800㎡超大室内场景，单卡30分钟跑272㎡。它用数据精准预处理、3D块补全机制、粗到精生成策略填3D场景构建的坑，指标优、速度快。

Kimi新定理证明模型超越DeepSeek，基于Qwen2.5 - 72B打造，采用Kimi k1.5强化学习训练流程。有两大技术创新，还有精简版本，官方有Demo。双方此前比赛就打得有来有回。

本文实测 MiniMax H3 视频模型，它 8 月 3 日开源，成本低至 0.5 元/秒，在编辑榜成绩佳。它定位全模态生成，能多素材输入。实测效果好，价格约为 Seedance 2.5 的三分之一，还支持原生剪辑，适配多芯片与工具。

卡内基梅隆大学团队提出SQLM框架，这是无需外部数据的自我提问模型，含提问者和解答者角色。通过强化学习最大化期望奖励，设计自监督奖励函数。实验显示其能提升Qwen2.5 - 3B - Instruct多任务准确率。

视频模型序列化处理影响推理速度与扩展性，传统token压缩方法在视频理解中有问题。阿里通义实验室与南开联合发布LLaVA - Scissor，用SCC方法和两步时空压缩策略，实验显示其性能优于其他方法。

InfoQ《极客有约》X AICon 直播邀请同程、网易、百度工程师，探讨大模型入研发体系的变化。涉及提效、协作、角色分工等方面，还谈及工程师特质、效率焦虑、岗位数量等问题，6 月北京 AICon 大会将深入交流。

Yann LeCun团队推出LeWorldModel世界模型，仅靠两条数学规则，让机器几小时学会物理运转逻辑，动作规划速度超同类48倍。它跳出复杂训练修补怪圈，单卡训练，在多环境测试表现出色，还展现对物理法则的深刻理解。