「混合推理模式」共找到 2975 篇相关文章
均值至上假繁荣！北大新作专挑难题，逼出AI模型真本事
当强化学习成大模型后训练核心工具，主流方法陷入「均值优化陷阱」，推理能力停滞。北大团队提出RiskPO，将风险规避理念融入优化目标，用MVaR+捆绑策略双管齐下，三大任务表现优异。
Transformers来到了v5时代：从工具包到真理之源，AI时代的操作系统内核的极简进化论
Transformers v5发布，通过极简定义和极致互通成AI生态核心。它做减法重构代码、拓展训练流程、成推理引擎弹药库、提升量化为核心功能，连接训练、推理与部署，是AI生态通用语言。
小红书提出DeepEyesV2，从“看图思考”到“工具协同”，探索多模态智能新维度
小红书推出多模态模型DeepEyesV2，它延续视觉推理优势，实现代码执行、网页搜索和图像操作的全工具协同。通过多工具协同推理解决复杂问题，采用两阶段训练策略，准确率远超开源模型。
vLLM 技巧： 在几秒钟内无需重启释放90%的 GPU 显存
EmbeddedLLM介绍vLLM新功能“休眠模式”，可在不重启服务时几秒内释放约90% GPU显存，实现模型热插拔与高效轮转，还介绍使用方法、不同休眠级别，提醒生产环境要确保安全。
ACL 2025｜为什么你设计的 Prompt 会成功？新理论揭示大模型 Prompt 设计的奥秘与效能
英属哥伦比亚大学等团队剖析Prompt在LLM的CoT推理中调控模型内部信息流，构建量化Prompt搜索空间复杂度理论框架。研究解释提示有效的原因，提供设计高效提示词思路，实验验证理论框架。
谷歌Ironwood架构TPU v7：用AI造AI，撼动英伟达芯片帝国
11月25日谷歌云发布第七代定制芯片Ironwood，由AlphaChip设计。它以9.6 Tb/s光互联带宽和1.77 PB共享显存池重构大模型推理硬件基准，挑战英伟达芯片地位，展现AI算力竞争新趋势。
Claude翻车：Opus 4.1白天退化，Anthropic承认并回滚更新
发布即拿下各项SOTA的Claude Opus 4.1翻车，用户反馈其变得迟钝，官方承认处理某些请求时质量退化，如白天推理性能下降，使用限制不明确，还会暴露API密钥，官方已回滚版本。
杨植麟预告，Kimi K3要来了
月之暗面团队海外AMA透露Kimi K3相关信息。K3或采用KDA架构，有低成本优势；通过开源解决信任问题；将推出不同规格模型；产品打磨注重写作、视觉能力及NSFW内容探索。Kimi性价比模式或改写行业规则。
AI真的能读懂人心吗？阿里通义最新研究成果揭示答案
文章聚焦多模态推理问题，如全局上下文理解不足和推理捷径问题。介绍阿里通义HumanOmniV2改进方案，涵盖全局上下文理解等方面，还详述冷启动、两阶段强化学习训练方案及数据集下载和训练方法。
谷歌TPU杀疯了，产能暴涨120%、性能4倍吊打，英伟达还坐得稳吗？
摩根士丹利研报显示，谷歌TPU产能将爆炸式增长，供应不确定性基本解决。TPU性价比高，在推理领域优势明显，或终结英伟达垄断。文章还给出TPU与英伟达GPU的选择建议及不同利益相关者的应对策略。