「推理模型瓶颈」共找到 8378 篇相关文章
高通要发两款AI推理芯片，资本市场反应强烈
高通周一宣布明年推AI200芯片，2027年跟进AI250，股价应声上涨。两款芯片基于移动神经处理技术，专攻AI模型部署，沙特AI公司已计划采用，高通想借此进军AI芯片市场。
实测Qwen-MT翻译模型，确实又快又好
阿里云百炼最新翻译模型Qwen-MT开放，有支持多语言互译、提供专业功能、轻量级架构等亮点。实测显示其响应快、回译准确、能调风格，200字文本仅需2.5秒。
模型测试不再跳来跳去，VS Code + Hugging Face = 真香
Hugging Face 发布新功能，让开发者在 VS Code 的 GitHub Copilot Chat 中直接接入 Inference Providers，可调用 Kimi K2 等开源大模型测试，无需频繁切换平台。该功能有统一 API 等优势，定价门槛低。
多智能体大语言模型中的人类自适应协作
尽管大语言模型有进展，但纯自治多智能体系统有局限。为此提出 HILA 框架及双环策略优化机制，结合 DLPO 的 HILA 在基准测试中表现出色，为构建 Agentic 系统提供指导。
砍掉70%内存！陈丹琦团队破解LLM长文本瓶颈
大型语言模型处理长文本时，KV缓存占用内存巨大。陈丹琦团队提出KV足迹作评估标尺，推出分块驱逐与PruLong训练技术，在128K长文本任务中最高降低70%内存，性能损失仅10%。
英伟达开源全新大模型：黄仁勋不想只「卖铲子」
2025年底英伟达宣布开源全新模型家族Nemotron 3，含Nano、Super和Ultra。它融合Mamba、Transformer和MoE技术，有诸多创新。这不仅是产品更新，更是战略突袭，标志着英伟达想构建AI闭环开放生态。
通义实验室新研究：大模型自己「扮演」搜索引擎，提升推理能力无需搜索API
阿里通义实验室开源ZeroSearch，提供无需与真实搜索引擎交互的强化学习框架。它用模拟搜索环境和渐进式抗噪训练，让LLM自给自足，节省API成本，在多问答数据集表现优，为智能化检索提供新思路。
模型即 Agent 的含金量：Kimi深度研究功能详评
作者分享Kimi深度研究功能体验。其基于端到端自主强化学习技术，会开源模型。在测试中，分析Labubu爆火原因、检索小米发布会内容，展现出强逻辑分析、搜索准确性和数据处理能力，可视化网页也出色。
谷歌卷Gemini模型，OpenAI刷GPT-5科研论文
谷歌推出Gemini 3 pro等模型，来势汹汹。OpenAI CEO称其带来经济阻力，还挖掘GPT - 5应用价值并发表89页论文，展示在科研流程中的表现，也提及失败风险与可用Prompt模板。
一分钟的奇迹与幻觉：实测世界模型Happy Oyster
4月16日阿里发布世界模型Happy Oyster，支持多模态输入与音视频联合生成。实测显示，它在场景构建、渲染上有优势，可替代部分传统引擎工作，但存在一致性不足问题，现阶段更适合改造游戏开发流程。