搜索：模型推理能力

「模型推理能力」共找到 9260 篇相关文章

内存减6倍、精度0损失，推理提速8倍！谷歌新技术震撼了AI圈

Google Research团队推出TurboQuant技术，能将KV缓存6倍压缩、无精度损失，推理速度提升8倍，解决内存瓶颈问题，为大语言模型应用扫清障碍，引发业界关注，还致存储芯片巨头股价大跌。

ICML2026 论文指出，大语言模型内部会自然形成类似人类心理学模型的「情绪树」，模型越大，情绪树越复杂，且在销售等任务上表现更好。同时，模型的情绪结构受身份设定影响，存在与人类相似的情绪识别偏见。

Anthropic 发布 Claude Design，可从提示词生成设计稿等，让 Figma 市值蒸发。这引发对 AI 应用层产品的思考，当基础模型厂商收回能力，靠能力缺口的产品将失重，应用层需从工作流、数据等找机会。

过去两年视频生成模型不断提升画面参数，但传统模型生成的视频固定，用户无法干预。而世界模型可跟随操作实时渲染、动态生成世界。目前Noiz AI联合多机构发布实时可交互音视频世界模型HelixWorld 1.0，后续还将开源。

AI生图有新突破，新模型FLUX.1 Kontext用流匹配架构，与此前技术不同，能接受文本和图像输入。其来自Black Forest Labs，有编辑和生成能力，还具备4个特性，第三方测试也给出提示词使用技巧。

英伟达发布全新架构9B模型NVIDIA Nemotron Nano 2，以Mamba - Transformer混合架构实现推理吞吐量最高提升6倍，对标Qwen3 - 8B并在多任务中表现持平或更优，还开源模型及大部分预训练数据。

DeepSeek推出DeepSeek-OCR 2，提出“视觉因果流”，以全新视觉编码器赋予模型因果推理能力。它在文档解析基准表现超Gemini 3 Pro，代码和模型权重已开源，为2D推理和原生多模态探索铺路。

文章介绍高性能计算（HPC）对大模型的重要性，回顾中国HPC发展历程，讲述清华高性能所郑纬民等学者贡献，还提及团队在大模型训练、推理、存储等方面成果，以及类脑计算等新探索。

传统多模态模型处理复杂视觉推理能力不足，OVR团队以Qwen2.5 - VL - 7B为基础构建开源强化学习框架，成果模型OVR在12个基准测试刷新记录，揭示认知行为跨模态迁移三条黄金定律。

上海人工智能实验室联合多家单位提出通用具身智能大脑框架VeBrain，能集成视觉感知、空间推理和机器人控制能力。它统一三类任务语言建模范式，有“机器人适配器”，配套VeBrain - 600k数据集，性能测试表现出色。