「GPU推理」共找到 2428 篇相关文章
更多thinking≠更好结果，精准thinking可砍掉一半长度
当前大模型如GPT - 4、DeepSeek推理又长又啰嗦，论文发现其在简单题目上过度推理。作者提出‘无效思考’概念，还给出解决原则，用LC - R1方法训练，效果显著，揭示精准思考才是王道。
深度拆解沐曦MXMACA软件栈功能，算力自主+生态兼容，破解国产GPU落地难题
近日，刚 IPO 的沐曦股份发布 MXMACA 软件栈 3.3.0.X 版本。该软件栈可实现多语言支持、算子自动优化与跨框架平滑适配，能让现有 CUDA 项目近乎‘开箱即用’迁移，还兼容主流 AI 框架，助力国产 GPU 解决落地难题。
ACL 2026 | LCA：DeepSeek 长文本加速神器，90% KV 缓存缩减 + 2.5 倍推理提速
琶洲实验室等团队提出潜在空间压缩注意力（LCA），入选 ACL 2026。LCA 突破传统注意力机制瓶颈，适配不同大模型，降低硬件门槛与成本，提升推理效率。论文与代码已开源。
首个代码世界模型引爆AI圈，能让智能体学会「真推理」，Meta开源
Meta重组后的AI部门推出首个代码世界模型CWM，是320亿参数开放权重LLM。它与传统大模型思路不同，能模拟代码执行。CWM在通用编程与数学任务表现不错，Meta还开放相关检查点以支持研究。
性能比肩Gemini 3 Pro！昨晚，阿里千问最强模型来了
1月26日深夜，阿里千问旗舰推理模型Qwen3 - Max - Thinking上线，综合性能对标GPT - 5.2与Gemini 3 Pro。它突破传统推理方式，有自适应工具调用能力，助其在企业级AI竞争中领先。
集合通信库VCCL释放GPU极致算力，创智、基流、智谱、联通、北航、清华、东南重磅开源
在超大规模智算集群需求下，创智、基流等多方联合开源集合通信库VCCL。它基于NCCL开发，有智能调度、容错、细粒度观测机制，实测能提升算力利用率、降低故障率，还解决了服务器异构等问题。
字节突然开源Seed-OSS，512K上下文碾压主流4倍长度！推理能力刷新纪录
字节跳动突发开源360亿参数的Seed-OSS-36B，呼应OpenAI开源策略。它有512K超长上下文，引入“思考预算”机制。多项基准测试达开源SOTA，字节Seed团队此前也开源多个项目。
打破视频推理「先看后想」惯性，实现真正的「边看边想」丨CVPR'26
现有大型视觉语言模型（VLM）在实时场景表现不佳，宁波东方理工大学沈晓宇团队提出TaYS，让VLM从“帧文交错”切换到“并行”，实现“边看边想”，在准确性和延迟上表现出色，推动VLM走向更真实应用。
一个模型超了DeepSeek R1、V3，参数671B，成本不到350万美元
Deep Cogito 是旧金山 AI 初创公司，开源四款混合推理模型。最大 671B MoE 模型性能超 DeepSeek v3 等，推理链比 DeepSeek R1 短 60%，训练成本不到 350 万美元。核心方法是迭代蒸馏与增强。
英伟达50亿美元入股英特尔，将发布CPU+GPU合体芯片，大结局来了？
9月18日英伟达与英特尔宣布达成合作，英伟达投资50亿美元购其股份。双方将合作开发多代定制数据中心和PC产品，包括定制CPU、集成RTX GPU的x86 SoC等，此前二者有竞争历史。