「推理芯片」共找到 2582 篇相关文章
告别「解码器饥饿」！中国科学院NeurIPS推SpaceServe，高并发克星
中国科学院计算技术研究所入选NeurIPS 2025的论文提出SpaceServe架构，将LLM推理P/D分离扩展至多模态场景，通过EPD三阶解耦与「空分复用」，解决MLLM推理行头阻塞难题，在Qwen2 - VL系列模型实测中表现出色。
32G内存条从800元暴涨到3800元之后
央视财经报道内存涨价潮席卷全球，从上游芯片制造到下游终端产品均受影响。AI爆发致存储芯片供需失衡，上游厂商利润狂欢，中游方案商转型，下游终端产品成本上升、格局分化，产业进入价值重构新周期。
实时交互式长视频生成
文章提出用于实时交互式长视频生成的帧级自回归框架 LongLive，解决了长视频生成在效率和质量方面的挑战，具备长视频生成、实时推理、高效微调等亮点，还给出安装、推理、训练等步骤。
Claude与人类共著论文，苹果再遭打脸！实验黑幕曝光
苹果一篇质疑大模型推理能力的论文引发争议。Open Philanthropy研究人员联手Anthropic发表论文，揭露苹果论文三大缺陷，指出部分测试无解却让模型“背锅”，还给出正确评价大模型推理能力的方法。
NeurIPS 2025 Spotlight | 选择性知识蒸馏精准过滤：推测解码加速器AdaSPEC来了
大型语言模型推理延迟高、开销大，推测解码可加速但依赖草稿与主模型一致性。佐治亚理工等团队提出 AdaSPEC 蒸馏法，过滤难学 token，提升草稿模型与目标模型对齐度，实验显示能提升接受率和推理速度。
谷歌最强具身大脑发布！波士顿机器狗瞬间人模人样
Google DeepMind发布机器人推理模型Gemini Robotics - ER 1.6，搭载它的波士顿动力机器狗能精确读仪表数字。该模型是第三代，在空间推理等方面显著提升，还新增读仪表能力，且是谷歌迄今最安全的机器人模型。
SGLang Hierarchical Sparse Attention 技术深度解析
阿里云等团队推出面向 Sparse Attention 的分层稀疏化框架，介绍其架构、机制与实践。此框架破解了长上下文推理时的计算与容量瓶颈，以 DeepSeek DSA 集成测试，使推理性能大幅提升，目前项目处于开发阶段。
DeepSeek们越来越聪明，却也越来越不听话了。
论文《When Thinking Fails: The Pitfalls of Reasoning for Instruction - Following in LLMs》用实验验证，模型推理能力变强时，提示词遵循能力变差。研究团队对15个模型测试，发现用CoT推理后执行准确率下降，还提出4种提升指令遵循效果的方案。
Claude半个月连崩7次！全球宕机3小时，强制实名精准封号
Claude半个月内7次大规模故障，全球宕机3小时，开发者破防。原因是Anthropic算力储备告急，为自救拟自研芯片。此外，Anthropic还通过改定价、加闸、实名验证等措施控制成本。
刚刚，梁文锋被曝史上首次融资！DeepSeek V4彻底摆脱英伟达
外媒曝出DeepSeek正寻求首次外部融资，以不低于100亿美元估值筹集至少3亿美元。V4规模和野心远超前代，参数量达万亿，将运行在华为昇腾芯片上，若成功将脱离英伟达生态。