「AI推理加速」共找到 11324 篇相关文章
“如果你不用更多Token，就永远逃不出底层”：AI竞赛开始变成资源战争
文章围绕AI竞赛中资源分配问题展开，以SemiAnalysis创始人Dylan Patel经历为例，揭示Token成本疯涨、需求远超供给，介绍Anthropic模型优势，探讨具身智能成新需求点，分析竞争格局及供应链瓶颈，还预警反AI抗议。
内存减6倍、精度0损失，推理提速8倍！谷歌新技术震撼了AI圈
Google Research团队推出TurboQuant技术，能将KV缓存6倍压缩、无精度损失，推理速度提升8倍，解决内存瓶颈问题，为大语言模型应用扫清障碍，引发业界关注，还致存储芯片巨头股价大跌。
AI实力榜大洗牌！OpenAI谷歌强势领跑，Anthropic节节败退
Poe最新报告显示，2025年1 - 5月AI各领域市场份额大洗牌。OpenAI和谷歌势头猛，Anthropic掉队。文本生成、推理、图像等各领域竞争激烈，企业需搭建评估体系，按需选模型。
高盛上调腾讯目标价，AI 人才的核心投资选择
高盛上调腾讯目标价，因其业绩强劲且AI推动各业务线增长。腾讯2025年AI应用爆发，投入和专利向好。还提到行业AI人才需求大，腾讯有特别升级的AI产培项目，介绍了投递要求和福利。
首个代码世界模型引爆AI圈，能让智能体学会「真推理」，Meta开源
Meta重组后的AI部门推出首个代码世界模型CWM，是320亿参数开放权重LLM。它与传统大模型思路不同，能模拟代码执行。CWM在通用编程与数学任务表现不错，Meta还开放相关检查点以支持研究。
黄仁勋手撕「AI泡沫」论！英伟达570亿铁拳暴击，显卡全断货
英伟达Q3 2026财报显示单季度营收达570亿美元，数据中心业务同比狂涨66%。黄仁勋称AI不是泡沫，而是计算范式从通用CPU转向加速式GPU计算的必然。当前多数AI公司估值高、收入低，英伟达作为‘卖铲人’大获全胜。
没想到 2025 年 AI 领域爆发最猛烈的居然是它
文章指出2025年AI编程领域爆发式增长，一年营收从几亿到百亿美金。因其适合编程场景，能帮助各用户群体，未来渗透率有望大幅提升。还分析了发展猛的原因，且认为其潜力大，赛道仍在加速。
给大模型装上「思维分段引擎」：浙大InftyThink解锁无限深度推理
如今大模型长上下文推理面临计算成本高、推理易中断问题。浙大联合北大团队提出InftyThink新范式，将传统推理拆成短片段并总结，突破推理长度限制，在多基座模型实验中表现优异。
谷歌新研究：大模型“吵架”有利于提升推理质量
谷歌新研究发现高级推理模型自发进化出'思想社会'，研究人员用LLM - as - judge方法识别出多个虚拟人格。还找到控制现象的'开关'，实验表明教AI'吵架'更有效，其'社交技能'通用，给开发者带来新启示。
大模型「越用越快」！SpeedupLLM首次验证，大降56%推理预算
Emory大学研究者提出SpeedupLLM框架，利用动态计算资源分配和记忆机制，使LLM处理相似任务时推理成本降56%、准确率提升，论文系统性验证了LLM“越用越快”，为AI模型发展提供新思路。