「推理硬件」共找到 2479 篇相关文章
苹果不吹 AI，反而成功了？
北京时间9月10日苹果发布会，与iPhone 16发布时大肆宣传AI不同，此次重点在硬件及AI幕后支持。此前苹果对AI宣传过度致部分功能未推出引失望，且在智能体AI助手进展落后。多数人不因AI换机，给了苹果试错时间，但它在AI竞赛中落后，中国厂商布局更快。
AI证伪百年数学猜想被打假！Lean证明惊现漏洞，哥大教授破防了
OpenAI新推理模型取得十项数学进展，如证明非Sofic群存在性等。哥伦比亚大学副教授Henry Yuen对其量子并行重复定理证明既兴奋又失望，因证明有AI味且难理解。此外，Lean证伪科拉兹猜想被指利用内核漏洞，专家提醒Lean验证有局限。
蚂蚁开源 x SGLang Meetup技术回放解读系列之面向DeepSeek系列模型的深度优化与实践
文章是对蚂蚁开源x SGLang Meetup中「蚂蚁Theta面向DeepSeek系列模型的深度优化和实践」分享的解读，详细介绍了在H20-96G上对DeepSeek系列模型推理的优化方案，包括Prefill和Decode阶段的优化、通信优化、观测诊断等，并给出了评测结果。
新一代AI教师是什么样？学而思让它从L2「助手」跃迁至L3「老师」
在AI应用落地成关键的当下，教育成AI融合创新前沿。好未来CTO田密提出「AI教师L1 - L5分级」理论，指出当前AI老师达L2水平，L3正演进。学而思学习机的「小思AI一对一」迈向L3，依托硬件和自研大模型，结合优质内容，从可用走向可信。
长程 Agent 越跑越乱？ContextPilot 用细粒度 RL 教会模型主动管理上下文
长程 Agent 推理时，传统方法使上下文臃肿、推理成本高。清华、腾讯等团队提出 ContextPilot 框架，扩展管理工具集、采用新采样和信用分配方法。实验显示其用短上下文获高分，降低推理开销。
读万卷书，大模型就能「看」懂视觉世界？Meta揭秘LLM视觉先验的起源
Meta超级智能实验室与牛津团队新论文发现，只见过文本的大语言模型（LLM）能学到可迁移到视觉任务的先验能力。研究通过超100组受控实验、耗费50万GPU小时，揭开LLM视觉先验来源，还给出预训练数据配方。
超越免训练剪枝：LightVLA引入可微分token剪枝，首次实现VLA模型性能和效率的双重突破
文章介绍LightVLA框架，它是用于提升VLA推理效率和性能的视觉token剪枝框架。针对VLA模型计算开销大、推理延迟高问题，提出两大创新，在LIBERO实验中性能超经典模型，还实现推理加速。
智谱 GLM-4.5 团队深夜爆料：上下文要扩、小模型在路上，还承诺尽快发新模型！
今日凌晨，GLM系列模型四位研发成员在Reddit的AMA活动中，回答了GLM系列技术细节、未来规划等问题。透露扩展上下文、推小模型是重点，还承诺尽快发新模型，也探讨了大模型发展观点。
TPU vs GPU 全面技术对比：谁拥有 AI 算力最优解？
SemiAnalysis对Google TPU v7/v8深度拆解，将TPU与Nvidia GPU多方面对比拆到可计算层面。不过其结论有局限性，本文重新分析，指出TCO因场景而异，互联体系分歧在流量假设，Google TPU v8成本优势被削弱。
OpenAI秘密矩阵曝光！你的所有设备，被Codex连成一台超级电脑
OpenAI将Codex升级为「超级控制平面」，可控制所有安装该应用的桌面设备，将其连成Codex网络。它有远程控制、多机上下文共享等功能，还能在锁屏时工作，但存在安全隐患。