「推理硬件」共找到 2471 篇相关文章
AI Pin 们折戟后，第二代 AI 硬件闷声发了大财
过去两年，第一代AI硬件喊出‘杀死智能手机’口号，赚足目光。当下，创业者不再将取代手机作为目标。第二批AI硬件‘边界感’强，专注细分场景，同时，科技巨头正布局全新AI层，‘隐形OS’雏形已现。
VLA 推理新范式！一致性模型 CEED-VLA 实现四倍加速！
近年来，VLA模型成机器人领域重要研究方向，但推理速度受限。本文提出一致性蒸馏训练、混合标签监督机制及提前退出解码策略，在多基线模型上实现超4倍推理加速，实验验证其高效通用。
睡觉也在卷！伯克利Letta新作「睡眠时计算」让推理效率飙升
Letta和UC伯克利研究者提出「睡眠时计算」技术，能让LLM在空闲时间提前思考以提升推理效率，降低推理成本，在多数据集实验中展现优势，在软件工程任务中也有应用。
吴恩达新作：87%推理token用不着，丢掉反而快3倍
吴恩达新作Prefix Sliding指出，模型推理时丢弃中间已贬值token，只保留前缀+滑动窗口，无需训练可提速3倍，配合RL训练能将推理轨迹扩展到10万token以上。该方法为Agent场景提供新思路。
多模态卷王阶跃星辰Step 3登场，推理效率可达DeepSeek-R1 300%
新一代多模态推理基模Step 3登场，它采用原创MFA架构，具“多开好省”亮点，推理效率高、性价比优。7月31日将开源，能适配各芯片，还发起“模芯生态创新联盟”推动应用落地。
JoyInside 创新大赛现场，我看到 AI 硬件长出了灵魂
作者曾对多数AI硬件失望，认为其有硬件没灵魂。但在观猹和京东联合举办的JoyInside创新大赛上，20强产品让其改观。大赛基于京东JoyAI大模型，缩短产品上市周期，前三名产品各有亮点，还呈现场景垂直化和交互方式改变趋势。
一张小卡片敢卖999？原来是智能体AI硬件
出门问问发布全球首款智能体AI硬件TicNote，有录音转写、翻译等功能，外观小巧便携。今年4月海外上市获好评，现国内版上线，售价999元起。出门问问坚持软硬结合，未来Shadow AI将搭载更多硬件。
o1之后下一个范式？隐式CoT大突破，让推理不再「碎碎念」
文章推荐 Implicit Chain-of-Thought 的最新进展 SIM-CoT，它直击隐式 CoT 核心痛点，用辅助解码器让隐式推理可解释。推理零额外开销，效果猛，研究已中稿 ICLR 2026，论文等均已开源。
大模型如何准确读懂图表？微软亚研院教它“看、动手、推理”
多模态大模型处理结构化图像有误差放大、推理难等问题。微软亚洲研究院等提出PixelCraft，以高保真图像处理与非线性多智能体推理为支柱，提升结构化图像理解性能，在多基准上有增益。
少说‘Wait’，多做题：NoWait重塑大模型推理路径
现代大模型在复杂推理时爱用自我反思词，触发冗余验证循环，拖慢速度、增加算力消耗。NoWait方法零训练成本，通过抓关键词、扩展变体、实时屏蔽，让模型跳过废话，在多任务中表现出色，且颠覆对推理的认知。