搜索：高效推理框架

「高效推理框架」共找到 3733 篇相关文章

突发，OpenAI首颗「辣椒」芯片压倒英伟达！GPT-6干崩CUDA

OpenAI首颗自研芯片Jalapeño「墨西哥辣椒」实测成绩亮眼，AI推理性能超英伟达全系，功耗仅为一半。它从设计到流片仅用九个月，得益于GPT - Astra协助。有观点认为CUDA护城河或已死，OpenAI正打造算力版图。

春节滑雪受伤后，猎豹移动CEO傅盛躺在床上用语音和截图，基于OpenClaw框架14天养出一支8个Agent的AI团队，产出惊人数据。龙虾三万24小时建站，成本和时间优势明显。直播中三万还解决网站访问问题，揭示Agent核心壁垒是Skill积累。

Google DeepMind 升级了 Gemini 3 的专用推理模式 Deep Think，跑分屠榜。ARC - AGI - 2 拿下 84.6%，在多个基准测试中表现优异。它不仅是解题机器，还能解决真实科学工程问题，已向部分用户推送，科研人员和开发者可通过 API 使用。

作者将吃灰的Meta Ray - ban眼镜爆改成“交警Copilot”，介绍了“端 - 管 - 云”协同框架，分享客户端与服务端开发过程。还探讨用Agent架构和FaaS的原因，指出其在应对需求变化、节省成本等方面优势，最后提及项目待优化处。

苹果提出内存高效型反向传播（MeBP），可在内存使用量和计算时间上比零阶优化（ZO）有更好权衡，收敛更快、性能更优，还在iPhone 15 Pro Max验证其有效性，且公开了实现链接但目前为空。

Exa团队索引超1B+文档、GitHub仓库等内容，exa - code对其混合搜索、分块处理。它是首个为编码代理制作的Web规模上下文工具，在代码幻觉评估中表现超流行网页搜索工具，核心技术有专为AI的搜索引擎和高效返回上下文。

Meta FAIR推出32B参数的代码世界模型（CWM），旨在探索世界模型如何改变代码生成和推理，code和mode已开源。在SWE - bench验证中表现优，能与更大规模或闭权重的LLM竞争，还介绍了训练、数据集等情况。

近日，智源研究院发布具身大脑 RoboBrain 2.0 32B 版与跨本体大小脑协同框架 RoboOS 2.0 单机版。前者突破能力瓶颈，在多项基准测试表现优异；后者性能提升，实现轻量化部署。二者双擎联动推动机器人迈向群体智能，且已全面开源。

香港科技大学、Manycore联合开源空间大模型SpatialLM，用于处理3D点云数据。它结合点云特征提取、对齐和语言生成，实现高效转换。研究团队经多种尝试选定基于点的方法及Sonata编码器，还选Qwen2.5 - 0.5B为基础模型。

OpenAI发布自研推理加速芯片Jalapeño，与博通和Celestica合作打造，专为大模型优化，9个月就流片。操刀者是前谷歌TPU核心成员Richard Ho，计划2026年底部署。此前谷歌、微软等已自研芯片，英伟达客户变对手。