搜索：推理加速技术

「推理加速技术」共找到 4964 篇相关文章

去了一趟中国AI实验室，Linux基金会CTO感叹：西方那两套偏见全破产了

Linux 基金会全球 AI 技术官 Matt White 访华后称，西方对中国 AI 的偏见破产。中国实验室文化黏性强、人才回流，工具反向输出美国。他指出西方出口管制未卡死中国，还让其成自研芯片‘卷王’，开源模型也更受青睐。

九章云极于6月17日发布Alaya NeW AI工厂体系，锚定十万P算力、十万亿Token、千个模型、千倍降本四大目标。该体系是智能工业化的必然产物，能解决资源难转生产力的难题，还具备技术效能、生态范式和商业飞轮三大支柱。

4月8日，智平方完成股改，或准备IPO。当前硬科技公司上市窗口效应明显，具身智能公司IPO进程加速。深圳机器人产业发达，智平方拥有自研具身大模型，完成股改使其资本化占得先机，成为深圳具身智能名片。

文章指出与其说AI First，不如说软件工程First。AI时代人成了瓶颈，应把人从链条拿掉。但实施AI First需满足自动化测试、CI/CD流程等条件，且只适合部分场景。还介绍了相关技术栈、功能开发和修复路径及成果。

谷歌研究院发布 TurboQuant 压缩算法，能在提升速度、保持准确性的同时，降低大语言模型内存占用，可将键值缓存压缩至少 6 倍，速度最高提升 8 倍。该技术无需额外训练，精度零损失。目前虽未大规模部署，但已引发内存股下跌。

文章深入剖析多模态大语言模型核心技术架构与训练方法的进化，涵盖建模范式、视觉编码器、语言骨干网络、模态对齐、生成范式及训练方法等方面，介绍其演进路径与代表模型，还提及国内模型创新及开源模型OpenVLA。

AI科技评论独家获悉，智元机器人旗下具身智能数据平台觅蜂科技完成数亿元种子轮与天使轮融资，由红杉中国领投，多家资本跟投。此次融资用于技术研发等，觅蜂已布局全类型数据，还将建立数据联盟。

Google DeepMind 升级了 Gemini 3 的专用推理模式 Deep Think，跑分屠榜。ARC - AGI - 2 拿下 84.6%，在多个基准测试中表现优异。它不仅是解题机器，还能解决真实科学工程问题，已向部分用户推送，科研人员和开发者可通过 API 使用。

Meta FAIR推出32B参数的代码世界模型（CWM），旨在探索世界模型如何改变代码生成和推理，code和mode已开源。在SWE - bench验证中表现优，能与更大规模或闭权重的LLM竞争，还介绍了训练、数据集等情况。

大模型退烧，小模型接棒。腾讯、阿里等大厂纷纷官宣小模型成果，英伟达、OpenAI 等也有相关动作。端侧模型赛道广阔，但技术含量不低，面壁智能在端侧模型探索上成果丰硕，其 MiniCPM 系列不断迭代，还在多领域落地。