搜索：大模型推理加速

「大模型推理加速」共找到 8576 篇相关文章

5Y News｜首形科技完成Pre-A轮融资

6月26日首形科技宣布完成Pre - A轮融资，由招商局创投、深创投领投。创始人胡宇航长期研究机器人相关方向，其成果构成产品技术起点。公司有三大技术体系，还提出类人共情价值，欲引领机器人情感觉醒时代。

上海交大等机构团队在ICML 2025提出预测一致性学习（PCL），通过扩散过程消减标签信息，引入噪声标签，将标签学习分解为渐进式任务，实现标签信息复用。在多模态任务实验中，PCL表现优于传统监督学习。

当地时间 6 月 23 日，Linux 基金会宣布与多公司成立 A2A 项目，由谷歌捐赠协议规范等。A2A 支持智能体通信协作，谷歌称其将在中立治理下开发普及。此外还对比了 A2A 与 MCP、ACP 等协议，探讨实际应用问题。

当今机器人导航系统在复杂室内环境面临挑战，字节跳动研发创新双模型架构Astra，含Astra - Global与Astra - Local子模型。经实验验证其性能佳，未来有广阔应用前景，但也存在需改进之处。

大型语言模型处理长文本时，KV缓存占用内存巨大。陈丹琦团队提出KV足迹作评估标尺，推出分块驱逐与PruLong训练技术，在128K长文本任务中最高降低70%内存，性能损失仅10%。

MemoryMesh是专为AI模型设计的知识图谱服务器，适用于多种结构化数据场景。它有动态模式驱动工具等特性，可自动生成管理工具，还配备记忆查看器，提供安装指南和提示词建议。

AI巨头权力洗牌加速，OpenAI与微软因收购Windsurf及股份问题关系紧张，甚至考虑反垄断指控。同时，OpenAI获美国防部2亿美元合同，有「OpenAI for Government」计划，还致力于建设算力设施。

由十机构联合推出的 MASLab，带来大模型多智能体系统代码库，统一 20+主流 MAS 方法。有方法全、评估准、结构清晰特性，经大量实验刻画性能图谱，还提出新方法，且发起开源社区。

Lex Fridman 采访谷歌 CEO Sundar Pichai，探讨谷歌在 AI 竞赛中的逆袭、搜索和广告的 AI 模式转变、模型发展、AI 编程提效、AR 前景、自动驾驶挑战等，还谈及 AGI 及 AI 对人类的影响。

DeepSeek 去年末以低成本训练出先进开源大模型引关注，近日团队披露构建 DeepSeek - R1 和 DeepSeek - V3 的软硬件方案，降低内存和计算需求，其细节公布让更多团队有机会参与前沿研发。