联合自注意力」共找到 2242 篇相关文章

产品应用7

一家智能眼镜公司,为什么非要研AI大模型系统?|甲子光年

智能眼镜要么不够智能,要么不像眼镜,李未可科技CEO茹忆认为AI要成第一响应者。该公司推三款AI眼镜,搭载研系统。其研AI大模型系统,是为交付难复制AI体验闭环,解决通用API不足等问题。

甲子光年
新闻资讯7

OpenAI研芯片270天光速成功!谷歌TPU大将主导,老黄一夜大客户变对手

OpenAI发布研推理加速芯片Jalapeño,与博通和Celestica合作打造,专为大模型优化,9个月就流片。操刀者是前谷歌TPU核心成员Richard Ho,计划2026年底部署。此前谷歌、微软等已研芯片,英伟达客户变对手。

量子位
产品应用7

Codex改进Prompt:让AI己把重复工作变成动化

开发者Vaibhav更新的Codex改进Prompt引发AI开发者群体讨论,被OpenAI联合创始人转发。完整版核心逻辑可拆解为8步,加了严格跳过规则。实测有反馈,也有优化建议和现存问题。

AI工程化
算法论文8

VLA统一架构新突破:回归世界模型引领具身智能

北京智源研究院联合中科院动化所提出 UniVLA 全新 VLA 模型架构,基于全离散、回归机制建模多模态信号,后训练引入世界模型。它刷新多项基准纪录,在真机操控和动驾驶有潜力,为多模态感知决策融合带来新思路。

机器之心
算法论文8

Self-Forcing++:让回归视频生成模型突破 4 分钟时长极限

加州大学洛杉矶分校与字节Seed等团队联合完成Self-Forcing++,让回归视频生成模型突破4分钟时长极限。它解决传统模型架构缺陷,经三步技术实现稳定超长视频生成,实验超基线,但仍有长时记忆缺失等问题。

机器之心
算法论文8

从物竞天择到智能进化,首篇进化智能体综述的ASI之路

普林斯顿大学等机构研究者发布首个进化智能体综述,为领域建统一理论框架和路线图。综述给出形式化定义,围绕What、When、How、Where构建分析设计框架,还探讨评估范式并指明未来方向。

机器之心
算法论文8

别等GPT-5了!普林斯顿万字综述揭秘:我们要做进化Agents!

普林斯顿大学联合多顶尖机构发表“进化智能体”综述,描绘AI从静态工具演变成我学习迭代智能体的过程,拆解其进化核心维度,介绍触发进化机制的时机、修炼方式及应用方向。

探索AGI
算法论文8

ICML 2025 | 注意力机制中的极大值:破解大语言模型上下文理解的关键

ICML 2025新研究揭示,在使用RoPE的现代Transformer模型里,注意力机制Q和K表示有集中极大值,V表示无此模式。研究通过实验明确极大值与上下文知识理解的联系,对模型设计、优化和量化有重要启示。

深度学习自然语言处理
算法论文8

英伟达港大联手革新视觉注意力机制!GSPN高分辨率生成加速超84倍

香港大学与英伟达联合推出广义空间传播网络(GSPN)。它采用二维线性传播与“稳定性 - 上下文条件”,将计算量降低,保留图像空间连贯性。在多视觉任务刷新性能纪录,如高分辨率生成加速超84倍。

量子位
算法论文8

中科大 × 华为联合突破!SparseRM:1% 参数实现 LLM 偏好建模高效革新

中科大与华为联合提出SparseRM轻量级偏好建模方案,基于稀疏编码器构建低参可解释奖励模型。实验显示它用不到1%可训练参数,在多任务中性能优,还能融入下游对齐流程,为LLM高效对齐提供新可能。

深度学习自然语言处理