搜索：全注意力模型

「全注意力模型」共找到 8734 篇相关文章

「听觉」引导「视觉」，OmniAgent开启全模态主动感知新范式

针对端到端全模态大模型痛点，浙江大学、西湖大学、蚂蚁集团联合提出 OmniAgent，它基于「音频引导」，用「思考 - 行动 - 观察 - 反思」闭环实现范式转变，在多基准测试中超越开闭源模型。

腾讯混元大模型团队发布并开源轻量级视频生成模型HunyuanVideo 1.5，参数8.3B，支持5 - 10秒高清视频生成。它通过多层次技术创新，在生成效果、性能与尺寸上实现平衡，还具备多种核心能力。

宋飏等人所著《The Principles of Diffusion Models》共460多页，系统梳理扩散模型发展脉络与核心思想，以统一数学框架串联多种视角，是研究者参考资料与初学者入门读物。

谷歌提出新架构，参数减少40%，训练速度较RNN提升5 - 8倍，某些任务性能超Transformer 7.2%。新架构引入注意力偏向策略，用「保留」取代「遗忘」，还提出Moneta、Yaad、Memora三个新模型，在多任务上表现卓越。

清华大学、中国人民大学等联合研发的 AgentCPM-Explore 开源，基于 4B 参数在深度探索任务上表现出色，打破参数壁垒，开源全流程基建，还探索出提升小模型性能的方法。

2025年9月18日，浙江大学任奎教授团队联合华为在“华为全联接大会2025”发布国内首个基于昇腾千卡算力平台的DeepSeek-R1-Safe基础大模型，提升了我国AI系统自主安全防控水平，该模型已全面开源。

英伟达已成为人工智能时代基础设施的一部分，2023年11月推出首个Nemotron模型进入通用大模型领域。未来五年将投260亿美元构建开源模型，还发布了性能最强的开源模型Nemotron 3 Super。

Google的NotebookLM虽火，但有国内使用难、数据不私密、模型单一等痛点。Open - Notebook是其开源平替，完全本地可部署，功能超全，支持多模型，近半月GitHub星标增10K，总收藏1.5万。

Claude出现大危机，AI工程师带头呼吁退订，列9大罪状，如高峰时段偷换缩水模型等。不少用户退订，转投OpenAI Codex，其使用量激增。这也让国产模型等获更多尝试，CLI AI编程模式受重视。

Google发布Gemini Embedding 2模型，它是业界首个原生支持文本、图片、视频、音频和PDF五种模态的Embedding模型，可将这些数据映射到同一向量空间，在多模态RAG、跨模态搜索等场景有应用，还介绍了跑分、用法、竞品、价格等情况。