搜索：联合自注意力

「联合自注意力」共找到 2250 篇相关文章

社区供稿丨AgentCPM-Explore开源，4B 参数突破端侧智能体模型性能壁垒

清华大学、中国人民大学等联合研发的 AgentCPM-Explore 智能体模型开源，它基于 4B 参数，在深度探索类任务表现佳。有打破参数壁垒等亮点，还开源配套工具，提供应对小模型挑战方法，邀伙伴共建生态。

早上苹果与Google官宣的新闻刷屏，下一代苹果基础模型将基于Gemini构建。苹果因自研来不及且人才流失，选择花10亿买Google模型。还分析了未选OpenAI的原因，以及隐私方面的问题。

传统强化学习在创意写作领域举步维艰，蚂蚁技术研究院联合浙江大学开源全新强化学习范式Rubicon，构建10000+条「评分标尺」，拓展应用至主观任务领域，其30B模型用5000样本超越671B的DeepSeek V3。

在 ACM KDD 2025 大会上，清华与中国移动联合发布 UoMo，全球首个面向移动网络的通用流量预测模型。它结合扩散模型与 Transformer，能理解地理与人流变化，一个框架搞定三类流量预测任务。

在AI热词不断涌现的时代，斯坦福大学等机构研究将长上下文、状态空间模型、扩散模型等结合，创造全新「视频世界模型」。它用状态空间模型实现长期记忆，还设置局部注意力机制，训练和推理表现出色。

全球首个AI专家市场「袋袋」上线，降低「数字分身」变现门槛。非技术专家自然对话，技术大佬用CLI模式上传项目文件。买家可按需雇佣专家，获专业成品。袋袋有多项技术，保障安全且能自进化。

在‘AI生物制造专场’中，杨晓锋副教授指出AI4S重塑蛋白质全生命周期，但面临维度鸿沟挑战。其认为AI需有外推能力，还展示可切割自聚集标签法简化流程，推动生物制造发展。

自Sora 2发布，科技厂商掀起视频生成模型竞赛。12月15日商汤上线Seko 2.0，实现AI短剧‘一人剧组’。其背后的LightX2V框架做到实时生成，还适配国产芯片，有望推动视频创作生产力革命。

人工智能从‘感知’迈向‘行动’，具身智能成焦点。当前强化学习框架对具身智能支持受限，清华等机构联合开源面向具身智能的框架RLinf，提出混合式执行模式，设计灵活可扩展，在多方面表现出色。

中科院自动化所等团队提出VHR方案，通过“视觉神经增强”机制放大模型视觉关键注意力头输出，降低幻觉现象。此前主流方法多作用于最终输出阶段，VHR深入干预内部机制，还介绍了SSL语义引导方法。