「新注意力机制」共找到 4298 篇相关文章
ICCV 2025｜训练太复杂？对图片语义、布局要求太高？图像morphing终于一步到位
图像处理中‘图像morphing’常见又有创意，但以往技术有训练复杂等问题。南洋理工大学等团队提出FreeMorph方法，无需训练实现图像变形，通过改进注意力机制解决特征丢失和过渡不连贯问题，实验效果佳。
复旦硬核青年：破解核材料百年难题，为人造太阳锻造不灭铠甲
张宏亮童年时便渴望稳定电力，考入复旦后历经行业寒冬。他深耕核材料研究，取得多项成果，能用新技术降低成本、能耗，揭示材料新机制，回国后又搭建研究系统、优化工艺等，还看重产学研结合和跨界融合。
字节&MAP重塑大模型推理算法优化重点，强化学习重在高效探索助力LLM提升上限
强化学习虽提升大语言模型表现，但面临探索难题。字节跳动等团队提出FR3E框架，分两阶段重建探索机制，在多数学推理基准实验中显著优于强基线，为大模型强化学习提供新范式。
Clawdbot开发者：未来一大批应用都会消失，提示词就是新的interface
Clawdbot开发者Peter Steinberger在采访中分享诸多观点，认为今年是「个人助理」之年，每个人应构建智能体探索记忆机制；指出GUI糟糕，多数MCP应做成CLI；还称未来大批应用会消失，提示词是新界面。
让大模型学会“像人一样”查证真伪
伊利诺伊大学香槟分校等校研究团队提出训练框架Veri - R1，为大模型提供“在线查证”新范式。它借助在线强化学习、精细化奖励机制和高质量数据，让模型学会像人一样查证，在多数据集上表现出色。
万字长文！大模型LLM推理优化技术总结
文章围绕大模型LLM推理优化技术展开，先介绍LLM推理各阶段、批处理、KV缓存等概念及内存需求，再阐述模型并行、注意力机制优化、模型优化和模型服务等技术，如Pipeline并行、MQA、量化、动态批处理等。
机器人需要一个「思考系统」：τ0-VLA让具身智能迈向长程任务时代
2026 WAIC落幕，具身智能成焦点。当前VLA模型在长程任务中有局限，上海创智学院和智元机器人联合发布τ(0)-VLA，提出分层架构和新推理机制，用大量真机数据训练，在长程任务表现出色。
Qwen3-Next全新架构，32K场景MTP吞吐提升10倍
随着模型大小和上下文长度增加，为应对成本和部署挑战，Qwen3 - Next有突破性架构创新，解决上下文长度和总参数缩放问题。它采用混合注意力、超稀疏MoE等，MTP机制让其长上下文推理吞吐量比前身高10倍以上。
19岁少年用计算机炼出「神药」，斩获全球大奖！大厂看了都沉默
19岁斯洛伐克少年Adam Kovalčík用计算机模拟设计新分子，提出新合成方法，有望将抗RNA病毒药物Galidesivir成本降6倍，还设计出对新冠抑制效果或达Galidesivir 5倍的新分子，获全球青少年科研大奖。
AI 基础知识从 0.5 到 0.6—— Transformer 架构为何能统治AI领域？
文章围绕Transformer架构展开，先介绍其诞生背景，对比CNN、RNN等模型，阐述其在多领域的核心地位。接着剖析工作流程、实现原理，包括QKV机制、多头注意力等。最后列举T5、GPT等常见架构模型，并提及通义千问3与MCP协议。