搜索：Attention性能瓶颈

「Attention性能瓶颈」共找到 2427 篇相关文章

首个测试时共进化合成框架TTCS：在「左右互搏」中突破推理瓶颈

厦门大学DeepLIT课题组提出全新测试时课程合成框架TTCS，不依赖外部标注，通过生成器与求解器共进化博弈合成课程数据，解决测试样本过难导致的训练坍塌问题，实验显示其推理能力提升显著。

MemGovern团队联合多高校团队提出MemGovern框架，将杂乱GitHub数据转化为AI可用的结构化记忆。它构建筛选净化流水线，采用先搜后看模式，实验显示能显著提升代码智能体的bug修复率，还具跨领域推广价值。

科学软件大多难直接运行，制约AI4S与Agentic Science发展。Deploy - Master应运而生，是一站式自动化工作流。Search Agent筛选工具，Build Agent用双模型辩论机制使部署成功率超95%，为科学智能体交互打基础。

近年来，大语言模型在复杂推理任务中面临挑战，强化学习虽更接近人类推理过程，但训练“烧资源”。论文《QeRL》提出量化不仅能压缩模型、节省资源，还能增强模型探索能力，QeRL框架实现训练速度提升、内存占用减半。

数据集蒸馏能让模型高效节能，WMDD和GUARD两项研究分别解决保留原始数据特性、提升模型对抗扰动能力问题。WMDD用Wasserstein度量保留几何特性，GUARD平滑损失景观获对抗鲁棒性。

通义实验室开源 Mobile-Agent-v3，覆盖多平台，7B 超同类开源，32B 挑战闭源强手。它有基于云环境的全链路开源方案、全栈 GUI 能力构建和可扩展环境强化学习体系，降低部署开销。

阿里国际发布多模态大模型Ovis2.5，在OpenCompass综合得分提升，保持SOTA水平。它在原生分辨率视觉感知等三方面突破，有9B和2B两版本，代码、模型等资源已开源，技术原理涉及架构、训练与数据。

xAI官宣向所有人开源Grok - 2，其有9050亿参数、128k上下文窗口等强大技术规格。还梳理了开源部分、技术特点、权限等，介绍使用方法，网友和大佬高度评价，马斯克预告后续计划。

小红书人文智能实验室（hi lab）低调开源视觉语言模型dots.vlm1。该模型基于自研视觉编码器构建，在视觉理解和推理任务上接近SOTA水平，实测表现惊艳，还介绍了其技术架构、预训练数据布局等内容。

抱抱脸热门排行榜出现R1变体模型DeepSeek-TNG-R1T2，构建于多个父模型之上，在智能与输出token长度间达新平衡点，速度快且测试表现佳，还给出与不同模型对比的选择建议。