「Attention性能瓶颈」共找到 2426 篇相关文章
让LLM互相“审稿”：简单的LLM Collaboration/Ensemble方法实现7%性能提升
文章提出LLM-PeerReview方法，受学术同行评审启发，含评分、推理、选择模块。采用‘翻转三元评分技术’减少偏差，实验显示该方法超单一LLM及LLM Ensemble基线，性能提升显著。
SRO架构赋予Qwen-2.5-VL推理能力，性能飙升16.8%
文本领域推理模型成就大，但扩展到多模态大语言模型遇阻力，如冷启动初始化不足等。为此提出 SRO 三阶段训练框架，经测试，ReVisual - R1 平均性能提升 16.8 个百分点。
Zendesk：生成式 AI 让代码不再稀缺，研发瓶颈转向“吸收能力”
Zendesk 提出生成式 AI 改变软件交付核心制约因素，从编写代码转为‘吸收能力’。文章阐述该概念，提出四项应对措施，还指出 AI 对不同系统的影响，深化了编码非瓶颈的观点。
CVPR 2025 | 解决XR算力瓶颈，FovealSeg框架实现毫秒级IOI分割
来自纽约大学和Meta Reality Labs的联合研究提出Foveated Instance Segmentation新方法。FovealSeg框架结合眼动追踪，能解决XR算力瓶颈，实现毫秒级IOI分割，在多数据集测试中速度与精度双赢。
跳过88%专家，保住97%性能！MoE推理的正确玩法| CVPR’26
多模态大模型走向大规模，MoE架构虽降低计算开销，但推理成本仍高。香港科技大学等团队提出MoDES，它是training - free动态专家跳过框架，能跳过88%专家还保留97%性能，推理速度提升2倍。
突破40年Dijkstra算法瓶颈，清华教授等颠覆教科书！斩获STOC最佳论文
清华大学教授段然提出最短路径新方法，击败经典Dijkstra算法，突破40年排序瓶颈。该算法不依赖排序，运行更快，摘得STOC最佳论文，团队正优化追求更快速度。
Ollama升级模型调度系统：内存管理更精准，多GPU性能提升
Ollama升级模型调度系统，精确测量运行模型所需内存，带来内存崩溃减少、GPU利用率提高等改进。Gemma3、Mistral - small3.2等模型性能提升，更多模型正迁移，还在开发iGPU支持，评估NPU支持。
AgentCPM-Explore开源，4B 参数突破端侧智能体模型性能壁垒
清华大学、中国人民大学等联合研发的 AgentCPM-Explore 开源，基于 4B 参数在深度探索任务上表现出色，打破参数壁垒，开源全流程基建，还探索出提升小模型性能的方法。
DeepSeek-V3.2-Exp：用稀疏注意力打破长文本效率瓶颈
在NLP领域，处理长文本时传统注意力机制效率低。DeepSeek团队推出DeepSeek-V3.2-Exp模型，引入稀疏注意力机制，在保持性能同时提高长文本处理效率，降低计算复杂度，在多基准测试中表现良好。
大模型智能体如何突破规模化应用瓶颈，核心在于Agentic ROI
上海交通大学联合中科大研究指出，大模型智能体规模化应用有瓶颈，核心在于Agentic ROI 未达实用门槛。研究提出其发展呈「之字形」，先规模提升信息质量，再轻量化降成本。