搜索：Attention性能瓶颈

「Attention性能瓶颈」共找到 2449 篇相关文章

阿里通义开源GUI智能体SOTA：2B到235B端云协同重新定义移动端GUI智能体

阿里通义实验室开源MAI - UI，通过端云协同架构等解决GUI智能体部署难题。它全谱系模型设计应对硬件约束，自进化数据管线和在线强化学习提升性能，端云协同平衡隐私与效率，扩展动作空间打破局限，在多基准测试创SOTA。

智谱AI发布GLM - 4.6V系列模型，是首个支持工具调用的视觉模型。作者对其进行7个场景测试，如识别鸟类、分析赶海地点等，展现出不错性能。该模型速度快、开源，有优势也有小问题，适合开发者和普通用户。

英伟达最新论文指出，大模型在Agent任务中消耗大量计算资源，成本高、效率低、灵活性差，而小模型能在性能够用前提下让任务执行更经济灵活。小模型通过优化硬件资源和任务设计高效执行任务，但落地面临挑战。

8月6日晚，OpenAI发布ChatGPT世代首个开源模型GPT - oss，有120B和20B两款。模型原生支持4 - bit量化，性能损失小，低配置显卡也能运行。跑分表现不错，还介绍了使用途径，虽有不足但改变开源社区格局。

近日MIT研究者发现测试时训练在大模型应对复杂推理问题时，能分解任务提升回答准确率。8B的lemma3模型经此方法，在ARC和BBH数据集上性能显著提升，超Claude 3.5等。但该策略部署效率低。

腾讯开源的高性能跨端框架 Kuikly，搭配 AI 开发，仅用 7.5 小时交付一套支持 Android、iOS、鸿蒙三端的 AI 聊天 App。介绍了开发过程，包括环境准备、需求分析、编码实现、集成自测、迭代优化和验收复盘，展示了“AI + Kuikly”的高效。

这篇深度访谈聚焦阿里云与平头哥，探讨模型推理提升13倍背后的秘密。随着AI焦点转向推理，行业面临算力、成本、监管等矛盾。嘉宾分析推理范式现状与变化，探讨推理加速技术及优化策略，还谈及瓶颈、未来发展及竞争方向。

苹果提出内存高效型反向传播（MeBP），可在内存使用量和计算时间上比零阶优化（ZO）有更好权衡，收敛更快、性能更优，还在iPhone 15 Pro Max验证其有效性，且公开了实现链接但目前为空。

2025年5月9日，雷峰网等举办“具身智能之VLA的实践与突破”线上圆桌沙龙。多位专家探讨VLA定义、起源、技术路线等，指出其面临推理、数据等瓶颈，还讨论了与强化学习结合、数据选择、提升泛化性、长程任务及落地场景等问题。

文章是对蚂蚁开源x SGLang Meetup中「蚂蚁Theta面向DeepSeek系列模型的深度优化和实践」分享的解读，详细介绍了在H20-96G上对DeepSeek系列模型推理的优化方案，包括Prefill和Decode阶段的优化、通信优化、观测诊断等，并给出了评测结果。