「Attention性能瓶颈」共找到 2427 篇相关文章
大模型能否为不同硬件平台生成高性能内核？南大、浙大提出跨平台内核生成评测框架MultiKernelBench
深度学习计算依赖底层内核，当前多由开发者手工编写。南大、浙大推出开源评测框架MultiKernelBench，打破现有评测基准局限，构建模块化评测体系，多模型实测，还指出LLM短板并明确未来方向。
vivo AI Lab提出自我进化的移动GUI智能体，UI-Genie无需人工标注实现性能持续提升
香港中文大学MMLab和vivo AI Lab团队提出自我进化框架UI - Genie，构建奖励模型UI - Genie - RM解决轨迹验证难题，通过数据生成和模型迭代闭环实现智能体与奖励模型双向增强，在多基准测试中表现出色，打破人工标注瓶颈。
蚂蚁dInfer框架，让扩散大语言模型推理速度再飙10倍，相同模型性能下超越自回归模型
蚂蚁开源dInfer框架，联合名校发论文阐述实现细节。它解决扩散模型推理难题，提出创新算法和系统优化策略，实验显示其推理速度远超Fast - dLLM和自回归模型标杆vLLM，代码已开源。
阿里达摩院开源具身大脑基模：3B激活参数性能超越72B，转身就忘事的机器人有救了
阿里达摩院开源RynnBrain具身大脑基础模型，全系列7个。它是业界首个有 时空记忆的模型，在20项具身Benchmark上超顶尖模型。具小而美优势，训练用自研架构提效，数据丰富，输入输出灵活。
苏妈和李飞飞炸场CES！AMD AI全栈野心显露：从云端到个人PC，AI芯片性能四年要飙1000倍
今年 CES 上 AMD 专场演讲亮点多。苏姿丰称未来五年50亿人每天用 AI；李飞飞和她探讨空间智能与世界模型；Helios 平台受关注，MI455 GPU 解决内存墙；Ryzen AI 推动 AI 下放到本地。
AI在线强化学习“边做边学”，斯坦福团队让7B小模型性能飙升，甚至超越GPT-4o
斯坦福等团队提出新范式AgentFlow，由四个智能体组成，用在线强化学习持续提升智能体系统推理能力。以Qwen - 2.5 - 7B - Instruct为基座模型的它在多基准测试表现突出，甚至超越GPT - 4o等大模型。
GPT-5被批过度炒作、性能落后，OpenAI联创揭秘其中原因：我们把它关在 “象牙塔”，和现实世界接触不够
OpenAI 发布 GPT - 5 进军企业市场，虽发布不顺利，但部分初创公司和企业客户反馈其在复杂任务表现出色、价格低廉。OpenAI 联创 Greg Brockman 揭秘 GPT - 5，称其代表‘几乎难以形容的智能’，是科研好伙伴，还探讨算力、模型训练等问题。
“最强编码模型”上线，Claude 核心工程师独家爆料：年底可全天候工作，DeepSeek不算前沿
Anthropic 开发者大会发布 Claude 4 ，含 Opus 4 和 Sonnet 4 型号，在基准测试表现出色。核心工程师预测年底软件工程智能体能力，谈 RL 及 DeepSeek，还提到模型自我意识、推理计算瓶颈等问题。
重磅！中国团队发布SRDA新计算架构，从根源解决AI算力成本问题，DeepSeek“神预言”成真？
国内玉盘AI团队发布《SRDA AI大模型专用计算架构》白皮书，提出全新SRDA计算架构，从硬件源头解决AI算力成本瓶颈。它以数据流为核心，在内存、网络等方面创新，为开发者带来高效、低成本等价值。
SGLang-Diffusion: 两个月进展
自2025年11月初发布，SGLang - Diffusion获广泛关注。过去两月持续优化，速度提升1.5倍。介绍新模型支持、LoRA支持等进展，还展示性能测试结果，阐述关键改进及未来规划。