「Attention性能瓶颈」共找到 2428 篇相关文章
攻克大模型训推差异难题，蚂蚁开源新一代推理模型Ring-flash-2.0
9月19日，蚂蚁百灵大模型团队开源新一代推理模型Ring-flash-2.0，独创棒冰算法解决训推差异难题，实现稳定训练。该模型仅激活6.1B参数就能打平40B Dense模型性能，降低推理成本。
The Batch: 866｜GPT-5 起飞遇乱流
OpenAI推出GPT - 5及其系列模型，涵盖多种类型，有新功能与性能提升。但发布中路由器故障等问题让用户失望。它在部分基准测试表现佳，不过抽象推理能力有不足，还回顾了发布历程。
半量工具，双倍效能：ARPO革新大模型强化学习
大语言模型在多轮工具调用场景有挑战，传统强化学习算法有探索效率低和资源消耗大问题。本文提出ARPO，通过量化token熵分布变化设计自适应探索机制，降低工具调用成本且提升多轮推理性能。
华为昇腾推理对决：开源vLLM vs 官方MindIE，数据说话「Qwen与DeepSeek推理实测」
文章围绕华为昇腾推理，对比开源vLLM与官方MindIE。借助GPUStack平台测试Qwen与DeepSeek模型，分析不同场景性能。指出vLLM和MindIE各有优势，还强调构建国产AI推理生态需多要素，鼓励开源协作。
10% KV Cache实现无损数学推理！这个开源方法解决推理大模型「记忆过载」难题
推理大模型推理时易现冗余问题，R-KV开源方法登场，显存降90%、吞吐提6.6倍、准确率达100%。它通过实时对token排序解决冗余，还经多步骤压缩KV缓存，性能测试表现出色，适用多场景。
Cursor CEO：拉开人与人之间差距的，是品位！
文章总结了Cursor CEO Michael Truell接受访谈的观点，包括未来写代码会落后、AI瓶颈在哪、Cursor自建编辑器原因、小众软件机会、品味的重要性，还提及Cursor的PMF和护城河，推荐看访谈视频。
MiniCPM-o 4.5 技术报告发布：全双工全模态 API 开放，RTX5070 即可实时运行
面壁智能等发布 MiniCPM-o 4.5 技术报告，开放全双工全模态 API。该模型 9B 参数，RTX5070 可实时运行，下载量超 25 万。报告披露 Omni - Flow 框架，模型性能强，还能催生新应用。
全面解析 Agent Engineering 的 10 大工程维度：生产级 Agent 系统的炼成之路。
技术突破让AI智能体成热点，但应用走向真实业务暴露出工程瓶颈。本文围绕智能体工程及其10个核心维度，剖析从“不确定的LLM能力”到“可靠的生产级Agent系统”的炼成之路。
Chiplet（芯粒） —— 后摩尔时代的芯片“乐高”玩法
当单芯片逼近物理极限，Chiplet技术应运而生，它将大芯片拆分成小芯片，通过先进封装技术整合。该技术成本低、良率高，应用场景多元，但面临热管理、测试和标准统一等挑战，未来发展前景广阔。
10项评测痛打GPT-4o！智源重磅开源全球最强具身智能大脑
近日，智源研究院开源具身大脑RoboBrain 2.0 32B版本和跨本体大小脑协同框架RoboOS 2.0单机版。RoboBrain 2.0在多项权威具身智能基准上刷新纪录，RoboOS 2.0创新性集成MCP协议与无服务器架构，二者双擎联动推动机器人迈向群体智能。