「Attention性能瓶颈」共找到 2434 篇相关文章
微软开源新版Phi-4：推理效率暴涨10倍，笔记本可运行
今天凌晨微软官网开源Phi - 4家族最新版Phi - 4 - mini - flash - reasoning，它参数小性能强，适合边缘设备。采用自研SambaY架构，推理效率涨10倍，延迟降2 - 3倍，多场景测试表现优异。
彻底戳穿AI「失忆症」！超越OpenAI全局记忆，中国队开源LLM记忆操作系统
大语言模型有「记忆」缺失问题，国内顶尖团队打造出操作系统级AI记忆框架MemOS并开源且可商用。它将「记忆」升为「一级资源」，用MemCube封装记忆，评测显示性能优于OpenAI全局记忆方案。
模型、代码、数据全开源！轻松训练自己的垂类Agent！
Together AI联合Agentica推出`DeepSWE-Preview`，基于开源Qwen模型，用RL在SWE - Bench - Verified登顶。团队将模型权重、训练框架等全开源，抛弃SFT纯用RL训练，还分享训练秘籍和TTS技巧，为垂类Agent训练提供新范本。
比10年专业医生准4倍！微软发布突破性医疗AI系统
微软首席执行官分享新发布的医疗AI系统MAI - DxO，它模型无关，能适配不同语言模型，模拟医生诊断流程。测试显示其准确率远超专业医生，成本大幅下降。此外还发布序贯诊断基准SDBench。
Anthropic：我们如何构建多智能体研究系统
Anthropic分享构建多智能体研究系统的经验，该系统用多个Claude智能体探索复杂主题。介绍了多智能体系统优势、架构、提示工程、评估方法，也提及生产环境的挑战，此系统处理开放式研究任务价值大。
关于 Multi-Agent 到底该不该做，Claude 和 Devin 吵起来了
有两篇多智能体文章引发热议。Anthropic分享多智能体研究系统构建经验，指出适合特定任务；Cognition认为当下AI Coding暂不适用多智能体。文章还介绍多智能体架构、提示词原则等内容。
ACL 2025｜为什么你设计的 Prompt 会成功？新理论揭示大模型 Prompt 设计的奥秘与效能
英属哥伦比亚大学等团队剖析Prompt在LLM的CoT推理中调控模型内部信息流，构建量化Prompt搜索空间复杂度理论框架。研究解释提示有效的原因，提供设计高效提示词思路，实验验证理论框架。
SGLang 推理引擎的技术要点与部署实践｜AICon 北京站前瞻
SGLang 是开源推理引擎，截至 2025 年 6 月，GitHub 近 15K Stars，月均下载量超 10 万次，被多个行业巨头采纳。InfoQ 专访其核心开发者尹良升，他分享关键技术等内容，6 月 27 - 28 日他将在 AICon 演讲。
大模型结构化推理优势难复制到垂直领域！最新法律AI评估标准来了，抱抱脸评测集趋势第一
多个机构研究人员联合发布全新多语言法律推理基准数据集LEXam，它含4886道题，每道长篇题有答案和推理路径。研究显示现有大模型应对法律推理难，LEXam引入评估新模式，还对不同模型做了测试。
开启 AI 自主进化时代，普林斯顿Alita颠覆传统通用智能体，GAIA榜单引来终章
普林斯顿大学AI Lab推出通用智能体Alita，秉持「极简即是极致复杂」哲学，采用「最小化预定义」与「最大化自我进化」设计范式，可自主创造MCP工具，在GAIA基准测试中表现卓越，还能实现MCP复用。