搜索：Flash Attention 2

「Flash Attention 2」共找到 2045 篇相关文章

Synk收购Invariantlabs-AI安全技术的强强联手

2025年6月24日，安全AI软件开发领导者Snyk宣布收购AI安全研究公司Invariant Labs。Snyk CEO称收购增强了抵御新兴威胁能力。Invariant Labs在MCP领域领先，成果丰富，Snyk也有多样产品，合并有望带来1+1>2效果。

Anthropic在Claude Code中引入对连接远程MCP服务器的支持，开发人员无需手动本地服务器设置就能集成外部工具和资源，还支持通过HTTP或SSE的OAuth 2.0进行身份验证，不同人对此功能看法不一。

谷歌发布 Gemini CLI，是其 AI 助手终端版，有慷慨免费使用配额。它开源且功能多，支持多平台。接入 Gemini 2.5 Pro 通用模型，开发者反馈其代码生成和修复能力强，谷歌在代码能力上提升明显。

大模型长文本推理存在瓶颈，作者提出 ParallelComp 方案。它有并行 Attention 分块、KV 缓存智能淘汰与注意力偏差校准三大创新，能让 8B 模型性能达 GPT - 4o 的 91.17%，特定任务超 GPT - 4o。

今年媒体让AI做高考数学题，Gemini 2.5 Pro获145分排第一。从去年到今年，AI数学能力指数级增长，这得益于推理模型。推理模型用思维链和强化学习解题，未来高考数学或难区分模型能力。

面壁智能联合清华发布MiniCPM 4.0，极限场景220倍加速。它是首个原生稀疏模型，有InfLLM v2、CPM.cu等创新，基准测试碾压对手，适配全平台，还有科研、工具调用等功能，标志端侧长文本时代到来。

谷歌提出新架构，参数减少40%，训练速度较RNN提升5 - 8倍，某些任务性能超Transformer 7.2%。新架构引入注意力偏向策略，用「保留」取代「遗忘」，还提出Moneta、Yaad、Memora三个新模型，在多任务上表现卓越。

本文介绍开源框架PosterAgent，它能一键将论文转为可编辑的学术海报。相比GPT - 4o，其生成指标优、token使用量少、成本低。研究团队构建评估标准Paper2Poster，实验显示PosterAgent在多方面表现出色。

文章从Copilot 3.0架构规划模块出发，结合DeepSeek R1强化学习训练实践，探讨多智能体架构下大模型编排智能体解决问题。分析Copilot 2.0局限并介绍3.0升级，指出难点，展示效果对比及解决方案。

作者从开源技术分享角度，盘点SGLang对单机规模推理的大量工程优化技巧，涉及FP8 Block GEMM演进、FusedMoE模块优化、Attention Backend优化等，助于提升DeepSeek V3/R1在单机H200上的推理性能。