「Flash Attention 2」共找到 2026 篇相关文章
Insanely Fast Whisper：开源社区让音频转录速度提升19倍
Insanely Fast Whisper工具将OpenAI Whisper转录速度提升19倍，采用Flash Attention 2技术，零质量损失。它集成多语言支持、说话人分离等实用功能，还支持跨平台，免费运行。最初是基准测试demo，值得音频处理用户关注。
阿联酋K2横空出世，数学、代码样样行，速度全球最快，GPT-4看了都得抖三抖
阿联酋穆罕默德·本·扎耶德人工智能大学与G42公司联合推出开源AI推理系统K2 Think，基于Qwen 2.5 - 32B模型。它靠六项技术性能出众，在多领域测试成绩好，还以小参数量媲美大模型，且全面开源。
Python 2还能走多远？
自2020年Python 2停止维护，虽仍有项目在用，但企业和社区都在向Python 3迈进。文章介绍了Python 2的发展历程、存在的问题，阐述Python 3的优势，并给出了从Python 2切换到Python 3的方法。
0.3B参数，600MB内存！腾讯混元实现产业级2Bit量化，端侧模型小如手机App
腾讯混元团队推出面向消费级硬件的“极小”模型HY-1.8B-2Bit，参数量仅0.3B，内存占用600MB。它基于产业级2Bit端侧量化方案，生成速度提升，还通过多种方法提升能力，未来将探索新技术缩小与全精度模型差距。
Kimi K2.6背后的Agent Database：Agent-native 时代的数据 Infra 竞争，跟过去 30 年有何不同
TiDB Cloud 成 Kimi K2.6 供应商，为其 Agent 建站服务提供支持。Kimi K2.6 由 Agent 完成在线应用构建，与其他 AI 建站应用不同，它全托管且用户无需技术背景。该合作解决了成本和基础设施难题，展现了 Agent-native 时代数据 Infra 竞争的新特点。
当Sora 2意外停摆，这个国产视频生成创业团队，直接「开源」三连击
OpenAI叫停Sora 2项目，同期北京AI初创公司Sand.ai在GitHub连续三天开源核心技术栈，包括音视频同出大模型、分布式Attention组件、全局编译框架，还介绍了团队和产品，展现全栈实力。
Google 发布 Gemini 3.1 Flash-Lite：每秒 363 tokens，百万 token 只要 $0.25
Google发布Gemini 3.1 Flash-Lite，输出速度达363 tokens/秒，比上一代快45%，首个token响应快2.5倍。价格降低，输入$0.25/百万tokens，输出$1.50/百万tokens。跑分不错，还有动态思考功能，支持多模态输入。
刚刚，美团开源全模态龙猫模型，和 ChatGPT 大战 100 回合打得难解难分
美团发布开源全模态 MoE 模型 LongCat-Flash-Omni，参数 560B 激活 27B。它有真正全模态能力，采用创新架构和训练范式，基准测试表现亮眼，部分指标超 Gemini-2.5-Flash，引发网友热议。
神秘霸榜模型现真身：小米MiMo-V2 Pro，国内首个万亿参数+1M上下文，为Agent而生！
小米全新一代面向 Agent 的大模型家族官宣，包括 MiMo-V2-Pro Preview、MiMo-V2-Omni 和 MiMo-V2-TTS。MiMo-V2-Pro 性能优异，在多场景实测表现出色，技术有创新，API 开放且定价低，已融入小米多业务与生态。
SGLang Custom AllReduce v1 与 v2 实现原理详解
文章聚焦 SGLang 里两代自定义 all-reduce 实现（v1 和 v2），前者从 vLLM 移植，后者是默认版本。详述其负载特征、前提条件、分发链、同步机制、算法及 CUDA graph 支持等内容，还对比了两代差异，并提及相关环境变量。