「注意力头」共找到 274 篇相关文章
无需训练,即插即用,2倍GPU端到端推理加速——视频扩散模型加速方法DraftAttention
高质量视频生成任务中,扩散模型成主流,但DiT模型注意力机制计算量大,成推理瓶颈。现有加速法效果不佳,为此美国东北大学等团队提出DraftAttention,可2倍加速推理且不损画质。
这,太狠了:35k Star Lightpanda
本文介绍GitHub上35k Star的开源项目Lightpanda,它是专为Agent自动化打造的轻量无头浏览器,从零开发砍掉冗余桌面外壳,大幅降内存提速度,明确说明了适用场景与使用边界。
AI一天写4.4万行代码却没合并,程序员:AI Coding 真正的瓶颈来了
本文分享腾讯AI原生研发的真实案例,指出AI Coding产能提升后,最大瓶颈已非模型能力,而是现有研发治理体系与人的注意力适配问题,同时预告2026奇点智能技术大会的行业实践分享。
Kimi新架构让马斯克叹服!17岁高中生作者一战成名
17岁高中生陈广宇作为共同一作的论文提出Attention Residuals技术,将注意力机制“旋转90度”。该技术可让模型“回头看”,经Kimi Linear 48B大模型验证,训练效率提升25%,推理延迟增加不到2%。
10秒视频token超5万,O(n²)跑不动?用后训练线性化框架实现1.71倍加速,推理成本大降|CVPR'2026
视频生成进入大规模时代,但计算成本高,自注意力复杂度O(n²)跑不动。研究团队提出LINVIDEO后训练框架,无需数据和重新预训练,实现视频扩散模型线性化替换,保持生成质量,加速推理并降低成本。
前端开的同学,天塌啦,AI把前端开发最后一公里给补上啦,不敢相信,太夸张啦~~~
Vercel Labs 开源的 agent - browser,是面向 AI Agent 的无头浏览器自动化 CLI。它解决了 AI 前端开发缺真实浏览器验证交互的问题,适用于多场景,有诸多对 AI 友好的特性,还介绍了使用方式。
DeepSeek-OCR 2 架构创新性能暴涨 3.73%
DeepSeek-OCR 2核心技术突破集中于DeepEncoder V2架构创新与端到端优化。如视觉Tokenizer低参高效压缩Token,LLM式视觉编码器用双流注意力驱动因果建模等,还采用三级训练流水线提升效率。
两个Ilya的宿命轮回:老黄10亿美金开启赛博修仙!
OpenAI花1亿美金买Torch做「数据转接头」,想让ChatGPT成全科医生;Claude用超长文本窗口处理医学文献和数据。而NVIDIA投10亿与药企建实验室,用BioNeMo重写生命,开启药物生成新纪元。
十万美元的机械狗,正在“排泄”你的肖像!
迈阿密巴塞尔艺术展上,售价十万美元的《普通动物》由三只戴扎克伯格、马斯克和安迪·沃霍尔面具的机械狗组成,内置摄像头捕捉观众与环境,AI生成图像后“排泄”出实体作品,引发不同评价。
骨灰级克隆网站设计的开源项目
现在克隆网站设计常停留在截图和吸色,难以完全还原。designlang 项目用无头浏览器打开 URL,从实时 DOM 读取设计系统,输出多个文件,还能做到布局模式等其他提取器做不到的事。