「全注意力残差」共找到 2021 篇相关文章
你们催更的模型，云栖大会一口气全发了！
云栖大会上新6款模型、发布1个全新品牌，覆盖多场景。如Qwen MAX万亿参数大模型能力登顶国际榜单，Qwen3 - Omni实现全模态不降智等，各模型能力升级显著，现已同步上线。
人在美国，待过三家AI Lab，全凉了！
科技行业大裁员，Meta裁掉老将田渊栋，AI从业者人心惶惶。南洋理工大学副教授Boyang Li工作过的三家工业研究实验室全倒闭，他分享经历，探讨工业研究困难的原因。
开源即爆火！英伟达重磅推出OmniVinci全模态大模型
英伟达在华盛顿GTC大会开源OmniVinci全模态大语言模型，实现视觉、音频、语言统一理解。它性能超竞品，架构有创新，数据引擎庞大。实验有重要洞察，在多场景表现佳，代表全新AI范式。
AGI新技术路线：下一代稀疏注意力机制Monte Carlo Attention开源
超对称技术公司开源了 Monte Carlo 注意力机制，用于新版基座模型 BigBang - Proton。它在二进制块编码技术上，用块间代表交流机制实现线性复杂度，解决了传统方法的缺点，可实现理论上无限的上下文长度，对现有预训练技术和硬件设计影响深远。
从Vibe Coding到Agentic Engineering：重构后台开发全流程
文章介绍从 Vibe Coding 到 Agentic Engineering 的转变，以真实需求为例，展示后台开发全流程，涵盖需求获取到合入发布各阶段，介绍各阶段工具及操作，凸显 Agentic Engineering 优势，强调人编排、AI 执行的核心理念。
谷歌助力神经科学飞跃，破解斑马鱼全脑活动密码
谷歌等机构科学家联合发布开创性研究成果ZAPBench，这是预测斑马鱼全脑活动的基准测试平台。它含超70000个神经元4D光片显微镜记录，设计多种刺激条件采集数据，有特定基准测试任务和评估指标。
北大团队改造DeepSeek注意力，速度快四倍还不丢精度
北大张牧涵团队提出新稀疏注意力机制HISA，突破64K上下文索引瓶颈，相比DSA提速2 - 4倍，且不丢精度、即插即用。该机制分块级粗过滤和块内精挑字符两步，实测表现亮眼，也指出后续改进方向。
全网首份「龙虾」安全部署指南来了！360出品
近日，开源AI智能体OpenClaw走红，多地出台扶持政策，部署成趋势。但它带来新安全挑战，工信部、信通院等已预警。360集团率先发布国内首份《OpenClaw安全部署与实践指南》，为政企和开发者提供安全参考。
WAIC现场最“聪明”展台！AI眼睛耳朵能力全打开了
WAIC现场，声网展台被观众挤爆，其新奇“AI玩具”都能与玩家流畅对话。声网对话式AI引擎全新升级，新增选择性注意力锁定、视觉理解能力，能与主流数字人方案集成，还可接入大模型，价格低。它已在多领域落地。
OpenAI总裁底牌全交了：买下地球上所有的算力
OpenAI总裁Greg Brockman接受访谈，核心观点是世界长期缺算力。他指出算力需求远未释放，H100涨价凸显供应紧张，OpenAI要全买光算力、自研芯片，还谈到价格与利润、产品形态、智能体应用及医疗领域潜力等。