「多头潜在注意力」共找到 288 篇相关文章
AI一天写4.4万行代码却没合并，程序员：AI Coding 真正的瓶颈来了
本文分享腾讯AI原生研发的真实案例，指出AI Coding产能提升后，最大瓶颈已非模型能力，而是现有研发治理体系与人的注意力适配问题，同时预告2026奇点智能技术大会的行业实践分享。
突发！OpenAI停止强化学习训练两周
OpenAI发文称暂停最新模型强化学习训练两周，加固研究环境、进行红队测试等。部分低风险训练已恢复，最大规模前沿模型训练仍暂停。此举源于Hugging Face安全事故及Astra模型潜在风险。
ACL 2026 | 赋予视频生成「视觉思维链」：VChain显式建模时空规划与状态演变
南洋理工大学团队在ACL 2026发表VChain框架，引入大模型视觉推理能力提升视频逻辑连贯性。它分三步实现，实验效果超现有方法，还展示视频推理与生成的潜在趋势，为多模态模型协作提供范例。
世界模型开始做减法？LeCun团队和清华团队给出两种思路
近期，Yann LeCun团队的LeWorldModel用简洁JEPA实现从像素端到端训练世界模型，降复杂度且验证潜在空间物理刻画能力；清华团队的Fast - WAM探讨推理阶段显式生成未来必要性，给出高效替代路径。
Kimi新架构让马斯克叹服！17岁高中生作者一战成名
17岁高中生陈广宇作为共同一作的论文提出Attention Residuals技术，将注意力机制“旋转90度”。该技术可让模型“回头看”，经Kimi Linear 48B大模型验证，训练效率提升25%，推理延迟增加不到2%。
10秒视频token超5万，O(n²)跑不动？用后训练线性化框架实现1.71倍加速，推理成本大降｜CVPR'2026
视频生成进入大规模时代，但计算成本高，自注意力复杂度O(n²)跑不动。研究团队提出LINVIDEO后训练框架，无需数据和重新预训练，实现视频扩散模型线性化替换，保持生成质量，加速推理并降低成本。
DeepSeek-OCR 2 架构创新性能暴涨 3.73%
DeepSeek-OCR 2核心技术突破集中于DeepEncoder V2架构创新与端到端优化。如视觉Tokenizer低参高效压缩Token，LLM式视觉编码器用双流注意力驱动因果建模等，还采用三级训练流水线提升效率。
ICLR2025 | LLM为什么能拒绝回答有害问题呢？
该论文首次系统性研究注意力头在LLM安全中的作用，提出Ships和Sahara方法，在极少参数改动下显著降低模型安全性，发现不同模型安全头高度重叠，为理解模型安全机制提供新视角。
曾让 Adobe 豪掷千亿，如今要独立上市了！招股书疯狂点名 AI 150 次，新产品对标 Lovable
网页设计工具开发商 Figma 申请 IPO，招股书提“AI”超 150 次，既视其为“创意加速器”，也认为是“潜在威胁”。该公司业务增长强劲，今年扩展工具库，虽 AI 投入短期内有负面影响，但仍会加倍投入。
Anthropic冲刺9000亿美元估值：48小时定生死，两周内见分晓
Anthropic给潜在投资者下48小时参与融资的最后通牒，融资规模约500亿，目标估值9000亿。部分早期投资者跳过，公司需资金支撑算力。若达成，将超OpenAI，这或为上市前最后一轮私融。