「注意力经济」共找到 388 篇相关文章
《AI 2027》揭秘:人类会被超级智能取代吗?等等,还有另一个结局!
《AI 2027》由Daniel Cocotal团队发布,精准预测了多项AI发展。报告推演2025 - 2027年AI智能体发展,不同阶段影响各异,还给出两种结局,一是AI重塑世界,二是人类控制住AI并发展安全系统。
MoCa:首个大规模双向多模态表征模型
为解决VLM用于嵌入的痛点,中国人民大学等机构研究者提出MoCa框架,可将单向注意力VLM训练成双向多模态编码器。它分两阶段,实验效果好,未来可拓展模态、提升多语言适应等。
无需训练,即插即用,2倍GPU端到端推理加速——视频扩散模型加速方法DraftAttention
高质量视频生成任务中,扩散模型成主流,但DiT模型注意力机制计算量大,成推理瓶颈。现有加速法效果不佳,为此美国东北大学等团队提出DraftAttention,可2倍加速推理且不损画质。
Kimi新架构让马斯克叹服!17岁高中生作者一战成名
17岁高中生陈广宇作为共同一作的论文提出Attention Residuals技术,将注意力机制“旋转90度”。该技术可让模型“回头看”,经Kimi Linear 48B大模型验证,训练效率提升25%,推理延迟增加不到2%。
10秒视频token超5万,O(n²)跑不动?用后训练线性化框架实现1.71倍加速,推理成本大降|CVPR'2026
视频生成进入大规模时代,但计算成本高,自注意力复杂度O(n²)跑不动。研究团队提出LINVIDEO后训练框架,无需数据和重新预训练,实现视频扩散模型线性化替换,保持生成质量,加速推理并降低成本。
万字拆解:Manus 的 PMF 到底是什么,以及谁在为它一直买单?
本文深入剖析 Manus,探讨其 PMF。分析其使用场景、产品价值,对比与 ChatGPT 差异,勾勒核心用户画像,还发现 AI 工具分工、用户消费特点等,指出 AI 竞争关键,阐明 Manus 边界与行业机会方向。
DeepSeek-OCR 2 架构创新性能暴涨 3.73%
DeepSeek-OCR 2核心技术突破集中于DeepEncoder V2架构创新与端到端优化。如视觉Tokenizer低参高效压缩Token,LLM式视觉编码器用双流注意力驱动因果建模等,还采用三级训练流水线提升效率。
Dario Amodei 达沃斯最新暴论:中国AI从来没有赶上,2027年AI认知能力可能超越所有人类
Anthropic CEO Dario Amodei 在达沃斯访谈中称,AI 认知能力将在一两年内超人类。Anthropic 专注企业级应用,他认为中国 AI 未赶上美国,反对售华 H200 芯片,还谈及 AI 经济、社会影响及安全问题。
ICLR2025 | LLM为什么能拒绝回答有害问题呢?
该论文首次系统性研究注意力头在LLM安全中的作用,提出Ships和Sahara方法,在极少参数改动下显著降低模型安全性,发现不同模型安全头高度重叠,为理解模型安全机制提供新视角。
马斯克挖不动的清华学霸,一年造出 “反内卷 AI”!0.27B参数硬刚思维链模型,推理完爆o3-mini-high
新加坡Sapient Intelligence推出小参数AI模型HRM,能解决复杂推理难题。它受大脑启发,提出“隐性推理”路径,准确率碾压先进思维链模型,推理能力超越o3 - mini - high,经济性突出,任务效率可百倍提升。