搜索：自注意力机制

「自注意力机制」共找到 1952 篇相关文章

视觉Token注入CLIP语义，走向多模态理解与生成新范式

腾讯ARC Lab等机构提出全新视觉分词器TokLIP，将低级视觉Token与高级CLIP语义结合，支持端到端自回归训练，可接入LLM框架，降低计算与数据门槛，在多模态任务中表现优异，代码已开源。

AI生成论文泛滥，arXiv等预印本平台升级审核机制，用自动化工具检测。Nature发现每年约2%论文因AI使用被拒，如bioRxiv等平台每天拒绝不少AI手稿。平台既要防造假，又要避免误伤合理AI润色。

自回归语言模型逐词生成文本拖慢推理速度、限制并行能力。Apple提出全新框架，挖掘其对未来词元“先验知识”，通过多项技术并行预测多词元，微调预训练模型可显著提速且不损输出质量。

本文编译自 a16z 与 Cluely 联合创始人兼 CEO Roy Lee 的对话。Roy 分享了 Cluely 的发展路径，它前身是作弊插件，后成 AI 助手平台，靠病毒营销 2 个月实现 600 万美金 ARR，虽有争议但潜力大。

文章提出思维锚点概念，指推理轨迹中影响后续步骤和答案的关键句。开发三种归因方法，系统论证高级组织句影响力更大，锚点主导错误修正。研究为理解LLM推理机制开辟新途径，开源工具支持可视化分析。

Spring 之父 Rod Johnson 开源专为 JVM 生态设计的 AI 智能体框架 Embabel，旨在弥合生成式 AI 的‘承诺’与‘现实’差距。它采用 GOAP 方法保证确定性，有弹性执行与动态重规划能力，还引入多种机制确保可控性与安全性。

向来低调的小红书昨日开源首个自研大模型 dots.llm1，它是中等规模的 MoE 模型，在较小激活量下性能良好。其开源力度堪称行业最大，还介绍了数据处理、训练优化等多方面技术细节。

国内大模型竞争分资源派、技术派、国家队三阵营，多模态成竞争分水岭。阶跃星辰成立两年发22款自研基座模型，16款为多模态。其坚持理解生成一体化路线，在多模态领域有优势，还布局多应用场景。

本文深度解读DeepSeek最新发布的V4.1 Flash大模型，详解其全新CED架构与第二代压缩稀疏注意力CSA2，揭秘其通过架构创新大幅压缩KV缓存、降低显存算力成本，在长上下文Agent场景实现性能反超的细节。

文章围绕LLM生成式检索在手猫搜索召回的应用展开。先点明当前搜索召回机制问题及生成式检索挑战，提出CQ - SID等方法，经实验验证其效果佳，还介绍了线上实验成果，最后展望未来探索方向。