「全注意力机制」共找到 2728 篇相关文章
教AI「择偶生娃」，复刻自然演化！上交校友提名最佳论文
Sakana AI受自然演化启发提出全新模型融合进化方法M2N2，引入‘择偶机制’让AI‘竞争、择偶、繁衍’。此研究获GECCO 2025最佳论文提名，M2N2表现优于其他算法，还避免‘灾难性遗忘’。
180 天狠赚 5.7 亿，8 人团队全员财富自由，最大功臣是 Claude 和 Gemini
海外巨头 Wix 斥 8000 万美元收购成立仅 6 个月的 AI 公司 Base44。其创始人 Shlomo 用 AI 打造“开箱即用”开发平台，采用“全栈原生”理念突围。Shlomo 分享创业经历、工具使用及增长策略等。
Kimi新架构让马斯克叹服！17岁高中生作者一战成名
17岁高中生陈广宇作为共同一作的论文提出Attention Residuals技术，将注意力机制“旋转90度”。该技术可让模型“回头看”，经Kimi Linear 48B大模型验证，训练效率提升25%，推理延迟增加不到2%。
ICLR2025 | LLM为什么能拒绝回答有害问题呢？
该论文首次系统性研究注意力头在LLM安全中的作用，提出Ships和Sahara方法，在极少参数改动下显著降低模型安全性，发现不同模型安全头高度重叠，为理解模型安全机制提供新视角。
关于 AI Agent，「实在」、「好用」可能比「颠覆」更重要
8月18日百度AI Day上，百度文库、网盘联合发布全端通用Agent「GenFlow2.0」。它无需邀请码，多专家协助，能利用文库和网盘数据，实测在多场景表现超预期，稳定高效，“好用”才是关键。
谷歌AI的“心脏”长什么样？读懂TPU就够了
文章介绍了谷歌TPU的发展历程，从2015年为解决AI计算效率瓶颈自研，发展到如今成为谷歌“经济支柱”。还对比了谷歌、英伟达、亚马逊的芯片路线，强调谷歌全栈垂直整合策略使TPU在推理时代优势明显。
9B 模型“平替”GPT-4o ？！面壁赌对OpenClaw端侧AI，内部上演一人月产65万行代码的效率核爆
2023年面壁智能转攻端侧大模型，起初遭质疑，后获市场认可。今年发布开源全模态模型MiniCPM - o 4.5，年中还将推AI硬件松果派。其内部有“一人公司”趋势，对未来端侧智能发展有清晰判断。
重新思考RLVR中的熵正则：从探索不足到探索过度的破局之路
2024年以来，RLVR使大模型在推理任务有显著突破，但实践中探索机制易失衡。传统熵正则化在LRM场景易走向极端，研究团队提出SIREN方法精准调控探索，实验显示其在多模型和数据集上性能提升显著。
大模型虽好，但恕我直言：在OCR面前，开源小模型更香
作者所在公司项目需处理大量纸质文档，起初考虑云端大模型API调用和开源大模型本地化部署，却因成本高、硬件要求高受阻。后经推荐调研PaddleOCR，其功能全、成本低、易用性强，最终被选为项目核心方案。
刚刚，全球AI百强榜发布！ChatGPT稳坐第一，DeepSeek第三，前50有22个来自中国
a16z发布「全球Top100消费级GenAI应用榜单」，显示AI竞争格局渐稳，进入多极化阶段。中国多款产品跻身前十，谷歌携四款产品入榜，ChatGPT居首，Grok紧追，氛围编程崛起，还有14家‘全明星’公司从未缺席。