「无注意力模型」共找到 8143 篇相关文章
融资 1200亿后 Kimi 再扔王牌，新架构爆改 Transformer 老配件，比 DeepSeek 同款还省钱
Kimi 发布新论文，提出“注意力残差”架构改进 Transformer 残差连接，解决“稀释问题”，让 AI 更聪明、更省钱，还推出“分块注意力残差”优化成本。与 DeepSeek 方案对比，Kimi 方案性价比更高。
从零开始200行python代码实现LLM
文章从传统思路出发，用Python实现极简大语言模型，介绍从零基础到Bigram模型的过程，包括词汇表、模型训练推理等内容，还讲解了PyTorch基础，最后实现pytorch版Bigram模型，后续将实现完整GPT。
ACL 2026 | LCA：DeepSeek 长文本加速神器，90% KV 缓存缩减 + 2.5 倍推理提速
琶洲实验室等团队提出潜在空间压缩注意力（LCA），入选 ACL 2026。LCA 突破传统注意力机制瓶颈，适配不同大模型，降低硬件门槛与成本，提升推理效率。论文与代码已开源。
最强大脑组合！全球SOTA的逻辑和记忆CodeBrain-1&MemBrain1.5同时开源
世界模型初创公司Feeling AI正式发布并开源MemBrain1.5和CodeBrain-1，终结AI“无状态”工具时代。CodeBrain提升模型操作成功率、降低成本，MemBrain重构记忆系统，二者助力Agent能力升级。
国产开源LLM迎来大爆发的一周：Kimi、腾讯、快手、美团、面壁智能
国产开源大模型迎来爆发，快手、月之暗面、美团、面壁智能、腾讯等接连发布新模型，如快手Keye-VL - 1.5 - 8B刷新视频理解SOTA，美团LongCat - Flash - Chat推理快成本低等。
推理正确率下降65.5%！斯坦福、MIT等用「不等式」拷问AI逻辑极限
大语言模型在数学证明常现推理漏洞，斯坦福等高校团队提出IneqMath基准评估其严谨性。用不等式证明题切入，拆解为子任务，构建评测体系，用LLM - as - Judge审查。结果显示模型推理正确率低，存在结构性缺陷。
MIT这篇RLM论文，给出了Scaling的另一种可能~
当大家普遍认为解决长上下文问题要靠扩大模型上下文窗口时，MIT 最新的 RLM 论文提出新路径。其 code 已开源，能实现无界上下文处理，可让任意大语言模型处理 10 万 +token。
刚刚，中国AI天团杀向RSI！1分钟预测全球天气、20分钟手搓OS
本文报道上海人工智能实验室等多家机构联合发布智能体模型Atria Dawn Preview，该模型可1分钟预测全球天气、20分钟搭建MiniOS，团队同时分析AI研发中的人机分工，披露最新协作数据。
杨植麟、张鹏、罗福莉等齐聚一堂，他们关于OpenClaw的观点值得一听。
2026中关村论坛人工智能主题日，杨植麟主持小龙虾与AI开源圆桌，智谱张鹏、无问芯穹夏立雪、小米MiMo罗福莉、港大黄超等嘉宾就OpenClaw、模型发展等话题展开讨论，干货满满。
抖音&LV-NUS开源多模态新模，以小博大刷新SOTA，8B推理比肩GPT-4o
抖音SAIL团队与LV - NUS Lab联合推出多模态大模型SAIL - VL2，以中小参数规模在106个数据集实现性能突破。该模型从架构、数据、训练三方面创新，后经全链路优化，在多数据集验证中表现卓越。