「旋转不变型三线性注意力机制」共找到 263 篇相关文章
算力十年狂飙100000倍，他却每天担心破产！黄仁勋亲述：如何用“30天危机感”逆袭万亿AI市场
英伟达推出 CUDA Toolkit 13.1，号称 20 年来最大更新，有 Tile 编程等亮点。黄仁勋回顾创业，称每天有破产危机感。他还谈 AI 发展、应用、意识及工作影响等，认为 AI 会创造新工作，也能缩小技术鸿沟。
氛围编程后，Karpathy又双叒有新「脑洞」！PDF将死，未来99%是AI氛围阅读
Karpathy提出未来研究论文不应是PDF格式，未来99%注意力将来自AI，科研成果应为AI优化。此观点源于生物学家Michael Levin关于为AI写作的讨论，引发众多科技思想者回应。
首次！世界模型、动作模型融合，全自回归模型WorldVLA来了
阿里巴巴达摩院提出全自回归模型 WorldVLA，首次融合世界模型与动作模型，统一文本、图片、动作理解和生成。它用独立编码器处理多模态数据，还提出策略解决误差累积问题，实验表现优异。
模型宣称的“百万字处理能力”是真本事，还是营销噱头？LongCodeBench揭露真相
近年来大模型号称有百万字处理能力，但这是真本事还是噱头存疑。论文用LongCodeBench测评工具揭开长上下文模型真实表现，测试顶尖模型发现长文本能力‘翻车’，还分析了长上下文难的原因及面临的瓶颈。
A社你解释下，啥叫Sonnet 5比Fable 5还贵？
Anthropic推出新版性价比模型Sonnet 5，定位为“最能干活”，能力提升但价格暗藏玄机。开发者实测发现，新分词器使Token消耗增加，实际花费可能比Opus还高，且有性能相近但价格更低的替代模型。
AI教父Hinton首爆十年前拍卖：我早已内定谷歌必赢！
NeurIPS 2025访谈中，AI教父Hinton和Jeff Dean回顾AI发展。Hinton透露Scaling顿悟源于Ilya演讲，还谈及AlexNet、谷歌大脑诞生等。二人探讨Transformer、Gemini，也对AI未来发展方向发表看法。
20000 GPU·h砸出 106 个SOTA模型架构：AI 科研进入“自我加速”时代
模型架构发现领域迎来突破，ASI - ARCH超级智能体无需人类预设搜索空间，完成科研闭环。经20000 GPU·h、1773次实验，发现106个超越人类SOTA的线性注意力架构，且已开源。
Cache Me If You Can：陈丹琦团队如何「抓住」关键缓存，解放LLM内存？
普林斯顿大学陈丹琦团队新论文聚焦长上下文语言模型 KV 缓存问题。传统 KV 缓存大小随输入文本长度线性增长，此前方法难公平比较。团队提出「KV 足迹」指标，改进方法并推出 PruLong 优化内存，节省空间且保性能。
DeepSeek们越来越聪明，却也越来越不听话了。
论文《When Thinking Fails: The Pitfalls of Reasoning for Instruction - Following in LLMs》用实验验证，模型推理能力变强时，提示词遵循能力变差。研究团队对15个模型测试，发现用CoT推理后执行准确率下降，还提出4种提升指令遵循效果的方案。
我的 AI 原生开发流程：一个真实案例的完整复盘
作者复盘用 AI 给 App 加新功能的开发流程，指出 AI 原生开发本质还是传统流程，但执行主体从人变成 Agent，人是指挥官，确认决策；各环节有变化，文档更重要，大部分开发类 Skills 没必要。