「注意力算法」共找到 756 篇相关文章
DeepSeek们越来越聪明，却也越来越不听话了。
论文《When Thinking Fails: The Pitfalls of Reasoning for Instruction - Following in LLMs》用实验验证，模型推理能力变强时，提示词遵循能力变差。研究团队对15个模型测试，发现用CoT推理后执行准确率下降，还提出4种提升指令遵循效果的方案。
继LlaMa 辞职事件之后，微软被爆AI 部门裁员波及6000人！包括AI总监
微软突然宣布裁员约6000人，占全球员工总数3%，横跨多条产品线，AI总监也被裁。官方称是为集中资源，员工不满靠模型决定去留。同时，Meta的LLaMA团队也有人员离职，折射AI行业资金与人才的矛盾。
特征工程、模型结构、AIGC——大模型在推荐系统中的3大落地方向｜文末赠书
文章指出大模型在三个层次改变推荐系统，一是改变“知识学习”方式，带来知识输入革命；二是改变“智能体”结构，探索推荐模型新范式；三是创造“新世界”，实现个性化内容生成。还介绍了相应落地应用及对从业者的建议。
人才黑洞！UC伯克利系主任都加入A社了
UC伯克利EECS系主任Jelani Nelson暂离大学，加盟Anthropic预训练团队。他算法课播放量超2100万，研究聚焦大规模数据高效处理，这正是A社所需，此前他还在谷歌兼职。
Sonnet 5 翻车！同性能价差最高 56倍，海外巨头为何复刻不出 DeepSeek？
Anthropic发布Claude Sonnet 5，官方称补足了Agent能力，价格优惠，但开发者反应不佳。Sonnet 5因tokenizer换代，实际使用成本更高，且比同类模型贵。与之相比，DeepSeek V4 Pro便宜很多，其靠技术实现低价，海外厂商难以复刻。
Karpathy又封神！掀翻RAG，把你的笔记变成第二大脑
前OpenAI创始成员Andrej Karpathy提出让大模型把笔记「编译」成持续生长的活Wiki，替代RAG。他将笔记当源代码，LLM当编译器，实现知识结构化。此方案降低维护成本，解放人类注意力。
京东广告大模型实战：GRAM 架构如何在 50ms 内完成生成式推荐？
流量红利见顶，广告营销转型遇挑战。京东张泽华在大会公开应对方案，介绍 GRAM 架构，实现意图与商品语义对齐，控制推理时延，解决冷启动等问题，还分享算法与知识工程实践。
USC团队发布HumDex：攻克人形机器人数据瓶颈，低成本实现全身灵巧操控
南加州大学团队提出HumDex系统，结合高精度便携追踪、手部控制算法和人类数据预训练机制，打破人形机器人高质量数据采集瓶颈，提升全尺寸操作泛化能力，经实验验证效果显著。
内存减6倍、精度0损失，推理提速8倍！谷歌新技术震撼了AI圈
Google Research团队推出TurboQuant技术，能将KV缓存6倍压缩、无精度损失，推理速度提升8倍，解决内存瓶颈问题，为大语言模型应用扫清障碍，引发业界关注，还致存储芯片巨头股价大跌。
刚刚，梁文锋署名开源「记忆」模块，DeepSeek V4更细节了
十几个小时前，DeepSeek 发布新论文，与北大合作，作者有梁文锋。针对大模型问题提出条件记忆，用 Engram 模块实现，已开源。结合此前研究，DeepSeek v4 模样渐清。模型性能、效率表现优，并发现 U 型扩展规律。