「乐高式架构」共找到 2398 篇相关文章
把RoPE扔掉，AI更能看懂长上下文！Transformer作者团队开源大模型预训练新方法
Transformer架构核心作者之一Llion Jones团队开源新技术DroPE，可丢弃位置嵌入扩展上下文，解决RoPE长序列处理缺陷，在多模型实验中表现卓越。该团队来自Sakana AI，此前还有相关研究成果。
今年最具启发的Claude Code用例：她用cc搭了8个Agent监控自己的生活
文章介绍Molly Cantillon用Claude Code搭建8个并行Agent实例监控生活，涵盖产品运营到睡眠管理等。她21岁辍学创业，其架构新颖，还提出权力关系逆转观点，最后给出使用建议与警告。
注意力机制大变革？Bengio团队找到了一种超越Transformer的硬件对齐方案
Transformer虽改变世界但不完美，线性递归等新方法理论有优势，实际在GPU表现不佳。Bengio团队提出硬件对齐算法框架，用滑动窗口循环和B2P算法，实验显示有速度与质量双重突破。
自回归因果注意力也能并行解码？上交联合UCSD突破LLM推理瓶颈，模型代码全开源
大语言模型推理速度是应用瓶颈，传统方法各有弊端。上交和UCSD团队提出Jacobi Forcing方案，无需重构架构，将AR模型转为并行解码器，提速显著且质量损失小，核心优势多，技术路线全链路优化，实测表现优。
Meta详细阐述基于LLM级训练、混合并行计算与知识迁移的GEM广告模型
Meta发布生成式广告模型GEM详细信息，旨在改善平台广告推荐能力。它处理海量用户 - 广告交互数据，用三种方法构建系统，还实施GPU级优化，采用两种知识迁移策略，获业内人士认可。
最火、最全的Agent记忆综述，NUS、人大、复旦、北大等联合出品
多所顶级学术机构联合发布百页综述《Memory in the Age of AI Agents: A Survey》，为‘Agent Memory’梳理技术路径。提出三角框架，辨析与其他概念差异，还探讨记忆形式、功能、运转机制，展望未来发展方向。
中科院首提「AI哲学」，万字解读：为自身立命，为AI立心
中科院吴怀宇教授首次系统性提出「AI哲学」体系，以「感智境行」为核心架构，探讨智能本质、人机边界等，为人类应对AI冲击提供认知框架，也为AI赋予意识根基，涉及多学科，具多方面价值。
开盘大涨416%，市值近3000亿元，“国产GPU第一股”今日上市
12月5日，“国产GPU第一股”摩尔线程登陆A股，开盘大涨416%，市值近3000亿。它成立五年成国内代表企业，有全栈自研能力。不过，也面临国际巨头、国内竞品、供应链等挑战，且尚未盈利。
AI终于学会「读懂人心」，带飞DeepSeek R1，OpenAI o3等模型
威斯康星大学麦迪逊分校联合清华的研究《MetaMind: Modeling Human Social Thoughts with Metacognitive Multi-Agent Systems》，将元认知理论融入LLM架构，使模型在心智理论测试达人类平均水平，揭示构建社交智能AI方法论。
跟这个音乐Agent聊会儿，分分钟生成抖音神曲 | 对话音乐创作Agent产品Tunee
量子位智库对话国内首个音乐创作Agent产品Tunee负责人贾朔，探讨了产品适配用户群体、核心交互形式、解决需求模糊性等问题，还提及产品价值、迭代方向及推出智能硬件的原因。