「自注意力机制」共找到 1946 篇相关文章
AI 企业 Day 0 出海，如何少走技术弯路？
InfoQ与多家AI出海企业交流发现，很多企业放弃常见Agent平台和流行框架，选择自研全栈平台。GMI Cloud升级产品，构建完整基础设施图谱，解决全球算力部署、模型调用和Agent商业化落地问题。
卡帕西大模型横评方法太好玩了！四大AI匿名参赛评分，最强出乎意料
卡帕西发布“大模型议会”web app，系统通过OpenRouter调起多模型开会商议，各模型答题、互评、排序，由主席模型给出统一答案。可对比模型差异，模型自评与人类主观或不同，多模型集成或成突破点。
8种LLM架构设计大比拼：从 DeepSeek-V3 到 Kimi K2，究竟有啥不同
文章对比了8种LLM架构设计，如DeepSeek-V3、OLMo 2等。介绍各模型关键技术，像DeepSeek-V3的多头潜在注意力和混合专家架构，还分析不同设计对性能、效率的影响，助读者了解LLM架构差异。
揭秘腾讯内部科研组织ARC Lab：找最好的人才，做最难的事情
文章揭秘腾讯ARC Lab，它在行业低谷时创立，坚持找最好人才、做最难之事。介绍运营机制，如小团队、技术影响力漏斗、绩效体系等，还阐述其在学术、行业、业务、社会和人才方面的影响力。
除了prompting外，不动参数，如何改变模型行为？
文章指出传统提示工程控制大模型生成行为有缺陷，提出Steering Target Atoms (STA)方法。它用稀疏自编码器分解LLM高维表示，定位“原子知识组件”精准控行为，实验效果超现有技术，还能控制推理长度。
能效翻5倍！他们复刻人脑双记忆通路，造出能长效记住上下文的类脑AI芯片
帝国理工学院博士后孙鹏飞和苏黎世联邦理工博士后苏哲及合作者，受大脑皮层机制启发，打造“双重记忆路径”类脑网络及配套芯片，处理语音识别任务时能效比此前优方案高5倍。相关论文发表在《自然·机器智能》且代码、设计全开源。
刚刚，Claude 5.1 发布！全球最强模型来了
Anthropic推出Claude Fable 5.1和Claude Mythos 5.1。Fable 5.1面向普通用户等，Mythos 5.1面向高风险领域伙伴。Fable 5.1性能优、价格低，在多测试中表现提升，还能用于科研，且安全防护机制升级。
世界模型公司「厘清智能」完成数亿元种子轮融资，顺为红杉高瓴齐押注
清华系初创公司「厘清智能」完成数亿元种子轮融资，投资方豪华。其构建世界模型系统，全栈自研，释放强大泛化能力。由97年博导李一鸣领衔，集结名校人才。资本认为其是稀缺的‘范式级’团队。
斯坦福英伟达推出测试时强化学习：微调开源模型胜过顶级闭源模型，仅需几百美元
斯坦福、英伟达等提出TTT - Discover方法，基于开源模型gpt - oss - 120b，在测试阶段引入强化学习更新模型权重。它采用熵目标函数和PUCT启发机制，解决分布外问题，成本低且表现优，但目前适用于连续奖励场景。
长文本生成迎来新突破：拓元智慧推出 DrDiff ，实现效率与质量双提升
拓元智慧联合多团队开发出 DrDiff 框架，解决长文本生成中效率与质量难兼顾问题。其核心是“动态化”，有分层稀疏注意力、动态专家调度、语义锚点状态三个创新组件，经测试表现良好，未来应用值得期待。