「双预训练架构」共找到 3620 篇相关文章
统治AI十年的Transformer，要被亲爹亲手砸碎？
5月5日旧金山的辩论赛上，Transformer联合发明人Łukasz Kaiser为其作品辩护，三位挑战者指出Transformer五大死穴。Kaiser称除非新架构证明有更好的scaling曲线，否则Transformer仍是主流，还给出具体辩护。
The Batch: 939 ｜在推理阶段学习长上下文
大型语言模型处理长上下文时通常准确性降低、速度变慢，研究人员提出TTT - E2E方法，通过推理时训练模型将上下文压缩到transformer权重中，还展示了其运作方式、测试结果等。
大模型“记性差一点”反而更聪明！金鱼损失随机剔除token，让AI不再死记硬背
马里兰大学等团队提出金鱼损失法，训练时随机剔除部分token，让模型不逐字记内容，仍学语言规律。实验显示，LLaMA - 2用该方法后记忆内容减少，下游任务性能影响小。
苹果新作：内化视觉思考，推理提速 5 倍
Apple研究团队提出Internalized Visual Thinking（IVT），一种将预测性世界建模能力内化到模型表征中的后训练框架。它在训练时预测未来，推理时直接回答，相比Visual CoT推理提速超5倍。
世界模型的新用途：不做选手，去当裁判
眼下具身赛道都在抢着做机器人的“大脑”，而地瓜机器人发布的世界模型Uranus却剑走偏锋，做机器人开发的基础设施。它能更客观地评测VLA和世界模型，还能做机器人训练的“场地”。
在 AI 时代构建 MVP
文章围绕AI在构建最小可行产品（MVP）中的作用展开。它能在理解QARs、推动架构决策等多方面提供帮助，如提出被忽略的需求、缩小技术搜索范围等，但不能完全替代人类做决策。
停止迷信“超级Prompt”：要想AI不犯错，你得专门雇人“怼”它
这篇来自Isotopes AI的论文指出，在生成式AI落地中，迷信‘超级Prompt’不可取。对于高风险场景，单体LLM有局限，论文构建‘AI Office’架构，引入‘对手团队’概念，实验使准确率从60%提升到92.1%，但也有成本和局限。
DeepSeekHarness被骂自嗨，还是Agent界Android？
DeepSeek Harness 评论两极分化，有人赞其为‘Agent 界的 Android’，也有人批其‘自嗨’。若将其视为 Agent Runtime 架构实验，它值得拆解。它以‘一切皆插件’理念设计，有诸多独特架构特点。
OVI：统一的音视频生成模型，声音与画面同步诞生
音视频生成领域以往多阶段架构易致音画不同步等问题。耶鲁大学团队提出 OVI 统一范式，采用双塔 DiT 架构与分块式跨模态融合机制，实现音画同步生成，不过目前有计算开销大、音频有局限等问题。
比自回归更灵活、比离散扩散更通用，首个纯Discrete Flow Matching多模态巨兽降临
近年来多模态大模型多采用自回归架构，推理缺乏灵活性。香港大学和华为诺亚方舟实验室研究团队提出FUDOKI，基于全新非掩码离散流匹配架构，能并行去噪、动态修正，为多模态模型开辟新路径。