「架构创新」共找到 2538 篇相关文章
扩散不死，BERT永生！Karpathy凌晨反思：自回归时代该终结了?
苹果前员工Nathan Barry得出BERT本质是文本扩散一步的结论，将表示学习算法改造成生成算法。OpenAI创始员工Karpathy对此沉思，认为生成逻辑在LLM架构中可变。实验证明RoBERTa可转为生成引擎。
让机器人在“想象”中学习世界的模型来了！PI联创课题组&清华陈建宇团队联合出品
斯坦福Chelsea Finn课题组与清华陈建宇团队联合提出可控生成世界模型Ctrl - World，可让机器人在“想象空间”预演任务。该模型使用零真机数据，提升下游任务指令跟随成功率。其相关论文已发布于arXiv平台。
当代码江湖遇上智能副驾：一场开发效能的「御剑飞行」
文章以代码江湖为喻，介绍开发者困境，引出智能GitHub Copilot副驾驶。它能提升开发者工作满意度和代码编写效率，全球2000万开发者在用，微软还持续创新。11月14日将举办分享会探讨其应用。
美团杀入视频生成模型赛道，LongCat-Video 136亿参数媲美顶尖模型，效率提升10倍
美团LongCat团队发布LongCat - Video基础视频生成模型，有136亿参数量，多任务表现出色。它核心亮点多，还建立了数据处理流水线，采用特殊架构和训练方法，提升了生成效率，性能媲美顶尖模型。
实战·Agentic 上下文工程（上）：无需微调，让智能体自我学习与进化
在Agent时代，提示工程进化成上下文工程。斯坦福等团队提出Agentic Context Engineering（ACE），让智能体自我学习与进化。文章介绍了上下文工程的必要性、定义、常见策略，以及ACE的概念、原理与架构。
1.58bit不输FP16！微软推出全新模型蒸馏框架，作者全是华人
微软推出蒸馏框架BitNet Distillation，实现几乎无性能损失的模型量化。它含三阶段，经实验在多下游任务表现近全精度模型，降内存开销、提推理速度，作者全是微软研究院华人。
具身智能迎来ImageNet时刻：RoboChallenge开放首个大规模真机基准测试集
近日，RoboChallenge推出全球首个大规模、多任务真机基准测试。它构建开放、公正、可复现的‘真实考场’，为视觉 - 语言 - 动作模型提供评估标准，推动具身智能发展，还提供远程测试服务等。
谢赛宁新作：VAE退役，RAE当立
谢赛宁团队研究表明VAE时代结束，RAE将接力。RAE是用于扩散Transformer训练的新型自动编码器，能提供高质量重建结果，有语义丰富潜空间，支持可扩展架构，收敛快，在ImageNet图像生成效果强劲。
AI 原生设备爆发，操作系统迎来更智慧、更流畅、更安全的范式革命
AI原生设备爆发，传统操作系统面临挑战，将迎来范式革命。vivo蓝河操作系统3（BlueOS 3）全栈自研，具备“天生更智慧、更流畅、更安全”特质，本文以此为例解读操作系统架构重塑。
微调已死？Agentic上下文工程登场，无需微调实现模型进化
斯坦福大学等团队提出 Agentic Context Engineering 技术，让语言模型无需微调自我提升。它将上下文视为作战手册，引入三种协作角色与三项创新，实验显示其在两类任务上表现优异，成本和延迟显著下降。