「自回归架构」共找到 2864 篇相关文章
LeCun在Meta的最后一篇论文
LeCun于11月11日提交最新论文《LeJEPA：无需启发式的可证明且可扩展的自监督学习》，当天其离职Meta消息曝光。论文提出LeJEPA自监督学习方法，解决表示崩溃问题，还回顾了JEPA架构发展，虽毁誉参半，但LeCun将继续推进世界模型工作。
跳过“逐字生成”！蚂蚁集团赵俊博：扩散模型让我们能直接修改Token | MEET2026
在量子位MEET2026智能未来大会上，蚂蚁集团赵俊博称扩散架构能直接修改控制token，理论上速度更快、成本更低。他团队押注扩散架构，近期开源千亿规模LLaDA 2.0。该领域虽处早期，但发展快，吸引众多巨头和初创公司布局。
Patreon 年度回顾中的架构经验
2025年Patreon工程团队在为超千万付费会员推新功能时重建底层设施。其年度回顾详述12个项目，提炼韧性迁移、数据模型重构、分布式系统一致性权衡三大架构主题，还分享多项目实操经验。
冲击自回归，扩散模型正在改写下一代通用模型范式
Google I/O 2025 开发者大会上，Gemini Diffusion 引发关注，它是采用扩散模型的语言模型。此前已有团队探索扩散式 LLM，如斯坦福、上海 AI 实验室等。蚂蚁集团和人大推出 LLaDA，后发展出多模态模型，国内团队跻身前列。
为什么自监督永远学不到语义？
《Visual Language Hypothesis》论文用纤维丛理论审视视觉表征学习，指出只做连续变换难触达语义。分析现有无监督学习不足，提出“Expand - and - Snap”机制，还通过实验验证，提供审视AI架构新视角。
深度拆解 DeepSeek Harness 架构：AGI 的自进化，终于有了「后悔药」
8月13日，DeepSeek开放DeepSeek Harness v0.1开发者预览版，在Github获4.5万星。它提出“一切皆插件”概念，核心组件可插拔。还联合北大提出Cordis框架，解决组件插拔问题，但面临价格与组件膨胀挑战。
BigBang-Proton: 自回归基座模型统一语言、科学和物质世界
超对称公司发布新版基座模型 BigBang - Proton，实现多学科问题与 LLM 统一预训练和推理，挑战主流 AGI 技术路线。它有三项创新，在多专业学科任务表现出色，还提出宇宙尺度压缩构想。
DeepSeek被曝自研AI推理芯片
据路透社报道，DeepSeek 正开发自研 AI 推理芯片，欲降低对英伟达和国产芯片依赖。此为重大战略转变，影响英伟达股价。虽有降本等好处，但面临技术、制造、生态等挑战。
InfoQ 2025 年趋势报告：软件架构和设计
InfoQ 2025 年软件架构和设计趋势报告，借助《跨越鸿沟》模型分类。涉及 AI 多方面趋势，如 LLM 普及但应用场景存疑，还有 Agentic AI、SLM 等创新领域，以及 RAG、AI 辅助开发等不同阶段趋势。
DeepSeek-OCR 2 架构创新性能暴涨 3.73%
DeepSeek-OCR 2核心技术突破集中于DeepEncoder V2架构创新与端到端优化。如视觉Tokenizer低参高效压缩Token，LLM式视觉编码器用双流注意力驱动因果建模等，还采用三级训练流水线提升效率。