「Index预训练」共找到 2238 篇相关文章
全球首次，Transformer「混血」速度狂飙65倍！英伟达已下注
康奈尔、CMU等机构研究者提出「混合体」Eso - LM，融合自回归和离散扩散模型范式。它引入KV缓存机制，推理速度相比标准MDM提升65倍，在速度与质量平衡上超越BD3 - LM，引发AI领域关注，英伟达或押注此方向。
微软等提出「模型链」新范式，与Transformer性能相当，扩展性灵活性更好
随着大语言模型发展，扩展 Transformer 架构成趋势，但参数规模增长带来训练负担。微软等研究者提出 CoR 概念，构建模型链学习范式，应用于语言模型得 CoLM 系列，实验显示其性能相当且扩展性、灵活性更好。
DeepSeek R1 迎来小更新大升级，性能直逼 OpenAI o3！
昨日，DeepSeek 发布 R1 大模型最新版本 DeepSeek - R1 - 0528 并开启公测。虽官方未附详细技术说明，但用户反馈推理和输出有改进，也有性能方面的不同看法，其在基准测试表现佳。
ETT：打破原生多模态学习视觉瓶颈，重塑视觉tokenizer优化范式
本文由多机构联合完成，针对传统视觉 tokenization 方法优化与下游任务训练割裂问题，提出 ETT 调优方法。它实现联合优化，在多模态理解、生成、重构任务表现出色，虽有局限但带来新突破。
DeepSeek用的GRPO有那么特别吗？万字长文分析四篇精品论文
文章解读 Kimi k1.5、OpenReasonerZero、DAPO 和 Dr. GRPO 四篇论文，分析 DeepSeek R1 里 GRPO 及改进算法。指出 GRPO 非特殊 RL 算法，当前 RL 算法实现相似，变革聚焦价值函数取舍等核心维度。
一场对话，我们细扒了下文心大模型背后的技术
信通院大模型推理能力评估中，文心X1 Turbo获最高级“4+级”。百度AI Day上，副总裁吴甜解析文心4.5 Turbo和文心X1 Turbo，从多模态、深度思考等方面介绍技术，还展示其在多场景应用成果。
Codex和Claude Code都跑偏了，前OpenAI研究员称Jev出现前AI世界是个悲剧
本文是对前OpenAI研究员、TypeSafe创始人Diogo Almeida的访谈，Diogo推出新型大模型Jev，批判现有Codex、Claude Code等AI产品的路线缺陷，提出面向程序直接调用的AI新方向。
AI 桌面火了：把喜欢的人请进桌面，恶搞你的兄弟满地爬
本文介绍近期爆火的AI桌面玩法，分享DIY专属AI虚拟人物动态壁纸、恶搞好友互动桌宠的详细教程，揭秘当前AI桌面互动本质，适合打工人改造桌面解压
Jev爆火硅谷！哑巴AI卷疯14万开发者
ChatGPT核心发明人Diogo Almeida离职OpenAI后推出不会生成文字的大模型Jev，发布3天就被主流平台集成，14万开发者涌入内测，提出行业旧路径跑偏，打造只做决策的新型AI，主打极速低成本零幻觉。
Astra 的 Computer Use 能力是如何实现的？
本文编译自Browserbase增长工程师Kyle Jeong的个人博客，对比了纯视觉路线Computer Use模型的缺陷，详细拆解Astra模型利用无障碍树结合Codex Harness实现能力的架构、训练方法，分析其优劣与行业价值。