「在线后训练」共找到 3862 篇相关文章
全球首次，Transformer「混血」速度狂飙65倍！英伟达已下注
康奈尔、CMU等机构研究者提出「混合体」Eso - LM，融合自回归和离散扩散模型范式。它引入KV缓存机制，推理速度相比标准MDM提升65倍，在速度与质量平衡上超越BD3 - LM，引发AI领域关注，英伟达或押注此方向。
从 AI 招聘到数据标注，Mercor 能否打造下一个 Scale AI？
Mercor 从 AI 招聘平台转型为数据标注服务提供商，与 Scale AI 竞争。它利用早期人才招聘积累，为小规模、高难度项目提供灵活方案，虽数据质量待提升，但增长快，2025 年初 ARR 达 7500 万美元，获 1 亿美元 B 轮融资。
Meta Shuffling的MoE Grouped GEMM kernel benchmark
作者拷贝fbgemm开源的moe grouped gemm kernel，修复小bug后与SGLang的Grouped GEMM Triton Kernel对比，结果显示fbgemm在MoE模型上性能提升显著，可应用到SGLang的ep - moe的grouped gemm kernel中。
一年没用Perplexity，AI搜索进化惊呆我了丨TIP 005
Perplexity Lab推出后，AI搜索实现技术成熟度拐点。作者体验其新出的Perplexity Lab，发现它进化很大，如答案数据可视化、回答可交互等，虽有亏损且价格贵，但仍是实用的AI搜索。
13 年苦熬到 170 亿市值，一夜间被用户抛弃！一封“AI吹”全员信让网友“不喷不行”
Duolingo是热门教育应用，市值约170亿美元。其CEO发“AI优先”全员信引发网友不满，公司曾依赖人类创作者，后用AI生成内容问题频出，还试图用搞笑视频化解危机，却未奏效。
微软等提出「模型链」新范式，与Transformer性能相当，扩展性灵活性更好
随着大语言模型发展，扩展 Transformer 架构成趋势，但参数规模增长带来训练负担。微软等研究者提出 CoR 概念，构建模型链学习范式，应用于语言模型得 CoLM 系列，实验显示其性能相当且扩展性、灵活性更好。
DeepSeek R1 迎来小更新大升级，性能直逼 OpenAI o3！
昨日，DeepSeek 发布 R1 大模型最新版本 DeepSeek - R1 - 0528 并开启公测。虽官方未附详细技术说明，但用户反馈推理和输出有改进，也有性能方面的不同看法，其在基准测试表现佳。
微软 CEO吹爆「智能体」：AI不仅要“杀死”SaaS，操作系统也会“格式化”重来
微软CEO萨蒂亚·纳德拉在Build 2025大会后深度访谈，回应‘SaaS已死’论，抛出‘零成本智能’和‘无代码操作系统’愿景，还阐述了AI智能体、SaaS变革等观点，强调微软全面押注AI。
ETT：打破原生多模态学习视觉瓶颈，重塑视觉tokenizer优化范式
本文由多机构联合完成，针对传统视觉 tokenization 方法优化与下游任务训练割裂问题，提出 ETT 调优方法。它实现联合优化，在多模态理解、生成、重构任务表现出色，虽有局限但带来新突破。
DeepSeek用的GRPO有那么特别吗？万字长文分析四篇精品论文
文章解读 Kimi k1.5、OpenReasonerZero、DAPO 和 Dr. GRPO 四篇论文，分析 DeepSeek R1 里 GRPO 及改进算法。指出 GRPO 非特殊 RL 算法，当前 RL 算法实现相似，变革聚焦价值函数取舍等核心维度。