「预训练策略」共找到 2842 篇相关文章
JustGRPO：扩散语言模型的极简主义回归
本文提出回归极简的方法 JustGRPO，在 RL 阶段让模型自回归生成，用标准 GRPO 训练，能超越各类针对 dLLM 设计的 RL 算法表现，提升推理表现同时保留并行解码能力。
Anthropic嘲讽奥特曼：我们从不玩 “红色警报”！CEO放话：Claude更赚钱！流量仅GPT 1%敢冲3500亿IPO？
Anthropic正筹备上市，估值或超3000亿美元。其CEO透露营收情况，嘲讽OpenAI“红色警报”，称Claude更赚钱。公司聚焦企业市场，还探讨了行业困境、IPO对标及应对“技术性失业”策略。
AI Code赛道跑出一匹黑马：字节Doubao-Seed-Code
字节发布面向Agentic Coding任务优化的编程模型Doubao - Seed - Code。它在代码能力、生态兼容性、价格上优势明显，在实际案例中表现出色，其训练体系独特，为开发者提供高性价比选择。
狼人杀AI对决：手把手教你打造高分Agent
作者参加AI狼人杀比赛，分享构建高分Agent全过程。介绍比赛规则、题目挑战及解题思路，阐述Agent基础能力，如缓存、并发集成等，还提及模型调优、战术策略，最后开源代码，分享心得体会。
AI「作业神器」时代，我教书的那些事
AI「作业神器」普及，让学生不愿深入思考。一位教授分享经历，指出AI让课堂沦为防作弊战场，还谈到应对策略，如重新定义作业、鼓励合作讨论等，强调教育要培养独立思考者。
R1时代，RAG-Retrieval技术总结与展望~
RAG - Retrieval提供全链路RAG检索模型微调、推理及蒸馏代码，支持多模型、多loss和训练方式。还发布模型技术报告，设计评估框架，未来探索RL在检索领域应用。
OpenAI官宣GPT-6 Astra，AGI时代要来了吗
OpenAI官宣GPT - 6 Astra，自称‘世界上最聪明、对齐最好的模型’，总裁称迎来AGI时代。它成绩亮眼，能直接完成工作，达网络安全阈值，训练让AI深度参与，但价格较贵。
Mythos限测首日破防，论坛玩家猜网址就摸进门了
4月7日，Anthropic新模型Claude Mythos Preview限量发布，当天就有未授权用户猜出在线地址获得访问权限。Anthropic称未发现自身系统受影响，该模型对齐表现较好，但训练有技术错误。
抛弃“级联”架构！快手OneRec用大模型重构推荐系统，服务成本降至1/10
传统级联式推荐架构有瓶颈，快手用OneRec重构推荐链路，服务成本降至1/10。文中介绍OneRec架构、Tokenizer方案、强化学习奖励设计，还提及优化及多模态联合训练方向。
OpenAI核心研究员：比提示词工程更重要的，是spec-writing
OpenAI研究员Sean Grove在AIEWF 2025演讲提出，程序员最有价值技能是向AI传达意图，完善规范是含完整意图的「源代码」。他还分享软件工程看法，涉及规范执行、模型训练等内容。