「生成式预训练」共找到 4011 篇相关文章
突发！OpenAI关停Sora
OpenAI彻底退出视频生成业务，关闭App和API，ChatGPT视频功能也没了，迪士尼10亿美元合同作废。Sora研究团队转向机器人方向。原因是Anthropic靠文字和代码实现高营收，而Sora营收不佳且消耗算力。
ACL'25首届博士论文奖 | 重新思考 LLM 中的数据使用
近日，第一届 ACL 计算语言学博士论文奖获得者是 Sewon Min，其论文《重新思考大型语言模型中的数据使用》围绕大型语言模型如何使用训练所用的庞大文本语料库展开研究。
SRO架构赋予Qwen-2.5-VL推理能力，性能飙升16.8%
文本领域推理模型成就大，但扩展到多模态大语言模型遇阻力，如冷启动初始化不足等。为此提出 SRO 三阶段训练框架，经测试，ReVisual - R1 平均性能提升 16.8 个百分点。
字节开源了一个了不得的模型！
字节跳动开源统一多模态基础模型BAGEL，一个模型能同时理解和生成文本、图像、视频。部署测试有亮点但效果不稳定，还分享该模型体验Demo、地址及安装使用教程。
Anthropic 发文称自家 Claude 已经开智，网友：为了上市，不择手段？
Anthropic发布Claude内部机制新研究，介绍J-space和J-lens，称可读取模型未输出的内部概念。此研究在训练、评测和部署有潜在价值，但叙事引发争议，网友质疑是否过度包装。
数据合成有没有未来？事实结论来了
有人认为用大模型合成数据可快速生产，无需人工标注。但作者观察发现人工标注不仅必要且要求更高。以Scale AI、Surge AI为例说明标注价值，还展示‘智能知识’团队对两数据集审查结果，证明高质量数据需专家和管理流程。
AI Coding 流畅度模型：人机协作中的开发者角色转型与未来演进
生成式 AI 正进入软件开发流程，角色不断扩大。AI Coding Fluency 模型描述团队使用 AI 能力演进，从辅助到自主执行。AI 编程面临信任、上下文、任务设计挑战，关键在于协作方式。
上下文工程（Context Engineering）综述：大模型的下一个前沿
文章提出“上下文工程”学科，通过整合1400余篇论文构建“基础组件 - 系统实现”框架。它将上下文定义为动态结构化信息集合，揭示LLMs理解强于生成的矛盾，为AI研究指明方向。
中科院甩出多模态“核弹”！类GPT-4o多模态模型开源！支持语言-视觉-语音任意组合交互！
中国科学院计算技术研究所（ICTNLP）开源类GPT - 4o多模态模型Stream - Omni，支持文本、视觉和语音任意组合交互，核心是高效模态对齐技术，少量多模态数据即可训练，有多种使用场景。
吴恩达来信：DeepLearning.AI Skill Builder工具隆重上线！
DeepLearning.AI发布Skill Builder工具，可根据用户AI项目经历给出个性化反馈和提升建议，从初学者到高级用户都适用，完全免费，还会生成总结报告，Pro会员有更详尽反馈。