「生成式预训练」共找到 4011 篇相关文章
一夜之间OpenAI神秘模型“o3-alpha”刷爆时间线：远胜 Claude Sonnet
OpenAI神秘新模型“o3-alpha”正在测试，刷爆时间线。早期测试显示其性能超强，能一键生成游戏，前端编码能力远胜Sonnet、o3等。有猜测它是AHC模型或OpenAI将开源的模型。
MoCa：首个大规模双向多模态表征模型
为解决VLM用于嵌入的痛点，中国人民大学等机构研究者提出MoCa框架，可将单向注意力VLM训练成双向多模态编码器。它分两阶段，实验效果好，未来可拓展模态、提升多语言适应等。
这个扩散LLM太快了！没有「请稍后」，实测倍速于Gemini 2.5 Flash
AI初创公司Inception Labs推出首款专为聊天定制的商业级扩散LLM——Mercury。它速度超快、效率高，能实时响应对话。实测显示其速度优于Gemini 2.5 Flash等，不过生成质量有待提升。
为AI打造的知识图谱服务器MemoryMesh
MemoryMesh是专为AI模型设计的知识图谱服务器，适用于多种结构化数据场景。它有动态模式驱动工具等特性，可自动生成管理工具，还配备记忆查看器，提供安装指南和提示词建议。
仅用图像也能Think：Google等提出一种视觉规划的全新推理范式！
剑桥和Google等提出并开源视觉规划范式，通过纯视觉表示规划，独立于文本。还引入VPRL框架，用GRPO后训练大型视觉模型。实验选三个视觉导航任务，VPRL表现最佳，显著优于其他方法。
通义实验室新研究：大模型自己「扮演」搜索引擎，提升推理能力无需搜索API
阿里通义实验室开源ZeroSearch，提供无需与真实搜索引擎交互的强化学习框架。它用模拟搜索环境和渐进式抗噪训练，让LLM自给自足，节省API成本，在多问答数据集表现优，为智能化检索提供新思路。
4个MIT的00后，两年干出全球最火AI编程工具，600亿美元卖给了SpaceX
今年1月，Cursor CEO Michael Truell决定训练自有模型，不再依赖Anthropic的Claude。5个月后，SpaceX以600亿美元收购Cursor母公司。此前Cursor增长快但依赖Claude，自研模型有成本优势却缺算力。
高潮从第几秒开始？GaMMA 让多模态大模型真正「听懂」音乐时间线
现有多模态大模型难以理解音乐时间线。复旦大学与字节跳动团队提出 GaMMA，采用双编码器融合网络，经三阶段训练，还推出 MusicBench 评测基准。实验显示，GaMMA 在多基准上表现优异，刷新 SOTA。
不写、不看、不审查：这家安全公司决定不再让人类碰代码，还把这套模式开源了
2026年2月，安全公司StrongDM公开“软件黑灯工厂”式生产线成果，人类不直接写代码和审查，由Agent自动生成。该模式开源，虽有开发者指出问题，但获学界认可，不过面临成本高的现实问题。
SGLang｜SGLang Diffusion
来自SGLang开源社区的Yichi介绍SGLang Diffusion，它是面向图像与视频生成的全开源扩散模型推理引擎。基于SGLang机制将能力迁移到扩散模型推理，能显著提速工作流，视频展示了多种功能。