「生成式预训练」共找到 4004 篇相关文章
Anthropic首次揭秘下一代Claude怎么造！用户吐槽直接喂模型，连AI“做梦”都被训练
Anthropic研究团队产品经理Alex在访谈中透露Claude演进方向，如将模型开发产品化、向“持续运行Agent”演化，还解释“dreaming”机制等，也提及训练“人格”、研究意识等，展现了长远思考。
Transformer开始构建三维世界：开源模型几张图片秒级生成可探索3D场景
影溯将最新研究成果做成免费3D捕捉工具Crystal空间相机，背后技术QuerySplat已开源。其模型Topos - Lite改变组织三维空间方式，少量图片就能秒级生成3D场景，还能扩展容量。影溯团队经验丰富，技术应用场景广。
长文本生成迎来新突破：拓元智慧推出 DrDiff ，实现效率与质量双提升
拓元智慧联合多团队开发出 DrDiff 框架，解决长文本生成中效率与质量难兼顾问题。其核心是“动态化”，有分层稀疏注意力、动态专家调度、语义锚点状态三个创新组件，经测试表现良好，未来应用值得期待。
马斯克xAI正式入局世界模型，目标：明年搞出个AI生成的大游戏
马斯克的xAI入局世界模型开发，对手是Meta和谷歌等。其从英伟达挖专家，目标是开发先进AI系统，还计划明年底前发布AI生成游戏。不过构建世界模型挑战大，游戏行业有人对此谨慎。
美团提出多模态推理新范式：RL+SFT非传统顺序组合突破传统训练瓶颈
美团研究者提出Metis - RISE框架，将RL激励和SFT增强以非传统顺序结合提升多模态大语言模型推理能力。先RL激发潜能，再SFT补齐短板，训练的两模型在OpenCompass榜单成绩优异。
无损减少80%激活值内存，提升5倍训练序列长度，仅需两行代码
港中文（深圳）和上海交通大学团队提出 StreamBP 算法，通过线性分解和分步计算，将大语言模型训练激活值内存降至梯度检查点的 20%，在相同内存下最大序列长度为其 2.8 - 5.5 倍，代码已开源。
谷歌AI Studio大更新：推出全新“vibe编程体验”，一键生成AI应用,好用到爆
谷歌AI Studio发布全新vibe编程体验，可一键生成AI应用。基于Gemini API，启动界面有功能建议，还有“手气不错”按钮。构建问答游戏不到1分钟，免费且可编辑代码，还有AI建议功能，适合小白。
LeCun世界模型出2代了！62小时搞定机器人训练，开启物理推理新时代
Meta开源发布V-JEPA 2世界模型，图灵奖得主Yann LeCun称其将为机器人技术带来新时代。该模型能理解物理世界，经训练后在多方面表现优异，Meta还发布新基准测试，也透露了后续计划。
大模型“精细化”对齐，真实性提升25.8%刷新SOTA！token级精准编辑，无需训练即插即用
北航团队在EMNLP 2025提出Token - Aware Editing (TAE)方法，从token层面解决传统表征编辑技术问题，无需训练、即插即用，在多个对齐维度显著提升，如在TruthfulQA任务上真实性指标提升25.8%。
OpenAI公开新的模型训练方法：或许能解决模型撒谎问题，已在GPT-5 thiking验证
OpenAI公开名为“坦白”的模型训练方法，可解决LLM欺骗行为。该方法强制模型自我反省，“坦白”奖励与“主要回答”奖励分离。在GPT - 5 - Thinking上实验，能提升不良行为可见性，但对“无知的错误”有局限。