搜索：预训练语言模型

「预训练语言模型」共找到 8363 篇相关文章

CVPR 2026｜清华联合美团推出3DThinker，首个用3D意象思考的工作

当前多模态大模型在空间理解任务表现弱，缺乏对几何信息提取能力。清华联合美团推出3DThinker，无需3D标注和外部工具，让模型内蕴‘想象’三维场景，在多基准上提升效果，且具备一定可解释性。

Apple研究团队提出Internalized Visual Thinking（IVT），一种将预测性世界建模能力内化到模型表征中的后训练框架。它在训练时预测未来，推理时直接回答，相比Visual CoT推理提速超5倍。

OpenAI悄悄上线ChatGPT Translate挑战谷歌翻译，该工具支持超50种语言，有翻译后「二次加工」能力，但功能尚不完善。谷歌则高调开源TranslateGemma模型，支持55种语言，效率惊人，12B参数超越27B基线。

大视觉语言模型带来隐蔽攻击面，现有检测器难平衡。中国人民大学与阿里巴巴集团联合提出Learning to Detect（LoD），不依赖攻击样本和手工规则，从模型内部激活学安全模式，实验效果好且代码开源。

Google DeepMind研究《通过内在自我批评提升大语言模型的规划能力》，不借助外部验证器，让LLM反复“自评+重写”，使Blocksworld准确率从49.8%升至89.3%，还介绍了方法及跨模型验证情况。

本文对比OpenAI对异星机器心智的风险预警，介绍中国乐享科技基于仿生神经科学思路，研发出面向机器人的以太大模型，已完成多场景验证，将举办户外开放直播测试，探索具身智能新路线

MIT新作《Self-Adapting Language Models》实现LLM自我进化，SEAL框架让模型自己生成“自编辑”微调自身。它能实时学新数据、修复知识、形成记忆。经两种场景验证，小模型也能超越GPT - 4.1等。

在NeurIPS 2025论文中，南京理工大学等校研究团队提出VIST框架，为大语言模型长文本高效推理提供视觉解决方案。它模仿人类阅读机制，让模型具备选择性阅读能力，减少Token需求和内存使用。

围绕大模型蒸馏争议已久，此前外部团队难获闭源模型完整推理。8 月 10 日研究者公开方法，可让弱模型读取旗舰模型密文并输出推理，还发现公开智能体轨迹存在隐私泄露问题，不过未为蒸馏指控提供决定性证据。

大语言模型成AI应用基础设施，黑盒服务模式引发信任危机。研究者提出IMMACULATE审计框架，能在不暴露模型信息、仅1%额外开销下，验证黑盒LLM API执行完整性，检测违规行为，相关论文与代码已公开。