「预训练研究」共找到 3695 篇相关文章
ACL 2025｜为什么你设计的 Prompt 会成功？新理论揭示大模型 Prompt 设计的奥秘与效能
英属哥伦比亚大学等团队剖析Prompt在LLM的CoT推理中调控模型内部信息流，构建量化Prompt搜索空间复杂度理论框架。研究解释提示有效的原因，提供设计高效提示词思路，实验验证理论框架。
人形机器人「网球运动员」来了！不靠预编程，银河通用×清华破解长程打网球难题
银河通用与清华联合提出LATENT研究，使人形机器人通过深度强化学习自主习得网球对打能力，实现从“机械复刻”到“智能决策”跨越。该研究提出新运动学习方法，构建“运动小脑”等，经实验验证性能优越。
0.5B以小搏大拿下端侧模型新SOTA：4090可跑，长文本处理5倍常规加速丨清华&面壁开源
清华大学和面壁智能团队开源MiniCPM 4，有8B、0.5B两种参数规模，以22%训练开销达同级别最优。它在架构、推理、数据、训练多方面创新，性能领先，适用于综述生成、工具调用等场景。
世界模型的新用途：不做选手，去当裁判
眼下具身赛道都在抢着做机器人的“大脑”，而地瓜机器人发布的世界模型Uranus却剑走偏锋，做机器人开发的基础设施。它能更客观地评测VLA和世界模型，还能做机器人训练的“场地”。
清华上交满分论文证明：强化学习并不能让大模型更会思考！
清华和上交在NeurIPS 2025的研究《Does Reinforcement Learning Really Incentivize Reasoning Capacity in LLMs Beyond the Base Model?》获满分。研究聚焦RLVR，发现强化学习不能让大模型更会思考，推理能力上限仍由基础模型决定。
The Batch: 898 | Copilot 用户需求随时间变化
微软研究表明，人们在深夜用手机和工作日白天用笔记本电脑时，对Copilot使用方式不同。研究分析3750万次对话，发现主题和意图因设备、时间、年份而异，AI社群或需重新考虑聊天机器人设计。
被高薪吸引却遭愚弄！科学家怒曝AI科研黑幕：多为个人“捞金”，DeepMind百万成果是“垃圾”
物理学家 Nick McGreivy 分享应用 AI 做研究的经历，指出 AI 方法在解决偏微分方程上远不如宣传，如 PINN 效果差。还提到 DeepMind 成果遭质疑，研究存在数据泄露、报告偏差等问题，AI 加速科学或被夸大。
The Batch: 876 | Gemini 的环境影响测算
谷歌研究人员对驱动 Gemini AI 助手的模型进行一年研究，发现处理一个提示的环境影响小。其能耗、水耗和温室气体排放量远低于此前估算，2024 - 2025 年处理中位提示时能耗、排放大幅降低。
大模型时代，通用视觉模型将何去何从？
过去通用视觉模型（VGM）是研究热点，想实现‘视觉模型大一统’。但大语言模型发展使研究热点转移，视觉‘独立性’被重新定义。清华鲁继文团队综述梳理其进展，探讨现状、挑战与应用潜力。
AI胡说八道这事，终于有人管了？
AI大模型幻觉问题棘手，GPT - 5幻觉率降低。苏黎世联邦理工学院和MATS研究提出低成本、可扩展检测法，精准识别实体级幻觉，分类器超现有基准，还能识别逻辑错误，团队已公开数据集。