「预训练范式」共找到 2901 篇相关文章
大模型是否对问题难度有预判？最新研究揭示 LLM 内部的“难度感知机制”
近期论文《Probing the Difficulty Perception Mechanism of Large Language Models》系统性解答大模型能否感知问题难度等问题。研究基于数据集在主流 LLM 上训练轻量线性探针，定位负责难度感知的注意力头，还发现不同模型表现有差异。
超越Claude 3.5和o1！8B模型靠「分层投票+测试时训练」逆袭
近日MIT研究者发现测试时训练在大模型应对复杂推理问题时，能分解任务提升回答准确率。8B的lemma3模型经此方法，在ARC和BBH数据集上性能显著提升，超Claude 3.5等。但该策略部署效率低。
Chain-of-Agents: OPPO推出通用智能体模型新范式，多榜单SOTA，模型代码数据全开源
OPPO个性化AI实验室团队推出智能体推理范式CoA及模型AFM，解决传统多智能体系统通信效率低等问题。AFM在近20项测试中刷新记录，降低推理成本，还介绍了架构、数据构建等，也指出待探索方向。
微软开源Skill训练框架，让Agent白天干活，晚上自动复盘，Skill的自进化终于可监控了
微软开源SkillOpt v0.2.0，加入SkillOpt - Sleep让Agent可自我复盘。该文本空间优化框架能自动训练和优化skill，有透明化、质量控制等特点，适合重复、可评估任务场景。
YOLO12改进引入DINOv3少样本目标检测精度飙升，分享训练自定义数据集代码
Meta 人工智能研究院的 DINOv3 是基于自监督学习的视觉大模型，解决诸多问题且无需微调，在多任务表现出色。将其引入 YOLO12 后，在不同规模数据集上检测性能显著提升，还分享训练自定义数据集代码。
Figure抛弃10万行C++代码！用1000小时人类数据训练神经网络，实现全身控制基础模型
美国机器人公司Figure推出具身大脑Helix 02及家务demo。其搭载的Figure 03在厨房自主完成复杂任务，且实现端到端全身控制。新引入的System 0基于人类数据训练，替代大量手写代码，还展示多种灵巧操作。
AI“读书”合法了：美法院最新裁定，无需作者同意，已购书籍可用于训练AI
美国法院裁决允许Claude背后公司Anthropic，在未经作者许可下用合法购买的已出版书籍训练AI，参考“合理使用”原则，认为属“转化性使用”。此前也有类似AI版权诉讼案例。
AI训练初创公司Mercor，年运收入4.5亿美元，冲击100亿美元估值
AI训练初创公司Mercor正洽谈C轮融资，目标估值100亿美元或更高。它为OpenAI等对接专家，还提供数据标注服务，年化运营收入近4.5亿美元，但也面临Surge AI等对手竞争，OpenAI新平台或带来新威胁。
多模态推理新范式：上海AI Lab新作证明“画”出答案比“说”出答案更靠谱
上海人工智能实验室等联合提出DiffThinker模型，利用扩散模型构建全新视觉推理范式。它在视觉中心任务上表现优异，准确率碾压GPT - 5等模型，还能与MLLM协同推理实现1 + 1 > 2的效果。
仅靠5000+样本，全新强化学习范式让30B轻松击败671B的DeepSeek V3
传统强化学习在创意写作领域举步维艰，蚂蚁技术研究院联合浙江大学开源全新强化学习范式Rubicon，构建10000+条「评分标尺」，拓展应用至主观任务领域，其30B模型用5000样本超越671B的DeepSeek V3。