「预训练语义编码器」共找到 2312 篇相关文章
MIT发布自适应语言模型！新任务，自生成远超「GPT-4.1合成训练数据」
麻省理工学院提出自适应语言模型框架SEAL，让大模型生成微调数据和更新指令适应新任务。实验显示，其生成的合成数据微调效果超GPT - 4.1，在少样本学习和知识整合任务表现优异。
EMNLP 2026高分论文MathDebugger：当合成数据涌入训练集，如何为数学题做体检？
随着合成数据增多，模型需判断数学数据题目能否被信任。北大DCAI团队提出MathDebugger质检BenchMark，覆盖问答两端，评测主流LLM和PRM。还探究能否判断正误、分类错误、修复数据，证明错误标签可作监督信号。
碾压π0.5，复旦团队首创「世界模型+具身训练+强化学习」闭环框架
复旦团队针对当前 VLA 策略依赖模仿学习、真实机器人在线 RL 成本高、传统物理仿真器有局限等问题，提出 ProphRL 框架。该框架以世界模型 Prophet 为核心，结合 RL 算法，为具身智能落地提供更可行路径，实验效果显著。
Meta「分割一切」3.0曝光！技能语义分割加入概念提示，好好玩，要爆了
Meta第三代“分割一切”模型SAM 3悄然投稿ICLR 2026。它支持基于概念提示的多实例分割，能听懂人话，处理图片快，还设计新架构、构建数据引擎、提出SA - Co基准，实验表现佳但也有局限。
突破Agent长程推理效率瓶颈！MIT&新加坡国立联合推出强化学习新训练方法
AI Agent处理复杂任务时显存、算力问题凸显，MIT和新加坡国立大学联合提出MEM1框架。它基于强化学习，让智能体学会管理记忆，实现近似常量级显存开销，在多方面表现超越大模型。
AI自我训练？OpenAI研究员Jason Wei泼冷水：它的三大瓶颈你根本想不到
OpenAI研究员Jason Wei认为AI自我完善是未来趋势，但不会‘瞬间爆发’，而是漫长过程。他从三方面阐述，包括自我完善非一蹴而就、不同领域完善难度有差异、科学进步受真实世界实验限制。
AutoDev 预上下文引擎：预生成代码语义化信息，构建 AI 编程的知识基座
文章介绍 AutoDev 预上下文引擎，指出向量化代码检索性价比低，提出用预生成上下文提升 RAG 效果。Context Worker 能深度解析代码，支持多语言，使用简单，还可结合 MCP 服务获取上下文知识。
清华刘知远团队：高质量LLM训练数据获取新方法！成本降90%，性能大提升
清华刘知远团队论文提出全新数据筛选方案，解决传统数据筛选验证慢、主观性强问题。发明‘半成品加工法’降成本，用fastText筛数据，筛出Ultra - FineWeb数据集，提升模型性能，还计划拓展到专业领域。
Claude1.7万字系统提示词全网刷屏！Karpathy锐评：LLM训练缺乏关键范式
Claude近1.7万字系统提示词在GitHub泄露，网友称是提示技术的金矿。大神卡帕西提出系统提示学习新范式，模拟人类经验积累，让LLM有‘记忆’功能，引发网友激烈讨论。
给文档质量"打分"：DIQA-5000 数据集与融合版面语义的 DocIQ 质量评估模型
文档图像质量评估（DIQA）是评判‘增强算法有没有把图变好’的关键工具。过去研究多围绕自然图像，缺文档专用数据集。本文提出DIQA - 5000数据集和DocIQ模型，补齐缺口。