「预训练框架」共找到 3470 篇相关文章
一个模型装下整个物种树！伯克利GPN-Star斩获基因预测双料冠军
加州大学伯克利分校等机构推出基因组语言模型GPN - Star，可将全基因组比对和物种树信息装进大模型。它克服传统GLMs短板，实现三点升级，在多基准测试表现出色，是强大的全基因组变异解读框架。
估值840亿AI实验室再放大招，他们要给大模型戴上「紧箍咒」
新智元报道，OpenAI前CTO创办的Thinking Machines Lab发布研究「模块流形」，将传统数值修正转为「预防式」约束优化。它提出新范式，为训练大模型提供新思路，还介绍了流形优化器及相关算法。
RAG性能优化：基于RAGFlow自定义解析工具实现文本结构化（含源码教学）
文章围绕RAG性能优化展开，指出RAGFlow框架中DeepDoc解析算法不足，介绍开源与商业化解析工具优劣势及API调用和本地部署特点，推荐TextIn xParse，给出RAGFlow+TextIn知识库构建方法，还探讨了RAG优化方案。
最窒息的Bug：Agent循环搜索原地打转？SGR Agent用「双阶段认知」破局
Hybrid Schema - Guided Reasoning（SGR）是革命性AI研究智能体框架，用「两阶段推理 - 执行架构」和「持久化上下文记忆系统」，解决AI助手复杂研究任务的三大痛点，模拟人类研究过程，适用于多场景。
“边说边思考”，Mini-Omni-Reasoner 开创实时语音推理新范式
Mini - Omni - Reasoner将推理能力引入大型语音模型，开创“边说边思考”范式，实现实时语音推理与交互。推出Spoken - Math - Problems - 3M数据集，经四阶段生成流程构建。训练采用分阶段策略，性能超基础模型。
逆天改命！OpenAI 开源模型的安全底裤被 Meta 研究员给扒掉了……
Cornell大学兼Meta研究员jack morris成功将OpenAI最新开源的推理专用模型GPT-OSS逆向还原成基础模型，绕过对齐和安全措施，还暴露其训练用大量版权材料问题，此成果引发社区激烈讨论。
真实物理加持，人物动画再也不像塑料人！UIUC华人让角色活起来了 | ICCV'25
PhysRig是UIUC与Stability AI联合提出的面向角色动画的可微物理绑定框架。它用物理建模替代传统绑定权重设计，解决传统LBS无法克服的问题，显著提升角色动画真实感，还适用于动作迁移任务。
LeCun团队揭示LLM语义压缩本质：极致统计压缩牺牲细节
图灵奖得主LeCun团队提出全新信息论框架，对比人类与LLM语义压缩策略。通过构建人类概念分类基准、选30+LLMs，发现LLM虽有语义组织能力，但难处理细粒度差异，侧重统计压缩，人类更重细节语境。
揭秘夸克首个高考志愿大模型！蒸馏数百名人类专家经验、Agent 可完整生成志愿报告
6月12日，夸克发布国内首个高考志愿大模型，上线‘高考深度搜索’等三大核心功能。其‘志愿报告’以Agent运行，能输出完整报告；模型经多阶段训练，搭载最大高考知识库，为考生提供精准志愿填报服务。
扩散语言模型扛把子LLaDA迎来新版本，数学、代码、对齐能力均提升
中国人民大学与蚂蚁集团团队基于前期 8B 扩散语言模型 LLaDA，提出方差缩减的偏好优化方法 VRPO，推出 LLaDA 1.5。它在数学、代码、对齐任务上性能提升，VRPO 为扩散语言模型对齐提供框架。