搜索：双预训练架构

「双预训练架构」共找到 3649 篇相关文章

2M大小模型定义表格理解极限，清华大学崔鹏团队开源LimiX-2M

大语言模型在结构化表格数据处理上表现不佳，清华大学崔鹏团队开源的 LimiX-2M 模型，仅 2M 参数，却能同时支持分类、回归等任务，性能超越经典模型，且训练、运行成本低，科研友好。

文章指出大模型边际收益递减，AI竞赛规则生变，产业从‘参数竞赛’转向‘效率革命’。本地Agent有潜力，但主流产品体验差。GreenBitAI深耕低比特模型，推出Libra，有望撬开万亿美元增量市场。

复旦大学等联合推出全模态端到端操作大模型RoboOmni，统一多模态，实现动作与语音协同控制。它重新定义机器人交互范式，让机器人具备“察言观色”能力，还构建了OmniAction数据集，实验表现全面领先。

超对称公司发布新版基座模型 BigBang - Proton，实现多学科问题与 LLM 统一预训练和推理，挑战主流 AGI 技术路线。它有三项创新，在多专业学科任务表现出色，还提出宇宙尺度压缩构想。

苹果前员工Nathan Barry得出BERT本质是文本扩散一步的结论，将表示学习算法改造成生成算法。OpenAI创始员工Karpathy对此沉思，认为生成逻辑在LLM架构中可变。实验证明RoBERTa可转为生成引擎。

在人工智能领域，推理语言模型在医学场景应用存在挑战，达摩院推出多智能体框架ReasonMed，提出医学推理数据生成新范式，开源百万级高质量数据集ReasonMed370K，验证了‘小模型 + 高质量数据’的潜力。

在Agent时代，提示工程进化成上下文工程。斯坦福等团队提出Agentic Context Engineering（ACE），让智能体自我学习与进化。文章介绍了上下文工程的必要性、定义、常见策略，以及ACE的概念、原理与架构。

DSU-Net是基于DINOv2和SAM2改进的U-Net模型，通过多尺度跨模型特征协作和轻量级适配器模块，解决现有图像分割模型在特定下游任务表现不足问题，提升分割精度，降低训练成本。

来自多高校研究人员推出可解释的生成式Embedding框架GRACE，解决传统文本表征模型黑箱式表征瓶颈。它重新定义对比学习信号，含三个关键模块，训练双模式统一，实验跨任务提升且不损生成能力。

微软推出蒸馏框架BitNet Distillation，实现几乎无性能损失的模型量化。它含三阶段，经实验在多下游任务表现近全精度模型，降内存开销、提推理速度，作者全是微软研究院华人。