搜索：长上下文大语言模型

「长上下文大语言模型」共找到 8153 篇相关文章

ICML 2025 | 无需训练，即时对齐大模型偏好

上海人工智能实验室提出TPO方案，可让大模型在推理时快速对齐人类偏好，无需更新模型权重。TPO类似文本形式的梯度下降，在多个基准数据集评测中表现出色，还提供“宽深结合”推理拓展策略。

Meta超级智能实验室（FAIR）最新论文把大模型顿悟（grokking）现象的数学机制说清楚了。提出Li2数学框架，将两层神经网络的grokking动态分三阶段，还推导了泛化缩放定律等。

数字音频时代音频易损坏丢失，传统修复法处理长间隙不佳。本古里安大学研究人员提出基于离散扩散模型的音频修复法，经MusicNet数据集实验验证，该方法在各间隙长度上表现优异。

文章探讨决定 Coding Agent 能力的 6 大核心组件。指出如今旗舰模型‘裸机’能力相近，真正拉开体验差距的是 Harness 工程质量，还开源 Mini Coding Agent 实现六大组件。

季逸超在文章中分享了 Manus 构建 AI 智能代理的心得，包括围绕 KV 缓存设计、使用掩码管理工具、将文件系统作上下文等内容，还指出要保留错误信息、避免小样本带偏等。

今天，阿里巴巴AI总称和核心品牌统一为千问，涵盖基础与专业领域模型，千问APP是C端旗舰应用。今年除夕开源千问3.5，多款中小型模型上榜，春节用户下单近2亿次，DAU大增成国民级助手。

伊利诺伊大学香槟分校等校研究团队提出训练框架Veri - R1，为大模型提供“在线查证”新范式。它借助在线强化学习、精细化奖励机制和高质量数据，让模型学会像人一样查证，在多数据集上表现出色。

清华开源首个股票K线大模型Kronos，是专为金融市场K线序列预训练的模型，处理金融数据高噪声特性。采用两阶段框架，有安装、预测步骤，还有批量预测方法，项目地址为https://github.com/shiyu-coder/Kronos。

谷歌 DeepMind 推出 Gemini Robotics On-Device，这是视觉 - 语言 - 行动基础模型，可在机器人硬件本地运行，低延迟且能针对特定任务微调。它是 Gemini Robotics 家族最新迭代，还发布相关基准测试。模型待广泛可用，SDK 可在 GitHub 找到。

OpenAI新模型在2025年国际数学奥林匹克（IMO）中达金牌水平，测试时不借助工具、不连互联网，且不太可能存在数据污染。该模型解决6题中的5题，非GPT - 5，近期也不发布。