「Token级别对齐」共找到 890 篇相关文章
强化学习没作用？人大DelTA精准识别关键token，推理正确率大幅上升
人大高瓴研究团队提出DelTA算法，不依赖经验为强化学习目标中每个token算最优权重。实验显示它适配主流强化框架，在多任务上提升base模型效果，还能让训练更稳定。
从Token到词元：全模态时代的基模与交互入口
2026年3月24日国家数据局确立“词元”为Token标准译名，Token生成与消耗方式在多模态场景正发生变化。模思智能获数亿融资，探索从语音到全模态的路径，成果颇丰且完成能力闭环，其发展受关注。
ICCV 2025 | 港科、牛津大学发布AlignGuard，文图生成模型可规模化安全对齐框架
随着文图生成模型广泛应用，其安全防护机制有限。ICCV 2025上，港科、牛津大学推出AlignGuard，是文图生成模型可规模化安全对齐框架，通过生成CoProV2数据集等实现安全对齐，实验效果佳。
规范对齐时代：GPT-5 断层领先，让安全与行为边界更明晰
上海交通大学等团队提出规范对齐概念，构建评测基准 SpecBench 评测 33 个主流模型，发现多数模型有不足。还探索测试时深思方法，如 Align3 能提升规范遵循度，GPT - 5 在规范对齐上断层领先。
基于百万亿 Token 的 AI 使用模式分析：趋势、拐点与未来｜PPT分享
近期OpenRouter报告《人工智能现状：基于OpenRouter的100万亿Token实证研究》，分析超100万亿个token的真实世界LLM交互数据，弥补LLM实际使用情况证据不足，揭示2024年转折及多方面发现。
研究者警告：强化学习暗藏「策略悬崖」危机，AI对齐的根本性挑战浮现
强化学习是大模型推理与对齐的核心方法，但常带来模型行为脆弱等问题。上海人工智能实验室徐兴成博士论文揭示‘策略悬崖’挑战，分析其成因，解释多种对齐失败现象，并提出对AI研究的启示。
SVG性能比肩GPT/Claude，腾讯开源3B模型HiVG，让Token「懂几何」
腾讯混元团队开源仅3B参数的HiVG，它是面向SVG生成的层次化分词框架，减少63.8% token数量，多项指标超越GPT-5.2等闭源模型及8B级开源模型，还在人类评测中表现出色。
8K Star！给所有 AI 编程工具加个智能调度中心，节省 20-40% Token！
AI编程圈火了个工具9Router，它是智能调度中心，能连接主流编程工具，自动路由到40多家AI提供商和100多个模型，自带RTK Token节省器，还有实用的三级降级机制，安装配置简单。
大模型最后一层竟是推理累赘？绕开对齐税，奥数准确率暴涨 22.4%！
Qwen团队等最新研究打破传统认知，揭示‘对齐税’现象。提出置信解码策略，在多架构、评测集上表现出色，能绕过‘对齐税’，提升推理准确率，且工程开销低，为大模型发展提供新思路。
Meta员工空转AI只为浪费token！烧的多挣的多，日均消耗2万亿
Meta内部在首席AI官亚历山大王推动下，员工为抢夺虚荣头衔展开“Token竞技”，日均消耗两万亿Token。这源于扎克伯格重写代码库要求，首席技术官支持资源投入。新模型将半开源，嵌入社交业务。