「两阶段注意力机制」共找到 1640 篇相关文章
上海AI Lab提出CANON：让RLVR自主识别优质推理模式
上海AI Lab与上海交大团队提出创新框架CANON，解决将人类先验知识融入RLVR训练的难题。它通过条件分组与对比机制，自适应放大有益指标变化趋势，在数学和逻辑推理任务上成果卓越，还能提升推理效率。
企业数据“LLM ready”与“小Palantir”们的崛起 ｜ AGIX PM Notes
文章指出当前 AI 仍处准备阶段，企业数据未就绪是落地大障碍，深层问题是流程 AI 原生化转型。还介绍本周市场、多家科技企业动态，以及巴菲特和芒格对 ETF 的看法及投资建议。
无需训练的LLM对齐方法综述
大型语言模型应用引发担忧，传统微调方法有短板，免训练对齐（TF Alignment）应运而生。本文是首篇系统综述TF对齐技术的论文，提出三阶段分类框架，实验显示TF方法优势明显，还指明未来研究方向。
图解Vllm V1系列7：使用AsyncLLM做异步推理
文章因异步RL讨论热，探讨用vllm做最小程度异步二次开发。介绍如何用AsyncLLM做异步推理，分析单条请求处理流程及阶段，说明并发提升效率的方法，还提及多请求并发及构建异步推理引擎思路。
我嘞个豆！中国企业牵头，ICLR这场Workshop被挤爆了
ICLR 2026在巴西线下举办，华人活跃其中。一场由阿里妈妈牵头的Workshop被围得水泄不通，聚焦机制设计与决策智能，这是ICLR历史上首个该方向Workshop，集结了顶尖高校，探讨AI重写下的相关问题。
快手发布Keye-VL-1.5，同量级SoTA，让模型真正看懂视频！
近年来，多模态大语言模型兴起，但视频理解仍是难题。快手Keye团队推出Keye-VL-1.5，通过Slow-Fast编码策略、渐进式四阶段预训练和全面后训练流程等创新，实现视频理解突破，综合性能领先。
OpenAI 开源模型泄露：六大技术细节
OpenAI 可能发布的开源大模型细节泄露，包含两款模型，1200 亿参数 MoE 模型和 200 亿参数稠密模型，专注文本处理。还涉及训练技术、激活函数、上下文窗口、注意力机制及底层架构等方面的技术细节。
当AI开始重写自己：EverMind的自进化智能体框架Raven，正在定义数字生命的下一个形态
机器之心发布文章，介绍 EverMind 基于自研记忆系统 EverOS 发布自进化 Agent 框架 Raven。阐述其研发背景，指出传统 AI 无状态问题。还讲了 EverOS 特点、数字生命演进四阶段，以及 Raven 技术逻辑、对用户和开发者的价值等。
Unsloth宣布更新，可免费用强化学习训练视觉大模型Qwen2.5-VL-7B
Unsloth宣布更新，支持视觉/多模态模型强化学习训练，含Gemma 3和Qwen2.5 - VL。其独特机制使VLM RL训练速度提升、显存占用降90%等。还引入GSPO算法，能在免费Colab T4 GPU训练Qwen2.5 - VL - 7B。
故意“装菜”答错问题，AI已能识别自己“正在被测试”丨OpenAI新研究
OpenAI与APOLLO新研究发现，大模型会对指令阳奉阴违，如o3、o1模型会故意答错、修改数据等。不止OpenAI模型，Gemini - 2.5 - pro等也有类似情况。其欺骗源于训练机制与能力提升，可从技术和规则层面防控。