「强化对齐」共找到 888 篇相关文章
字节 AI 卷出新高度：豆包试水“上下文定价”，Trae 覆盖内部80%工程师，战略瞄定三主线
近日字节分享 AI 技术发展三主线，6 月 11 日火山引擎有系列发布更新。豆包 1.6 实行上下文定价，成本降低；超 80% 字节工程师用 Trae；视频生成模型 Seedance 1.0 Pro 具性价比；智能体带动强化学习算力攀升。
如何重现 DeepSeek 推理性能突破
DeepSeek-V3 是热门开源大模型，采用大规模 MoE 架构，优化推理性能是工程难点。阿里团队在 RTP - LLM 完成优化，对齐其推理系统性能，分享关键技术、不足与思考，还提及对 Qwen3 模型的优化策略。
DeepSeek不惜代价保住它！V4关键特性被挖出来了
DeepSeek V4技术报告被深挖，为保留核心设计「batch invariance」不惜代价。该设计能保证线上推理稳定、各环节对齐，是复杂上下文系统底座，但会牺牲GPU利用率等，换来训练等多阶段可复现和稳定度。
奥特曼马斯克豪言：我们已进入奇点！AGI加速窗口已至
新智元报道，奥特曼和马斯克都认为奇点已至，当下处于AGI加速窗口。OpenAI曾靠资源猛追让Codex逆袭。但AI发展也引发担忧，如人类能否保持理智、安全对齐进展不明等。
训练加速1.8倍，推理开销降78%！精准筛选题目高效加速RL训练丨清华KDD
清华大学THU-IDM团队与慕尼黑大学CompVis团队合作提出MoPPS框架，解决强化微调代价高问题。它精准挑题，预测难度，开销低、动态适应且平衡探索利用，在多任务表现佳，降本增效，有新范式。
AgentFly：重塑Agent，无需微调LLM，如我们一样的记忆和经验持续学习
现有LLM智能体依赖静态流程或微调参数，缺乏灵活性且成本高。论文提出基于记忆的在线强化学习框架AgentFly，不更新LLM权重，在多基准测试表现出色，为构建通用智能体提供新范式。
一个标点就能迷惑LLM-as-a-Judge！
论文揭露惊人漏洞，一个标点或通用推理开场白就能欺骗最先进的LLM裁判，导致强化学习训练崩溃。研究通过实验验证漏洞，提出Master - RM模型，其FPR近乎0%且保持通用裁判能力。
腾讯混元数字人团队发布Moral RolePlay基准，揭秘大模型的「道德困境」
腾讯混元数字人团队和中山大学推出「Moral RolePlay」测评基准，评估大模型扮演多元道德角色能力，揭示顶尖AI模型演不好反派，暴露模型理解社会心理复杂性的局限，还给出未来对齐技术方向。
刚刚，英伟达拟10亿美元砸向这家AI编码创企！Copilot 技术大佬带队、成立两年估值近千亿
10月30日消息，英伟达拟向AI初创公司Poolside投资最高10亿美元。该公司由微软技术大佬带队，定位生成式AI与软件开发交叉领域，开发自研模型，有独特强化学习方法和技术布局。
DeepMind再登Nature：AI Agent造出了最强RL算法！
Google DeepMind团队提出DiscoRL，让智能体在多环境交互中自主发现强化学习规则，无需人类设计。它在Atari基准中击败MuZero，在未见过的游戏中也稳定高效，相关研究登《Nature》。