「制度对齐」共找到 253 篇相关文章
OpenAI与爱泼斯坦的联系断了
随着20000页文件曝光，曾被视为OpenAI成熟监管者的前财长萨默斯，因被揭露曾向性犯罪者爱泼斯坦寻求「僚机」服务而跌落神坛，于昨日被迫辞去董事职务。这场丑闻不仅终结了萨默斯在硅谷与哈佛的权力版图，更在OpenAI刚刚完成商业化转型的关键时刻，撕碎了精英治理的假面并留下了巨大的权力真空。
自适应Agent基础模型：从“会推理/会用工具”到“懂得取舍的执行者”
当前大型语言模型在智能体/工具调用场景有推理型和工具型两类，存在效率与功能、深度的矛盾。A²FM框架提出多模式自适应路由，实现模式自适应切换，在多基准测试中效果与效率双升。
AI模型守法率提升11%，港科大首次用法案构建安全benchmark
香港科技大学KnowComp实验室从法律合规视角研究LLM安全，提出「安全合规」新范式。基于法律条文构建benchmark，用GRPO微调Qwen3 - 8B得推理模型，在新benchmark测试中性能提升显著。
ChatGPT到底学了多少「污言秽语」？清华团队首提大语言模型中文语料污染治理技术
清华等团队研究发现，先进ChatGPT系列模型中文词表污染达46.6%，含色情、赌博等词元。团队定义分类中文污染词，构建识别模型，还能由词表污染估计数据污染，为语料治理提供方案。
“掩码即武器”，四款扩散LLM全部破防 ？ 上交&上海AI Lab发现dllm致命安全缺陷
上海交通大学、上海人工智能实验室等团队研究指出，扩散语言模型（dLLMs）有根本性架构安全缺陷。他们提出DIJA攻击框架，能让多个dLLMs大概率生成有害内容，还呼吁从多方面加强dLLM安全。
假如有一万张卡，RL训练该怎么扩大规模？十万张呢？
本文是腾讯混元团队针对大模型强化学习规模化训练的研究，聚焦万卡级算力下Batch Size优化问题，拆分样本效率与系统效率的影响，给出可落地的调优框架，实测可缩短29%训练时间。
做过十遍还要从头摸索？Agent 的记忆终于开始长成技能
MemTensor 等机构提出无需训练基础模型的 MSCE 框架，为 Agent 外部经验建‘晋升制度’，让经验成技能。该论文在 EvoAgentBench 与 LoCoMo 测试中结果更好，但在因果证明、模型依赖等方面有不足。
镜头被油污糊住，机器人还稳定操作？北大/清华等给VLA加一道信息筛选，不靠额外数据，效率提升14x，真机鲁棒性反而更高了 | ICML 2026
北大、清华等机构联合提出StableVLA，相关工作被ICML 2026接收。该工作提出轻量级IB - Adapter，不依赖额外数据对视觉特征筛选对齐，让机器人遇视觉干扰仍能稳定执行任务，实验展现出鲁棒性提升。
CVPR 2026 Highlight｜让家电「在仿真中运转起来」，北大正式发布RealAppliance！
北京大学团队提出 RealAppliance 数据集与 RealAppliance - Bench 评测基准。前者收录 100 个精细家电资产，与真实产品系统多层面对齐；后者围绕五项任务评估模型家电操作规划能力，实验显示主流模型仍面临挑战。
“电力克苏鲁”赢得AI竞争？ 中国发电增量已达美国7倍！
全球科技巨头卷入‘抢电大战’，AI用电需求远超美国电网承载能力。而中国已成为全球第一电力帝国，发电增量达美国7倍，还建有全国电网，为AI发展提供支撑，能源主权正重塑科技竞争格局。