算法论文8

大模型对齐机制脆弱，需内在知识治理

新智元2026-04-18

AI 摘要

香港理工大学与西北工业大学团队研究：大语言模型对齐机制仅表层合规，预训练有害知识潜藏。遇分布偏移，“黑暗模式”易激活，26个主流模型22个攻击下失效，需内在知识治理。

关注公众号

扫码关注
第一时间收到每日精选

公众号专辑

牛津、NUS 提出心智世界建模新方向

牛津大学和新加坡国立大学研究团队提出心智世界建模（MWM）通用框架，将心智变量纳入世界状态。还实现基准系统 MENTIS 验证其有效性，实验表明 MWM 对预测人类决策必要，瓶颈是状态转移模拟能力不足。

周三晚间，DeepSeek 突然发布 V4 Pro 大语言模型正式版，命名为 DeepSeek - V4 - Pro - 0813，官方未调升 API 使用价格。有用户称调用的 V4 Pro 思维链风格有变，跑分显示其 Agent 评测表现可媲美顶级模型，还撞车了马斯克的 Grok 4.6。

大语言模型走向“完成任务”，Agentic RL 后训练让系统工作负载不稳定。港中文和恒生大学团队提出 Libra 资源管理系统，统一优化训练与 rollout，在多任务中提升吞吐，论文与代码已公开。

近年来，VLA模型成通用机器人控制重要路线，但模型大、动作更新慢的矛盾凸显。华中科技大学联合华为提出TurboVLA，绕开大语言模型，形成V+L→A路径，降低成本，保持操作能力。