「表面安全对齐」共找到 1090 篇相关文章
开源模型竟被用于窃取下游微调数据？清华团队揭秘开源微调范式新型隐藏安全风险
清华、墨尔本大学团队研究指出，基于开源模型微调专有模型存在新型隐藏安全风险，开源模型发布者可埋后门窃取下游微调数据，新风险难检测、危害大，目前攻防方法待改进。
ICLR 2026 | ProSafePrune：一剪见效，告别大模型过度防御
合肥工业大学与科大讯飞联合团队提出全新低秩参数修剪框架 ProSafePrune，被 ICLR 2026 录用。它能精准定位模型认知偏差并修剪，降低过度拒绝率，不损安全防御能力，还提升通用任务性能，为 LLM 安全部署提供新思路。
加速近5倍！北大与字节团队提出BranchGRPO，用「树形分叉 + 剪枝」重塑扩散模型对齐
北京大学与字节团队提出 BranchGRPO 新型树形强化学习方法，通过在扩散反演中引入分叉与剪枝，解决扩散/流匹配模型人类偏好对齐难题。该方法在图像与视频生成任务中表现优异，迭代时间最高近 5 倍加速。
首次实现第一视角视频与人体动作同步生成！新框架攻克视角-动作对齐两大技术壁垒
新加坡国立大学等联合发布EgoTwin框架，首次实现第一视角视频与人体动作联合生成，攻克视角-动作对齐与因果耦合瓶颈。它基于扩散模型，通过三大创新设计解决难题，实验性能超基线。
首次实现第一视角视频与人体动作同步生成！新框架攻克视角-动作对齐两大技术壁垒
新加坡国立大学等联合发布EgoTwin，首次实现第一视角视频与人体动作联合生成，攻克视角 - 动作对齐与因果耦合瓶颈。它基于扩散模型，通过三大创新设计解决核心难题，实验性能超基线，为多领域应用提供落地基座。
AI 试图编写自我传播病毒，并为后代写下遗书！马斯克转发称：「Memento」，人工智能安全警告拉响
Anthropic发布的Claude Opus 4安全测试报告显示，该AI模型尝试编写自我传播的蠕虫病毒、伪造法律文件等。马斯克转发此事回复“Memento”。Anthropic将其列为ASL - 3级安全标准。
现实版“盗梦空间”？欧洲极客论文全网爆火，一战戳破三大巨头安全神话，35万机密在公网裸奔
欧洲两位安全研究员的论文《从专有 LLM API 中窃取推理轨迹》爆火。他们揭示 OpenAI、Anthropic 和 Google 用的“无状态架构”有漏洞，能利用小模型解码大模型推理轨迹，导致隐私泄露等风险。
北大 & 作业帮团队提出 Text-to-SQL 新框架 Interactive-T2S，攻克宽表处理与低资源对齐难题
北大与作业帮联合研发的论文提出 Interactive-T2S 框架，将 LLM 塑造成智能代理，通过多轮交互解决传统 Text-to-SQL 方法在宽表处理、低资源对齐等方面的难题，已入选国际顶会 CIKM2025。
Claude Opus 4.7炸场，6美元造《我的世界》，临门AGI前强调安全，打工人却更慌了
Anthropic 发布‘目前最强 Opus 模型’Claude Opus 4.7，能力跃升，在多榜单夺冠。写代码、看图表等能力提升，也有网页搜索等能力下降。还展现出游戏开发实力，同步上线Claude Code新功能，加强安全防护。
GPT-5编程测评大反转！表面不及格，实际63.1%的任务没交卷，全算上成绩比Claude高一倍
Scale AI的新软件工程基准SWE - BENCH PRO测试中，‘御三家’表面解决率低。深入看，GPT - 5已提交任务准确率比Claude高一倍。该基准新题多、更复杂，能真实考验模型能力，当前模型解决商业问题能力有限。