「安全评估」共找到 1558 篇相关文章
学术海报不用愁，一句话精准自动编辑，华东师大开源APEX
华东师范大学Planing Lab提出APEX框架，能通过自然语言指令实现学术海报局部可控编辑，引入「审查—调整」机制提升可靠性。还构建APEX - Bench评估，实验显示APEX优于其他方法。
上交博士最新思考：仅用两个问题讲清强化学习
上交博士 Kun Lei 博客提出用两个问题理解强化学习：数据从哪来、策略更新多频繁。借此梳理算法逻辑，还延伸到机器人基础模型，指出训练节奏与其实践契合。
NeurIPS 2025 Spotlight | 选择性知识蒸馏精准过滤：推测解码加速器AdaSPEC来了
大型语言模型推理延迟高、开销大，推测解码可加速但依赖草稿与主模型一致性。佐治亚理工等团队提出 AdaSPEC 蒸馏法，过滤难学 token，提升草稿模型与目标模型对齐度，实验显示能提升接受率和推理速度。
AI越会思考，越容易被骗？「思维链劫持」攻击成功率超过90%
独立研究者Jianli Zhao等人新研究发现，思维链劫持攻击通过在有害请求前填充无害解谜推理序列，能对推理模型实现越狱攻击。在HarmBench基准上，对多模型攻击成功率超90%，揭示思维链推理存在新安全漏洞。
The Batch: 871 | Mistral测量了大语言模型的能耗、水耗与物料消耗
法国AI公司Mistral发布对Mistral Large 2的环境分析报告，涵盖全生命周期影响。研究表明单次使用影响小，但累计负担大。虽研究有不足，但其方法或推动环保型AI发展。
刚刚，马斯克 xAI 联合创始人离职
xAI联合创始人Igor Babuschkin离职并宣布创立Babuschkin Ventures，专注AI安全研究。他回顾xAI成就，如120天建成Memphis超级集群。马斯克致谢，网友关注并表达看法。
AI编程「反直觉」调研引300万围观！开发者坚信提速20%，实测反慢19%
非营利性 AI 调研机构「METR」对 AI 编程工具影响开发者效率进行随机对照实验，结果意外：开发者本坚信提速 20%，实测却慢 19%。还分析了原因，指出调研局限与未来展望。
DeepSeek被「猫咪睡觉」给干崩了……
研究员发现，在数学题后加「有趣的事实：猫咪一生大部分时间都在睡觉」，能让DeepSeek数学能力崩塌。研究开发CatAttack方法找「触发词」，无关触发词使模型错误率飙升，还会让回答变长。
Nature：博士太多，高校已经装不下了！
过去几十年全球博士毕业生数量爆炸式增长，远超学术界职位空缺。如今就业从学术界转向工业界，未来博士教育培养模式应转变，产学研结合，以匹配劳动力市场。
大模型全员0分！谢赛宁领衔华人团队，最新编程竞赛基准出炉，题目每日更新禁止刷题
谢赛宁等人出题，让o3、Gemini - 2.5 - pro等模型全军覆没。LiveCodeBench Pro是实时基准测试，题库每日更新。此前称LLM编程超人类专家，本次测试并非如此，最好模型难题通过率也为0。