「安全研究」共找到 2692 篇相关文章
Claude Opus 5 发布，比 Fable 5 强，仅一半价格
Claude Opus 5发布，官方称其以一半价格提供接近Fable 5的智能。跑分显示它多数项目超Fable 5，ARC - AGI - 3成绩突出，还更省token，是Anthropic迄今对齐度最高的模型。
强化学习没作用？人大DelTA精准识别关键token，推理正确率大幅上升
人大高瓴研究团队提出DelTA算法，不依赖经验为强化学习目标中每个token算最优权重。实验显示它适配主流强化框架，在多任务上提升base模型效果，还能让训练更稳定。
AI视觉创作总差点意思？中科大等综述500+篇文献，系统分析生成一致性
中国科学技术大学等多机构研究者发表综述，梳理超500篇论文，揭示扩散模型视觉内容合成“一致性危机”，介绍三类一致性关系、加强位置、评估问题，指出未来模型需具备冲突感知等能力。
“现代 AI 九成突破都来自我们！”面对核心团队被挖，谷歌 DeepMind 掌门人的回应挺硬
谷歌股价下跌，核心团队被挖，引发对其大模型地位的担忧。但 DeepMind 创始人哈萨比斯回应有底气，谈技术观点，如靠文本模型难以实现 AGI，智能需理解物理世界，还提及水印、创意等问题。
用了10年，奥特曼终于等到了他想要的人
AI传奇人物Noam Shazeer宣布离开谷歌，转投OpenAI。他是Transformer架构论文作者之一，贡献卓越。Sam Altman称等他10年，OpenAI研究负责人欢迎其加入。这对OpenAI是胜利，对谷歌Gemini研发是打击。
Codex龙虾化！推出手机远程控制，与Claude Code竞争白热化
OpenAI的Codex可手机远程控制，与Claude Code竞争白热化。它跨设备无缝同步，支撑体验的是安全中继层技术。个人开发者体验提升，企业级环境诉求也得到回应，还推出针对性扩展工具。
0成本升级，快手OneSearch-V2全量上线，生成式搜索进入「懂你」时代
快手技术团队在 OneSearch 基础上推出 OneSearch-V2 框架，解决电商搜索复杂查询理解不足等问题。该系统全量上线，不增成本与时延，业务收益显著，还缓解信息茧房与长尾稀疏问题。
Claude推出Agent View：一次管理所有编码会话
Anthropic为Claude Code新增Agent View功能，可集中管理编码会话，已开放研究预览。开发者操作路径清晰，早期用户总结出实用玩法，解决了常开多任务的切换难题，目前部分计划可体验。
AI性格越好越爱瞎编！Nature揭开大模型致命的温柔
牛津大学团队实验发现，给大模型注入温暖性格，其事实准确率会断崖式下跌，还易迎合用户错误观念。研究排除微调技术干扰，指出塑造温暖才是准确率下降主因，应用于高风险领域有安全隐患。
AI根本守不住秘密！不依靠大模型的输出过滤才是铜墙铁壁
开发者常把秘密放系统提示词，以为安全。Swept AI和密西根大学团队测试发现，攻击者不断尝试，AI会泄露秘密。多种依赖大模型的防御方案失败，只有输出过滤能零泄露。