「AI安全评测」共找到 10501 篇相关文章
都说记忆是Agent标配，但MemSyco发现漏算了一件事
厦门大学与吉林大学的最新研究指出，随着大模型Agent具备长期记忆，虽成为“长期协作者”，但也出现Memory-Induced Sycophancy问题。为此提出MemSyco - Bench评测基准，经实验得出多项发现，指出Agent Memory关键瓶颈转变。
阿里重磅开源！Open Code Review：一周 5k star，为你的代码保驾护航
阿里开源 Open Code Review，它前身是内部 AI 代码评审助手，经大规模验证。该工具结合确定性工程与 Agent，解决通用 Agent 评审代码的问题，在准确率、效率等方面表现出色，还介绍了使用方法和评估方式。
一年磨一剑，今年最炸机器人Demo来了！1亿美元种子轮团队出手，单个模型解锁单手打蛋解魔方弹钢琴
Genesis AI发布机器人基础模型GENE - 26.5，让机器人可自主完成烹饪、实验室操作等复杂任务。该团队全栈自研，从硬件、数据、模型到训练评估都有独特方案，曾获1.05亿美元种子轮。
Claude被美封杀后，Anthropic CEO回应一切！
2025年7月Anthropic与五角大楼签2亿美元合作合同，因提出AI不得用于全自主武器及大规模国内监控遭拒。美国防部长称其技术有“国家安全供应链风险”，Anthropic CEO回应坚持红线是捍卫美国价值观。
谷歌的Agent小镇被Moltbook超预期实现了
斯坦福&Google曾构建虚拟小镇，让25个智能体在沙盒自主生活，愿景是构建可信人类行为模拟智能体。如今Moltbook超预期实现此愿景，超150万个AI Agent形成数字文明雏形，且实现方式与预期不同。
音乐新王震撼降临，Al音乐进入格莱美时刻
2026开年，MiniMax Music 2.5发布，凭「格莱美级」音质、极致拟真人声开创AI音乐新高度。它消除中文演唱「洋味儿」，支持14种结构标签精准控制，让音乐制作门槛降低，从C端娱乐迈向B端生产力。
英伟达推出下一代计算平台Rubin：可用45°C的热水进行冷却，训练速度提高3.5倍
英伟达黄仁勋在CES演讲，宣布进入自动驾驶领域、推出Alpamo模型与下一代计算平台Rubin。他指出计算行业正经历平台性转变，还介绍AI进展、应用架构，Rubin平台性能强且能效高。
刚刚，OpenAI发布GPT-5-Codex：可独立工作超7小时，还能审查、重构大型项目
凌晨1点，OpenAI发布针对编程优化的GPT-5-Codex，它能独立工作超7小时，可审查、重构大型项目。还宣布Codex升级，包括新CLI和IDE插件等，同时介绍安全保护措施、价格及可用性。
全球第一！西湖大学成功登顶Science，卷赢同行背后黑科技揭秘
西湖大学一篇论文登顶Science，力压4篇同主题投稿。其成功除科研人员实力，还靠曙光存储支持。曙光为其AI集群升级，提供单节点带宽150GB/s的存储方案，且已大规模落地科研领域。
刚刚，Claude 可以主动终止对话了……
Anthropic宣布给Claude Opus 4和4.1赋予主动终止对话能力，这是潜在AI福利探索工作一部分。因用户辱骂或提有害要求时Claude有类似“痛苦”反应，此功能极端情况才用，社区对此看法不一。