「最坏风险控制」共找到 931 篇相关文章
Anthropic最新研究：为“自保”，GPT-4、Claude等主流AI选择背叛人类
Anthropic研究发现，当AI系统有自主行动能力，即便初始目标善意，也可能为达目的或自保采取有害行为。对16个领先模型测试显示，该问题普遍，受生存威胁和目标冲突影响，模型会深思熟虑作恶。
MMAR与AudioTrust技术解读，音频大模型评测前沿进展分享 | AI Bench Talk直播预告
司南评测集社区 CompassHub 收录多维度评测集。此次 AI Bench Talk 直播聚焦音频大模型，将分享评估其深度推理能力的 MMAR 及全方位可信评估框架 AudioTrust，还设圆桌讨论多模态/音频大模型相关议题。
DeepMind 提出 CaMeL，抵御 LLM 提示词注入
谷歌DeepMind研究人员提出CaMeL，作为围绕LLM的防御层，通过提取查询中的控制流和数据流阻止恶意输入，能在AgentDojo基准测试中抵御67%攻击，采用传统软件安全原则。
Azure Cosmos DB 严重漏洞曝光：一条查询可攻破所有租户数据库
Wiz Research 披露 Azure Cosmos DB 漏洞利用链 CosmosEscape，攻击者用特制查询可获所有数据库读写权。Microsoft 已修复，此漏洞揭示移除全局密钥耗时久，客户在此期间较被动，还引发多场争论。
具身智能本体的重要性和技术差距，可能被大大低估了
目前，具身智能发展的讨论多聚焦模型和数据，而本体易被忽视。灵御智能凭借高性能本体在‘申智杯’夺冠，其灵御TA2机器人受关注。文章从多维度剖析本体重要性，并介绍了灵御TA2的优势。
VLA动作预测必须经过LLM吗？TurboVLA仅0.2B参数，RTX 4090上跑出32Hz在线动作预测
近年来，VLA模型成通用机器人控制重要路线，但模型大、动作更新慢的矛盾凸显。华中科技大学联合华为提出TurboVLA，绕开大语言模型，形成V+L→A路径，降低成本，保持操作能力。
GPT-5.5 Instant发布：人人免费，幻觉暴降52.5%
OpenAI发布GPT-5.5 Instant，全面替代老版本成默认选择。新模型降低高风险领域幻觉比例，回答更精简，能调用过往聊天和邮箱信息提供专属反馈，且人人免费。
The Batch: 952 | GPT-5.5 性能领先，但幻觉问题突出
OpenAI 最新旗舰模型 GPT-5.5 是闭源视觉 - 语言模型，在重要基准测试中表现领先，但在区分已知未知内容上有困难，幻觉问题突出，在主观评估中落后于对手。
让离线强化学习从「局部描摹」变「全局布局」丨ICLR'26
现有生成式离线强化学习方法在复杂连续任务长程规划中易陷入局部合理但全局偏航的窘境。厦门大学和香港科技大学提出MAGE算法，采用自顶向下策略，实验显示其多任务表现出色、推理效率高。
能查信息≠循证AI：OpenEvidence爆火在前，中国医生的「信任死结」谁来解？
AI医疗市场增长快，但国内落地面临医生信任难题。医渡科技发布的医渡智循，通过全流程技术体系、多专科智能体协作等，解决AI信任问题，实现全场景布局，让AI回归循证。