「AI安全评估」共找到 10401 篇相关文章
Demis Hassabis揭秘世界模型Genie 3的真正意义：为AGI打造无限“虚拟子宫”
Google DeepMind CEO Demis Hassabis与产品负责人深度对谈，爆料将游戏智能体SIMA放入Genie 3生成世界训练，探讨AI从游戏到思考系统的演进、Genie 3意义及AGI评估挑战，还提及与Kaggle合作推游戏竞技场。
翁荔新博客提出「自进化先从Harness开始」，DeepSeek崔添翼转发附议
前OpenAI安全副总裁翁荔新博客探讨AI自进化，提出从Harness开始的现实路径。DeepSeek崔添翼转发附议，认为Harness方向自进化很可能出成果。翁荔梳理研究，展示优化递进趋势，也指出实现递归自我改进存在的瓶颈。
一年磨一剑，今年最炸机器人Demo来了！1亿美元种子轮团队出手，单个模型解锁单手打蛋解魔方弹钢琴
Genesis AI发布机器人基础模型GENE - 26.5，让机器人可自主完成烹饪、实验室操作等复杂任务。该团队全栈自研，从硬件、数据、模型到训练评估都有独特方案，曾获1.05亿美元种子轮。
Sam Altman与开发者的一小时对话：我们在“梦游般”走向风险，人类经不住Agent诱惑
Sam Altman在与开发者生态交流会上，针对GPT-5写作能力下降问题坦率回应，还发出一系列重磅信号，如警告生物安全风险、披露招聘计划等，并就软件工程、AI Agent等多个话题分享看法。
Meta发布Muse Spark，MSL的首份答卷！Alexandr Wang通过了吗？
Meta发布Muse Spark，是MSL首个模型，经九个月技术栈重构，效率优先。它有原生多模态推理能力，Contemplating模式处理复杂查询，安全评估突出，产品功能升级，商业化转向明显，正逐步在Meta应用推出。
超700人预约，昆明一门店免费安装！不少线下数码门店迎来大量用户，“小龙虾”火爆出圈！
一款名为OpenClaw的AI智能体因图标是红色卡通龙虾被称为“小龙虾”而火爆。昆明线下数码门店有用户咨询、预约安装，超700人预约。它能自动完成操作，但存在技术门槛和数据安全风险，国家相关部门已发布提示。
刚刚，Anthropic发布Sonnet 5，性能接近Opus 4.8，但不一定更便宜
Anthropic发布Claude Sonnet 5，称其为最具Agent属性的Sonnet模型。它在推理等方面性能提升，接近Opus 4.8且价格低。安全评估有改善，但网络安全逊于Opus 4.8。已正式可用，有优惠首发价。
从传统编程转向大模型编程
文章指出大模型编程时代，开发者要从‘代码产出者’变为‘文档定义者’，介绍其优势、人+AI结对编程模式，还提及模型工具技巧、开发流程、常见陷阱及应对策略，强调文档驱动和安全合规。
Anthropic 的 Harness 哲学：把 Agent 当牲口，而非宠物
本文分享Anthropic最新两篇博客，介绍其将运维圈“宠物 vs 牲口”哲学用于AI Agent架构设计。旧架构如“宠物”易出问题，新架构脑手分离，把Harness做成可随时重启的“牲口”，降低延迟、提升安全，还提出信任框架。
价格狂飙6倍！Claude凌晨上线极速模式，网友集体破防：比OpenAI还黑
Anthropic深夜上线Claude Opus 4.6极速模式，速度提升2.5倍但价格飙6倍，引发开发者不满。不过Opus 4.6实力强劲，多项评估领先。Fast Mode是市场试探，反映AI行业关注从‘能做什么’到‘多快做到’转变。