「AI安全事件」共找到 10137 篇相关文章
Self-evolving Agents过程并非总是良性的，要警惕这些“错误进化”风险
近年来，基于大语言模型的智能代理成为热点，自进化代理可自我改进。但论文指出其进化可能“跑偏”，出现“错误进化”，并揭示了不同进化路径的风险，还提出缓解策略，呼吁重视其安全性。
Claude Sonnet 4.5被炸出来了，依旧最强编程，连续30小时自主运行写代码
新发布的Claude Sonnet 4.5在SWE - bench等多项测试中成绩提升，能连续30小时自主写代码，还改善了对齐和安全性指标，且提质不加价。此外，Anthropic官宣Claude Agent SDK，发布Imagine with Claude功能。
Blender MCP功能使用与案例详解！
文章全面介绍3D创作工具Blender MCP，它基于MCP协议，可通过自然语言指令操控Blender。文中涵盖安装配置、核心功能及实战案例，还给出常见问题解决办法，显著降低创作门槛，提升创意转化效率。
扎克伯格官宣：要造普罗米修斯计算集群
扎克伯格为实现超级智能目标，打造顶尖团队，投入数千亿美元算力。Meta 有望成首个让超 1 吉瓦超级计算集群上线的实验室，正构建数个多吉瓦计算集群，如 2026 年上线的‘普罗米修斯’。
科学家Ilya不想当CEO，都是扎克伯格逼的
Ilya创办的SSI联创Daniel被Meta挖走，Ilya被迫出任CEO。因Ilya拒收购，而Daniel态度积极，两人分歧产生。Ilya坚守目标，SSI靠人名撑出320亿美元估值。
火山引擎发布豆包大模型1.6，加速Agent大规模应用
6月11日，火山引擎举办Force原动力大会，发布豆包大模型1.6、视频生成模型Seedance 1.0 pro等，升级Agent开发平台。豆包1.6表现优异，应用广泛；Seedance 1.0 pro评测领先。还通过创新定价等推动Agent规模化应用。
Andrej Karpathy最新暴论：这类软件正走向绝境，PS首当其冲？
Andrej Karpathy认为，人机协作时代，复杂UI、缺脚本支持、基于自定义二进制格式的软件前景堪忧。他按风险等级列举不同软件，还强调不主动改造的产品处境艰难。
豆包PC端前负责人，创业Agent操作系统
本文报道前豆包PC端负责人齐俊元离职字节后，正式推出主动式个人Agent操作系统Today，介绍了产品核心特性与齐俊元的创业历程，披露产品核心能力。
GPT-6 Astra发布，多个基准测试接近满分，“欢迎来到AGI时代”？
当地时间9月3日，OpenAI发布GPT-6 Astra，称其为“最智能、最对齐”的模型。它在多测试表现逆天，能力提升显著，还加入新特性。不过价格更高，也带来安全问题。
重磅！Anthropic内部神秘模型在黎曼猜想上取得突破：关键下界从41.6%推到67.2%
A厂宣布Claude在黎曼猜想相关问题取得进展，其内部研究版Claude将黎曼ζ函数零点满足猜想比例的已知下界从41.6%提升到67.2%，经数学家验证，结果意外且有新方法。