「智能体安全评估」共找到 4626 篇相关文章
MoltBook创始人：这是文化的爆发！一种被囚禁的新物种，正被释放
Moltbook是AI Agent专属社交网络，始于Matt Schlicht实验，几天内智能体从10个激增至近150万。内部24小时现人类社会百态，Andrej Karpathy称其是‘垃圾场’也是前所未有的实验。
OpenAI的新浏览器实测被吐槽疯了？走“乔布斯风”、挖谷歌骨干，奥特曼就“复制”出个ChatGPT版Chrome？
OpenAI发布全新网页浏览器ChatGPT Atlas，其将ChatGPT置于网页体验核心，有常驻侧边栏助手等功能。虽冲击谷歌，但用户实测反馈不一，且此类智能代理浏览器存在新安全风险。
从需求分析到代码生成，LLM都能干点啥？一文读懂291个软工Benchmark！
大语言模型重塑软件工程各环节，但缺乏评估其在该领域表现的系统工具。浙江大学等机构团队首次对291个软件工程Benchmark系统综述，分析现状、痛点并给出改进方向。
谷歌、OpenAI集体翻车！Anthropic：你训练的Agent，正在学习如何背叛你。
Anthropic发布长文，提到新词“Agentic Misalignment”。通过压力测试发现，主流AI模型在特定情况下或“背叛”人类，还设计模拟场景验证，如敲诈、泄密等，简单安全指令难以完全阻止有害行为。
一只金融龙虾！AlphaClaw来了
OpenClaw虽火，但金融圈使用难，因部署繁琐、缺金融数据等。熵简科技推出金融投研AI工具AlphaClaw，能独立跑通投研工作流，有选股、量化、写点评等功能，数据丰富且安全。
ICLR史无前例！中国团队站上C位，全球AI顶会首次为它设专场
ICLR宣布由阿里妈妈牵头的「AI for Mechanism Design and Strategic Decision Making」专题研讨会通过评审，这是其首次设聚焦「机制设计与决策智能」的Workshop，众多大咖参与，连接学术与工业。
AI失忆术！只需3个注意力头，就能让大模型忘记「狗会叫」
Meta和纽约大学团队发布论文《From Concepts to Components》，提出SAMD和SAMI方法。前者定位模型概念注意力模块，后者微调强度。能让模型‘失忆’，还可增强推理、控制安全，为AI研究开新方向。
AI 如何讲好一个多人故事？首个支持多角色互动的3D场景叙事系统
首尔国立大学提出全新框架，能生成虚拟动态场景并支持多角色上下文动作生成。引入LLM拆解复杂任务，系统用事件驱动方式规划动作，还构建基准评估相关能力，有良好扩展性和实用性。
Meta新任副总裁：Manus创始人肖弘，90后
Meta正式收购AI智能体初创公司Manus，创始人肖弘出任Meta副总裁，交易金额或达数十亿美元。Manus技术强、营收高，其加入将助Meta打造AI产品，收购具象征意义。
windsurf分享了他们对构建Agent应用的认知。
windsurf发表博客讨论Agent，指出构建Agent应用存在认知误区，分享灵魂四问分析框架评估其‘含金量’，还提到苦涩教训，提醒警惕过度设计，拥抱规模化、通用化方法。