搜索：智能体安全评估

「智能体安全评估」共找到 4613 篇相关文章

AGI很蠢？AI教父Hinton预警：4.8万亿美元市场已锁死，AI正撕裂全球！

AI教父Hinton在全球数字世界大会警告，全球AI产业膨胀，仅1%研发投入用于安全。他认为AGI是愚蠢术语，真正该关注超级智能。还指出AI有三类风险，像烟草石棉一样，法规或难防危害外流。

文章围绕Online Learning展开深度讨论，指出其或为LLM下一个核心范式。探讨了它是通往更高层次智能的关键路径，分析概念定义、非共识，还阐述做好它的方法，以及架构、算力和评估范式等问题。

现有AI训练方法在GUI自动化中各有弊端，本文提出半在线强化学习范式，训练出UI - S1 - 7B模型，性能提升显著，还提出新评估指标SOP，是迈向实用化AI智能体的重要一步。

Vercel CEO曝光一起AI安全事件，基于Claude Opus 4.6的AI编程智能体凭空编造GitHub仓库ID，将学生作业部署到企业环境。这揭示AI失效模式与人类迥异，还引出包幻觉攻击风险，同时提到OpenAI秘密开发代码平台。

DeepSeek给近一年前登上《Nature》封面的R1论文补64页技术细节，正文大幅翻修。新论文展开R1完整训练路径，补充R1 - Zero分析，还披露安全评估细节。此外团队稳定，引发对其后续动作猜测。

成立约18个月的AI训练数据公司AfterQuery正筹新一轮融资，估值达32亿美元，5个月涨超10倍。它最初想开发AI智能体，后转收集训练材料。此赛道已有多家高估值公司，且数据隐私和安全风险待解。

Andrej Karpathy指出人们对‘智能’理解肤浅，动物智能与LLM智能源于不同优化压力。动物智能源于自然选择，而LLM智能来自统计模拟、强化学习微调等，两者在多层面有差异，LLM受商业进化影响大。

WAIC 2025上，上海科学智能研究院、复旦大学、无限光年联合发布「星河启智科学智能开放平台」。它以六大核心能力打造科学智能生态、驱动科研范式变革，致力于实现「科学的AI次方」效应。

本文深度剧透企业微信 AI 新版，其升级对 AI 办公解读和实践领先，场景把握佳。新增智能搜索、智能总结、智能机器人等套件，还有智能表格、邮件等特性，还升级海外版与私有部署版本。

新加坡国立大学邵林团队提出T (R,O) Grasp，这是基于物体—机器手空间关系建模的图扩散架构，有跨智能体统一表征能力，在多种智能体上平均抓取成功率达94.83%，刷新跨智能体灵巧抓取SOTA。