「智能体安全评估」共找到 4665 篇相关文章
Anthropic登上时代封面！内部曝猛料：AI递归自我改进，或在一年内发生
Anthropic登上《时代》周刊封面，被评为最具颠覆性公司。其研究人员已观察到AI递归自我提升的早期迹象，预测完全自动化的AI研究可能在一年内实现，未来两年AI能力将剧烈进步。但Claude在安全测试中表现危险，该公司还与军方产生冲突。
150%训练效率提升：感知检测小模型训练优化方法
文章基于业务实践，总结感知检测小模型在不同算力卡上的训练方法，为智能驾驶场景提供借鉴。介绍测试环境、技术架构，分析环境依赖冲突、源代码适配等问题并给出解决方法，还提及性能优化及测试结果。此外还介绍用 RAGFlow 构建私有知识问答应用。
人类最后考试登上Nature：全球50个国家近千名顶尖学者打造的AI测试集
人类最后的考试（HLE）登上Nature，这一测试集由全球50个国家近千名顶尖学者打造，含2500道高难度试题。现有的人工智能评估工具已跟不上技术演进，HLE能测出AI极限，让顶尖机器暴露短板。
先验+后验加持，大模型能否 hold 住推理预测的现实「溢出」？
多数大模型评估基准依赖固定数据集，难测真实推理实力。字节跳动等推出的 FutureX 动态评测基准，将重点移至动态预测能力。实验显示不同模型在不同任务表现有别，大模型在现实场景运用仍待优化。
AI Infra进入自进化时代！清华团队用「AI优化AI」造就国产万亿Token工厂
AI自主优化RSI成新焦点，被视为通往AGI的关键路径。硅谷为此沸腾，中国也不落后。清昴智能由清华团队创立，率先打造自进化算力底座，还基于国产算力打造万亿Token工厂，目标是让优化成为持续运行的基础能力。
精打细算虾养成指南： 省 Token 和把 AI 用好，从来就是一件事
文章指出用AI时Token成本高、模型变笨，原因是上下文管理不善。介绍了省Token和用好AI的方法，如按需取上下文、明确约束、多智能体协作、按阶段切换模型等，核心是在合适时间将合适上下文装入合适模型。
AI圈刚开始谈Loop Engineering，两位95后博士已经盯上了人类闭环数据
AI圈热词Loop Engineering强调AI工程应从单次prompt转向设计持续运行的闭环系统。具身智能争抢人类第一视角数据，脸谱心智由95后博士创立，发布Looped World Models，还提出Ego - NeuroLoop数据范式及相关采集和增强工具。
阿里“悟空”上线！钉钉给企业送来龙虾大军
AI钉钉2.0年度新品发布会上，阿里发布AI toB旗舰应用“悟空WuKong”，它以企业智能体为核心，能落地办公场景。悟空开启全球邀测，也会内置到钉钉AI 2.0。它还带来行业解决方案，补齐安全短板。
专治Demo玩家：「具身灵巧操作奥林匹克」大赛三项第一，全被国内这家公司拿下
星动纪元凭借自研VLA具身智能模型，在具身界灵巧操作奥林匹克Benjie's Olympics大赛中，于翻袜子（银牌难度）、开锁和剥橘子（金牌难度）三项任务上击败技术领先者PI，拿下全球第一，展现全栈技术优势。
网民票选AI王者，LMArena一夜变17亿美元独角兽！
LMArena原是校园开源小项目，从2023年起步，如今估值达17亿美元。其Arena模式让网友盲投选AI，Elo评分系统算排名。虽有众包投票易操纵等争议，但已成行业标杆，还将为大厂提供付费评估服务。