「安全评估」共找到 1558 篇相关文章
智能体自己出现问题自己找！首次提出“自动化失败归因”课题 | ICML2025 Spotlight
LLM Multi - Agent系统失败诊断难，阻碍迭代优化。宾夕法尼亚州立大学等机构研究者首次提出“自动化失败归因”课题，构建Who&When数据集，开发评估多种归因方法，实验揭示当前方法不足。
让AI自动化控制电脑的一切操作automation-mcp
自动化 MCP 是模型上下文协议服务器，为AI提供完整 macOS 桌面自动化能力，如控制鼠标、输入指令等。文章介绍了安装、使用工具、架构、安全权限、集成示例等内容。
MCP 火爆半年后，是时候对它“祛魅”了
2024 年 11 月 25 日，Anthropic 发布的 MCP 协议意义重大，解决了 AI 模型与工具、数据源集成的碎片化问题。文章深入探讨其架构、价值、影响及趋势，还采访专家解答相关疑问。
谷歌AlphaEvolve引发OpenAI关注：AI原创算法，正挑战人类专家界限
谷歌DeepMind推出的AlphaEvolve系统，结合Gemini模型与进化算法，能自主探索、生成并迭代优化算法代码。它优化经典算法，在多领域取得突破，其原创能力引业界关注，OpenAI研究员对此表示震撼。
GPT-6 Astra突袭：正面对垒 Fable 5.1，多项编码测试反超！OpenAI 总裁：欢迎来到 AGI 时代
今天凌晨，OpenAI 发布 GPT-6 Astra，公司称是多年研究成果。它在多项测试表现出色，编程、电脑操作等能力提升，还加强了安全措施。将面向部分用户及通过 API 和 AWS 推出。
全球SaaS危！AaaS成主流，Claude 抄中小企业软件的老底了
Claude推出Claude for Small Business，能接入企业常用工具，自动处理常规业务。其操作丝滑、免费使用、安全合规，功能覆盖小企业主日常软件使用场景，定位低价，或颠覆SaaS市场。
LangFlow: 挑战离散扩散，探索下一代语言模型新范式
UIUC Ge Liu团队发布《LangFlow: Continuous Flow Matching for Large Language Models》，回归连续扩散架构。研究指出连续扩散受挫非先天缺陷，经优化，LangFlow让连续扩散在标准基准追平离散扩散，为多模态统一架构打通底层路线。
Claude Opus 4.7发布：更强能力，自我纠错，越来越不需要人类干预了
Anthropic发布Claude Opus 4.7版本，搭配Routines功能可自动化工作，人类干预减少。该版本能力大幅增强，还引入护栏机制保障安全，推出新运算级别和任务预算功能。
静态技能已死：cognee怎么让AI自己修自己的prompt
文章指出当前agent技能存在silent drift问题，Cognee作为开源知识引擎，将skills视为活的系统组件，通过Skill Ingestion、Observe、Inspect、Amend、Evaluate & Update五步实现自我进化，还介绍了相关应用及社区反应。
钢铁版OpenClaw，Transformer作者用Rust打造，告别数据裸奔
OpenClaw开源后虽发展迅速，但存在严重安全问题，如数据明文处理、隐私保护缺失、恶意组件等。Transformer论文作者Illia Polosukhin用Rust打造IronClaw，重构底层架构，升级记忆引擎，还指向去中心化经济。