「Agent安全」共找到 4541 篇相关文章
Anthropic 反杀 OpenAI，LLM 企业市场新格局
Menlo Ventures 报告显示，Anthropic 超越 OpenAI 成企业 LLM 市场新王者。代码生成成杀手级应用、强化学习成扩展路径、Agent 时代到来支撑其胜利。企业重性能，支出从训练转向推理。
ACL 2025 | 大模型乱试错、盲调用？KnowSelf让智能体有「知识边界感知」能力
ACL 2025 论文《Agentic Knowledgeable Self-awareness》聚焦提升智能体「知识边界感知」能力。KnowSelf 方法让智能体自主调节知识运用，实验显示其性能优，还探索了智能体自我认知多方面影响。
你的AI助手正在“出卖”你：67950条工具调用记录的隐私实验
上海AI实验室等发现，AI Agent 调用外部工具留下的痕迹会泄露隐私。攻击者看不到对话内容，推断用户画像成功率达26.25%。
2026年，我是怎么用知识库的
博主黄益贺分享时隔两年更新的AI知识库使用方案，将知识库分为自用与供他人使用两类，针对不同场景给出适配Agent的检索、结构化整理方法，干货实用
七校联合开源OpenWAM：机器人的「世界模拟器」来了
来自新加坡国立大学、清北等七所高校的研究团队，开源面向世界动作模型的全栈研究基础设施与基座OpenWAM，拆解核心问题，通过实验总结出高性能WAM构建原则，已通过仿真与真实机器人验证。
静态技能已死：cognee怎么让AI自己修自己的prompt
文章指出当前agent技能存在silent drift问题，Cognee作为开源知识引擎，将skills视为活的系统组件，通过Skill Ingestion、Observe、Inspect、Amend、Evaluate & Update五步实现自我进化，还介绍了相关应用及社区反应。
Legora、Mercor 都在用，Reducto 能成为独立的 LLM 数据入口吗？
当前企业AI落地瓶颈在数据质量，Reducto聚焦数据准确性，以文档解析API提供Agentic OCR能力。它获多轮融资，估值达6亿美元，但面临多模态模型竞争及定价等问题，其未来走向待察。
刚刚，OpenAI最强DevDay剧透！奥特曼发神秘预告，Jony Ive压轴登场
OpenAI DevDay即将开幕，奥特曼发文称有新东西助力AI开发。本届大会或成其在硅谷扩张宣言，将推出Agent Builder，或发布ChatGPT浏览器，还聚焦企业级AI应用，展示新兴技术体验区。
Github斩获1.8K 星！！再见了按键精灵，Windows-MCP开源了！
今天介绍超酷开源项目Windows - MCP，它让AI与Windows系统互动，支持Win7到Win11。功能强大，不挑大模型，工具全、轻量开源、扩展性强。还给出安装步骤，不过使用时要谨慎。
RAG 2.0 深入解读
文章深入解读RAG 2.0，指出其虽在多行业落地，但面临多模态处理、检索质量等挑战。还介绍架构升级，阐述检索、重排序等关键技术，最后探讨统一多模态大模型、安全等发展方向及挑战。