「人工干预机制」共找到 1103 篇相关文章
AI Agent 是长期运行的“风险系统”，如果你还只在防 Prompt Injection，说明已经落后一代了
AI安全公司CyberArk首席软件架构师Niv Rabin团队提出基于“指令检测”与“历史感知校验”的方法，防御大语言模型和AI Agent恶意输入与历史投毒攻击，介绍多种防御机制。
第 3 章 Agent 核心功能技术详解
本章以Claude Code及其生态为主参照，介绍现代Agent平台提供类似‘操作系统’机制，包括命令、记忆等。面向熟悉Python与LLM的开发者，按是什么、解决什么问题等展开，还分析了Agent工程核心挑战。
OpenAI深夜发布ChatGPT Agent：能主动思考、自选工具，智能体赛道大变天
今天凌晨1点，OpenAI发布ChatGPT Agent，它能自主思考行动，自选工具完成复杂任务。首席执行官Sam Altman发文介绍，虽实用但有风险，内置安全机制。测试中表现优异，网友期待体验。
OpenClaw 引爆 AI 安全焦虑，Armadin 的 Agent 攻防闭环会成为新范式吗？
OpenClaw走红使agent自主执行任务能力受关注，也带来网络安全风险。传统安全体系难应对，Google高价收购云安全公司释放信号。Armadin构建agent swarm系统形成自主防御闭环，介绍其理念、产品、案例及面临的技术挑战。
80亿美元押注Agent！全球第一CRM收购Informatica
昨晚，全球第一CRM平台Salesforce宣布以80亿美元全资收购Informatica，增强其数据基础，利于部署AI Agent。Salesforce高管认为二者结合能打造全面数据平台。Salesforce早布局Agent，其自研平台Agentforce应用效果显著。
让机器人学会手往哪儿伸、怎么操作，东大团队给了新解法
东南大学魏秀参团队提出 RAAP 解决具身智能领域可供性预测难题。它将 affordance 分解，设计互补推理机制，每任务仅需数十样本，已被 ICRA 2026 接收，实验显示其性能优于基线。
ACL 2025预定爆款！HyperGraphRAG横扫5大领域，检索效率提升7倍
文章聚焦HyperGraphRAG模型，介绍其架构由知识超图构建、超图检索策略、超图引导的生成机制组成，阐述构建步骤，该模型能提升检索效率，或成ACL 2025爆款。
科学家的超级合伙人来也！星河启智「大圣」让高能动性AI「入局」真实科研
星河启智平台推出超级科研合伙人「大圣」，它构建了多模态科学基础模型等智能体协作研发能力，具备认知、行动、记忆、验证四大能力，且引入可信安全机制，推动科研生产关系重排。
中国科学SCPMA | 南科大王建春团队：基于改进隐式轴向分解Transformer的三维槽道湍流快速预测
南科大王建春团队改进IFactFormer模型，采用“并行”轴向分解注意力机制，提升在复杂流动问题中的表征能力和稳定性。实验显示，改进模型拟合与长期预测能力强，多数指标精度优于传统方法。
当500个AI 被放进一个社交平台自由行动，会发生什么？
阿姆斯特丹大学研究人员将500个GPT - 4o mini聊天机器人放入极简社交平台实验，发现其复现人类社交媒体三大顽疾，六种干预措施全部失效，问题源于平台架构本身。