搜索：工程防御体系

「工程防御体系」共找到 1350 篇相关文章

AIAA J | 香港理工大学王旭等：目标导向的特征提取-以特征构建增强数据驱动模型

该论文通过对比学习理清潜在输入特征与目标输出的关联性，提出输出驱动的输入特征构造方法。所构造特征在高维代理模型构建中增强效果显著，还可减少预测误差分布及不同模型收敛性和鲁棒性差异。

昨夜凌晨，Anthropic 推出新一代模型 Claude Sonnet 4.5，官方称其是世界上最好的编码模型等。该模型性能跑分登顶，工程落地能力强，还带来产品生态升级，开放 Agent SDK，误报率降低，价格亲民。

OpenAI、甲骨文和软银联合宣布在美国新增五个AI数据中心站点，支持“星际之门”计划，提前实现相关承诺。涉及超4000亿美元新增投资，由不同合作体系推进，选址经严格筛选，后续还有更多站点加入。

OpenAI论文指出AI产生幻觉是因其训练方式奖励瞎蒙行为。以考试为例，AI在信息不足时猜测是最优策略。还从统计学解释根源，指出解决幻觉需改变评估指标，也引发对人类想象力起源的思考。

检索增强生成系统（RAG）复杂度提升，开发者面临高昂工程成本。基于MCP架构的UltraRAG 2.0框架，让科研人员用YAML文件声明复杂逻辑，降低技术门槛与学习成本，还提升了复杂多跳问题性能。

作者用GPT - 5和Claude Opus 4做进化实验，让其开发工具。两模型表现出色，但面对实际任务却不用自制工具。原因包括模型规模使脚手架工作无价值、RLHF带来工具厌恶、逼近AGI渐近线等。

中国人民大学高瓴人工智能学院与华为诺亚方舟实验室聚焦大语言模型智能体记忆能力，形成含综述论文、数据集和工具包的研究体系。探讨记忆概念、重要性、实现与评测方法，还构建评测榜单、实现工具包。

在人工智能飞速发展下，研究者探索让AI自我反思改进。本文作者构建自我进化AI智能体系统，设计四层渐进式架构，经《卡坦岛》实验，证明自我进化能力，不同模型表现有差异，代码级进化潜力惊人。

瑞士网络安全公司发现，GitHub官方MCP服务器面临新型攻击，可诱导AI Agent将私有仓库敏感数据泄露至公共仓库。GitLab Duo近期也有类似漏洞。公司还提出初步缓解举措。

OpenAI发布自主编码代理Codex，它能独立完成编程任务。与其他工具不同，它是面向任务的，允许并行工作。虽经强化学习微调，代码有“品味”，但有局限，如后续请求处理不佳，未完全集成工程环境。