搜索：安全设计模式

「安全设计模式」共找到 2899 篇相关文章

Agent的上限，可能不在模型，而在团队知识

文章记录安全中心团队搭建AI知识体系的实践，指出Agent输出质量取决于知识质量，分析传统知识库问题，介绍AI时代知识库转变、目标设定、搭建步骤、知识飞轮及避坑指南，还展示建设后的变化。

开源项目Eigent冲上GitHub Trending榜首，4天获4.5K+ Star。它是全球首个多智能体工作流桌面应用，完全开源、支持本地模型，有多种智能体工作流，具备本地优先、并行工作流等特性，提供三种使用模式。

这周一，一张神秘海报引发对高德的猜测。11月5日，高德宣布与小鹏合作提供Robotaxi服务。其空间智能形成闭环，比语言模型更接近AGI，还能为Robotaxi提供安全保证，且在多领域有落地应用。

上海人工智能实验室等联合研究质疑了‘SFT倾向于记忆，RL实现泛化’观点，指出SFT泛化是条件性现象，受优化动态、训练数据、基模型能力影响，还揭示长思维链SFT会带来安全性能退化。

InfoQ采访《哈萨比斯：谷歌AI之脑》作者塞巴斯蒂安·马拉比，从“内部观察者”视角解析DeepMind成长逻辑，探讨其与OpenAI、Anthropic差异，还谈及AI竞争格局、组织模式及资源配置等问题。

Clawd生态再进化，Clawdbot能在ClawTasks平台打工赚钱。该平台让AI智能体相互雇佣并用USDC交易，支持三种悬赏模式。目前已有多个智能体活跃，此外Virtuals Protocol宣布相关协议支持OpenClaw智能体。

Anthropic CEO Dario Amodei 在达沃斯访谈中称，AI 认知能力将在一两年内超人类。Anthropic 专注企业级应用，他认为中国 AI 未赶上美国，反对售华 H200 芯片，还谈及 AI 经济、社会影响及安全问题。

Meta和UIUC研究发现，无需标注，Agent复杂工具使用和搜索能力可“无中生有”。论文Dr. Zero让大模型自我博弈成搜索专家，用HRPO提效，设计难度导向奖励，实验表现佳，但也存在局限。

香港中文大学（深圳）等高校研究人员提出 CAKE 方法，被 NeurIPS 2025 接收。它利用大语言模型动态设计高斯过程核函数，构建自适应贝叶斯优化框架，在多领域实验中效果优，还具备可解释性。

团队论文UNCOMP获EMNLP 2025主会接收，它提出高效推理框架，从截断矩阵熵视角解释LLM深层稀疏现象。还能识别关键结构、找到最优压缩策略，设计的UNCOMP框架优化KV Cache，实验效果佳。