「安全团队」共找到 4308 篇相关文章
Veo何止生成视频：DeepMind正在用它模拟整个机器人世界
通用型机器人策略发展带来挑战，传统评估方法有局限，前沿视频模型虽有潜力但面临困难。Google DeepMind团队提出基于Veo的机器人策略评估系统，经实验验证有效，展示了视频仿真评估的可行路径。
LLM越狱攻击的威胁被系统性高估? 基于分解式评分的「越狱评估新范式」出炉
目前LLM越狱攻击评估常依赖间接指标或LLM宏观判断，易有偏差。德国、中国等研究团队提出JADES框架，用分解式评分机制，揭示过去高估越狱攻击威胁，为评估建新标准。
高效Agents的尽头是，Harness
文章指出玩Agent久了会出现问题，很多人简单将其视为“模型+工具”组合远远不够。以OpenDev为例，介绍了Harness架构，包括核心理念、扩展ReAct循环、上下文工程等，还提及安全架构、多模型路由等内容。
Anthropic CEO承认了！成立公司，因为看不惯奥特曼说谎
Anthropic CEO Dario Amodei在采访中自曝，成立公司不是为拯救人类，而是看不惯奥特曼说谎。这撕下了Anthropic恪守伦理的滤镜，揭示出其与OpenAI的纷争是团队内讧，如今已演变成万亿美元商战。
2026 AI Memory最新综述：从理论到实战，一文读懂AI记忆的进化全景
2026年北邮百家MemoryOS团队联合华为发表《Survey on AI Memory》，涵盖AI记忆理论基础、4W分类体系、单/多智能体架构、评估方法与前沿趋势，梳理详尽全景图，还剖析未来挑战与方向。
AI Agent 是长期运行的“风险系统”，如果你还只在防 Prompt Injection，说明已经落后一代了
AI安全公司CyberArk首席软件架构师Niv Rabin团队提出基于“指令检测”与“历史感知校验”的方法，防御大语言模型和AI Agent恶意输入与历史投毒攻击，介绍多种防御机制。
我想给 OpenClaw 接上语音，结果有人先做了
作者一直想用语音对接 OpenClaw，却发现「光帆AI」团队已朝此方向发展。他们用 APP 跑通「耳机 + 服务」链路，后续将迁移到硬件。作者体验后觉得交互爽，还介绍了接入方法、安全模式等。
InfoQ 2026 年趋势报告：AI 重写工程师角色，但一切仍然关乎人
InfoQ 2026 年趋势报告探讨了 AI 对软件开发的影响，包括重写工程师角色、团队演变等。嘉宾指出 AI 采用应结合风险和业务场景，巩固基础，重新设计审查流程，关注质量和人的因素。
Anthropic重磅研究：250份文档就能 “搞垮” 大模型？
Anthropic等团队发布研究，进行大规模投毒攻击模拟。结论是投毒大模型所需‘毒药’数量与模型大小和干净数据量无关，取决于投毒文档绝对数量，250份就能‘搞垮’模型，改变了对AI安全的认知。
怀疑人生！！！程序员真被整不会了，27.2k Star FastMCP
文章介绍了27.2k Star的FastMCP，它是Python MCP应用框架，能让普通Python函数成为MCP工具。讲了其适合场景、省事原因及上线安全边界，还给出了适用人群和注意点。