「安全设计」共找到 2126 篇相关文章
Claude Opus 4.7发布：更强能力，自我纠错，越来越不需要人类干预了
Anthropic发布Claude Opus 4.7版本，搭配Routines功能可自动化工作，人类干预减少。该版本能力大幅增强，还引入护栏机制保障安全，推出新运算级别和任务预算功能。
Agent 护城河：揭秘Harness的三大支柱
上海交大等机构研究者梳理LLM Agent设计逻辑，指出能力正从模型内部流向外部，外部化有记忆、技能、协议三大支柱，Harness负责协调，Agent竞争转向外部化基础设施。
YC掌门人60天写了60万行代码，一个人干20人的活，他把方法论全开源了
Y Combinator总裁Garry Tan 60天写超60万行代码，将方法论整合成开源工具gstack。它把Claude Code变成虚拟工程团队，含15个角色和6个增强工具，可并行运行多个Sprint，还具备多种实用能力。
钢铁版OpenClaw，Transformer作者用Rust打造，告别数据裸奔
OpenClaw开源后虽发展迅速，但存在严重安全问题，如数据明文处理、隐私保护缺失、恶意组件等。Transformer论文作者Illia Polosukhin用Rust打造IronClaw，重构底层架构，升级记忆引擎，还指向去中心化经济。
GAN之父Ian Goodfellow病后归来，剑指高效世界模型
GAN之父Ian Goodfellow等提出，利用符号化表示和游戏虚拟世界数据，或为构建动作条件多模态世界模型最佳路径，该模型可支持长时序任务预测与规划，还探讨构建原因、数据来源等。
OpenAI透露协议细节，已做好随时终止的准备
OpenAI公开与美国国防部协议细节，设三条红线，有更全面安全防护。合同含违约条款，其称预计政府不违约，但做好终止准备，体现科技公司平衡商业与伦理。
AI Agent 总翻车？这篇综述戳破了 3 个关键误区
很多团队做AI Agent停留在‘LLM+工具’表面拼接，运行易出问题。该综述指出AI Agent是‘系统’，介绍其架构，还给出常见误区的应对方法、落地检查清单，展望应用前景。
ClawdBot传疯了！视频教程来了
外网疯传的ClawdBot由开发者Peter Steinberger开发，能通过多平台交互干活。介绍其技术架构、两种设置方式、成本，还有安全设置、测试方法、进阶功能、使用场景及硬件选择等。
2026 AI Memory最新综述：从理论到实战，一文读懂AI记忆的进化全景
2026年北邮百家MemoryOS团队联合华为发表《Survey on AI Memory》，涵盖AI记忆理论基础、4W分类体系、单/多智能体架构、评估方法与前沿趋势，梳理详尽全景图，还剖析未来挑战与方向。
语言模型内部还藏着众多策略模型？自底向上强化学习重塑底层特征 | 直播预约
现有强化学习工作将语言模型作整体策略优化，研究提出以策略视角审视内部隐藏状态，分析层级和模块级策略，发现不同模型模式差异，还提出自底向上强化学习策略，为研究架起新桥梁。