搜索：安全设计 - AI Reading Hub

「安全设计」共找到 2186 篇相关文章

规范对齐：回答前的深思，让安全与行为边界更清晰

OpenAI等厂商将规范融入大模型。上海交大等团队提出规范对齐概念，构建评测基准SpecBench，揭示主流模型不足。探索测试时深思方法，如Align3，能提升模型规范遵循度，项目已开源。

清华大学吕帅团队提出FloorPlan-LLaMa模型，采用自回归生成架构与RLHF机制，解决传统平面图自动生成模型‘指标优秀但实际不可用’痛点，提升生成式平面图设计质量与实用价值。该论文被ACL录用获领域主席奖。

谷歌DeepMind团队在Nature发表论文，探索AI自主发现强化学习算法的可能。团队负责人是“AlphaGo之父”David Silver 。方法是基于智能体经验元学习，实验显示自动发现的规则表现优异，未来强化学习算法或无需人工设计。

Anthropic发布53页报告预警，Claude Opus 4.6风险逼近ASL - 4，若自我逃逸将致全球失控。2026年AI领域状况频出，安全专家离职，多起危险事件凸显AI安全问题严峻。

Lovart 迎来重磅更新，其功能专为一人公司品牌设计定制。用户可创建专属字体、建立品牌套件、批量出物料、保存流程到 Skill 及导出 PSD，打通 AI 生成与专业精修断层。

本文报道OpenAI创始人奥特曼发布深夜长文，警告AI狂飙已远超安全对齐与监控能力，存在两大致命生存威胁，呼吁全球AI巨头集体降速，推行前置安全管控机制。

文章从Prompt、Context和Harness三个维度解析OpenClaw设计思路。Prompt工程有动态组装与文件驱动特点；Context工程含可扩展技能、上下文压缩修剪及双层记忆管理；Harness工程为模型套“马具”，保障其可控运行。

近几年机器人发展火爆，摩根士丹利预测到2050年产业规模或超5万亿美元。但机器人领域安全复杂，研究团队用CAI框架对三款消费级机器人渗透测试，揭示严重安全问题，且行业整体对安全无知。

2025年以来，大模型应用飞速发展，以OpenClaw为代表的开源框架是变革催化剂，但其在企业级生产环境有缺陷。理想汽车以阿里云ACS Agent Sandbox及ACK为核心，为Agent构建专属‘沙箱’，解决落地难题。

新晋顶流Agent Lovart火爆全网，可一句话搞定专业视觉设计，支持二次编辑。量子位实测其设计能力强，背后是多模型融合调度。它定位人机协作，适合中小企业，官网可申请内测。