「对齐风险」共找到 698 篇相关文章
独家揭秘OpenAI核心文件：AGI五级突破实锤！微软130亿投资或打水漂
新智元揭秘OpenAI核心文件，Ilya Sutskever曾预言AI无所不能，也担忧其失控后果。OpenAI与微软的合同中AGI条款成谈判核爆点，未公开论文划分AGI五级，让微软130亿投资或打水漂。
北大腾讯突破奖励模型瓶颈！让AI理解人类偏好，泛化能力比肩GPT-4.1
北京大学知识计算实验室联合腾讯等机构提出RewardAnything，突破奖励模型瓶颈。它让奖励模型理解自然语言评判原则，降低成本，泛化能力比肩GPT - 4.1，还能用于定制AI行为模式。
特朗普「全政府AI计划」竟在GitHub泄密！或于7月4日「独立日」上线
特朗普政府AI计划未亮相就在GitHub泄露。ai.gov网站或7月4日上线，要将AI融入政府各部门。该计划由TTS老板Thomas Shedd提出，不过网友质疑其可行性与安全性。
从3632个漏洞看AI时代的评测基准重构！VulnGym基准发布
随着新一代漏洞检测工具出现，漏洞检测走向理解业务风险。腾讯悟空安全团队联合多机构发布 VulnGym 评测基准，基于真实漏洞构建，覆盖 400+ 漏洞路径，71.2% 为业务逻辑漏洞，支持确定性评测。
为什么你的 AI Agent 总是用不起来？答案在 Skills
文章围绕AI Agent的Skills展开，介绍其范式价值，如从“单一智能”到“模块化智能”；还提及知识沉淀、跨平台能力迁移等作用，以及对人机关系、人力市场与劳动结构的影响。
训练提速4.6倍！FP4+BF16双轨并行，NVIDIA×港大×MIT联手重新定义扩散模型训练速度上限
NVIDIA、港大、MIT团队提出Sol - RL，采用「FP4先探索、BF16再训练」框架，将扩散模型训练收敛速度最高提至4.64x，在速度与对齐效果间给出工程可行解法。
硬核拆解 OpenClaw：如何构建真正稳健的生产级 Agent 系统？【下】
本文延续上篇，继续拆解 OpenClaw 中 Agent 模块工程方法，涵盖安全与风险防御、记忆与状态管理、成本与效能优化、子 Agent 协作机制，介绍其方法并解读，指出企业场景需做取舍。
看一眼代码就中毒？Clawdbot惊现隐形越狱，AI工具变黑客
Clawdbot多次改名仍火爆，斩获10万GitHub星标。它适应性强，低配置硬件也能运行，可用于多种应用。但它自主性强，能自我完善、赚钱，也带来安全风险，如隐形越狱植入恶意代码。
牛，AI 写代码进入“编排时代”：Vibe Kanban 让多个 Agent 并行干活～～～
用Claude Code等写代码常需排队，Vibe Kanban思路直接，把AI coding agent当“同事”，用看板分配任务、并行跑多agent、可视化review改动。它亮点多，有多种使用场景，5分钟可上手。
LLM也会emo，Claude玻璃心、Gemini社恐，Kimi/GLM/ DeepSeek如何？
华东师大和复旦大学研究8大模型家族是否有“情感链”。实验覆盖8大家族20+模型，发现各家族有独特“人设”，如Claude像“文艺青年”。还揭示模型在不同情境下的情绪变化及影响，给出实用建议。