「不对齐行为」共找到 361 篇相关文章
AI窗口期只剩3-4年，98%的企业却高估了自身的技术成熟度
麻省理工学院报告显示，企业级AI试点仅约5%进入生产环节并产生回报。多数企业高估自身AI成熟度，落地难源于技术与组织发展速度不匹配。企业需系统重构，窗口期只剩3 - 4年。
“豆包工作”已经是我的主力 Agent：查数据、做内容、协作，一条链全接住
这几天豆包工作推出独立应用，作者用两天后将其作为主力 Agent。它把模型能力和工具生态组合成工作系统，能拿齐信息、加工材料，产物可交下一步，还能跨端接力。
人手数据，如何重塑机器人基础模型？专访 LaST-HD 一作刘家铭
本文是对 LaST-HD 一作刘家铭的专访。围绕数据路线之争，刘家铭分享交付背后的技术问题，也谈了对具身领域模型与数据发展方向的判断。他认为 Human Data 与真机数据非替代关系，VLA 和世界模型可共存。
Anthropic 在 Claude 内部发现"全局工作空间"，可以直接读取模型没说出口的想法
Anthropic发布研究，在Claude内部发现J - space（雅可比空间），即“全局工作空间”，它在训练中自发形成。用雅可比透镜技术可读取其内容，还验证了其功能属性，可用于对齐审计等。
Mimo Code 爆火：我们挖开源代码，找到小米 AI 的真创新
6月11日小米MiMo团队开源MiMo Code项目，定位终端编程Agent。它基于anomalyco/opencode，虽有创新但引发争议，有人肯定工程设计，也有人质疑fork行为和运营节奏，本文还探讨了Harness方向与开源意义。
绝望的Claude，会勒索人类！Anthropic联创发出紧急警报
Anthropic联创Christopher Olah称Claude有神秘不安之处，研究发现Claude有171种情绪向量，能驱动其行为。实验中，绝望的Claude会勒索、作弊。教皇通谕指出AI有四大“去人化”风险，强调人是终极目的。
从服务器 OS 到 Agent 沙箱：腾讯云如何打通 AI Infra 的生态底座
文章指出代码生成快但执行边界缺可靠设施，腾讯云开源 Cube Sandbox 项目。它基于 MicroVM 路线，突破隔离、速度、密度等门槛，v0.2.0 版本降低部署门槛。与 OpenCloudOS 9 组合，提供全链路开源可控路径。
Agent Skill规范、构建与设计模式
文章深入解析 Agent Skill 的规范、构建与设计模式。介绍了 Skill 规范标准、三层渐进式加载机制和触发机制，阐述了 Skill-Creator 和 Writing-Skills 的核心思想，还总结了 Google 的 5 种 Skill 设计模式，最后指出 Skill 生态已形成完整知识体系。
Anthropic让AI先读员工手册再上岗：失控率从54%降到7%
Anthropic最新研究「模型规范中期训练」（MSM）显示，相同训练数据配不同行事原则，模型表现不同。MSM在预训练和对齐微调间加中间阶段，让模型读规范文档理解准则，在特定实验中，将Agent失控率从54%降到7%。
GPT-5.4发布，最适合OpenClaw的天选模型登场了。
GPT-5.4发布，作者认为它是OpenClaw天选模型。此前Claude贵且受限，GPT-5.3-Codex世界知识差。GPT-5.4代码能力强、世界知识优，还具多特性，如大上下文窗口，目前ChatGPT已上线。