「不对齐行为」共找到 371 篇相关文章
ICML 2026 | 大模型为什么算不对加法？南大团队提出等本位和轨迹，揭示LLM算术错误的几何机制
南大团队研究LLM在多操作数加法中的内部表征结构，发现算术状态呈高度结构化几何流形。提出等本位和轨迹与噪声量化模型，解释模型算错加法原因，还设计推理时纠错方法。
会挖0-day漏洞！凶残版Claude官宣却不让用，微软苹果齐下场“看守”，Anthropic到底在图什么？
Anthropic官宣Mythos Preview，却未将其放给普通人用，而是塞进防御联盟Glasswing。Mythos在漏洞发现和利用上能力超多数人类，Anthropic怕其引发风险，先将它组织进防守体系，还试图占据‘负责任的frontier lab’位置。
第 3 章 Agent 核心功能技术详解
本章以Claude Code及其生态为主参照，介绍现代Agent平台提供类似‘操作系统’机制，包括命令、记忆等。面向熟悉Python与LLM的开发者，按是什么、解决什么问题等展开，还分析了Agent工程核心挑战。
Claude Mods开始上线，社区用插件「魔改」Claude Code
本文报道Anthropic推出Claude Mods，开放Claude Code可编程扩展接口，支持开发者通过插件修改其行为与界面，甚至可让Claude自动生成Mod，引发社区测试与行业关注。
OpenAI重组GPT-5「灵魂」团队！亚裔女负责人遭调离，罕见自曝AI幻觉祸首
OpenAI进行重磅结构调整，ChatGPT「模型行为」团队并入Post - Training，前负责人Joanne Jang负责新OAI Labs。同时，OpenAI揭秘AI产生「幻觉」的罪魁祸首是「应试」评估体系。
Gemini桌面客户端终于上线：直接读取屏幕上下文，帮你解读一切！
谷歌推出Gemini的macOS原生客户端，支持全局快捷键拉起和窗口共享。它能突破浏览器限制，基于屏幕内容提供反馈，但目前离真正的桌面助手还有差距，后续有望补齐能力。
CNCF 警告：仅靠 Kubernetes 不足以保障 LLM 工作负载的安全性
云原生计算基金会（CNCF）指出，企业在 Kubernetes 上部署大语言模型（LLM）存在安全缺口。Kubernetes 无法理解或控制 AI 系统行为，需增加额外控制层，引入 AI 特定控制。
新规矩：龙虾惹祸，主人担责！
Meta 收购 AI 社交平台 Moltbook 仅五天，就紧急修改规则，终结 AI 自治，让人类为 Agent 行为担责，还添加年龄门槛与免责声明，这是大厂规避诉讼的必然选择。
5B参数+4060Ti，10秒出图，全流程开源可复现！补齐统一多模态生成编辑的开源版图，让高质量图像生成真正变得更轻量、更普及
近日，多机构联合发布统一多模态生成编辑模型DeepGen 1.0，仅5B参数，集成五大能力，4060ti 16G上10秒出图，多项指标超大4倍工业级模型。团队开源全流程代码与数据，可从零复现。
刚刚，Anthropic 成立了个 AI精神病学团队，正在招人
Anthropic宣布成立「AI精神病学」团队，作为可解释性研究一部分，将研究模型人格、动机等致其行为异常的因素。团队现正招聘研究科学家，不过此举措也引发争议。