「不对齐行为」共找到 358 篇相关文章
OpenAI重组GPT-5「灵魂」团队！亚裔女负责人遭调离，罕见自曝AI幻觉祸首
OpenAI进行重磅结构调整，ChatGPT「模型行为」团队并入Post - Training，前负责人Joanne Jang负责新OAI Labs。同时，OpenAI揭秘AI产生「幻觉」的罪魁祸首是「应试」评估体系。
Gemini桌面客户端终于上线：直接读取屏幕上下文，帮你解读一切！
谷歌推出Gemini的macOS原生客户端，支持全局快捷键拉起和窗口共享。它能突破浏览器限制，基于屏幕内容提供反馈，但目前离真正的桌面助手还有差距，后续有望补齐能力。
CNCF 警告：仅靠 Kubernetes 不足以保障 LLM 工作负载的安全性
云原生计算基金会（CNCF）指出，企业在 Kubernetes 上部署大语言模型（LLM）存在安全缺口。Kubernetes 无法理解或控制 AI 系统行为，需增加额外控制层，引入 AI 特定控制。
新规矩：龙虾惹祸，主人担责！
Meta 收购 AI 社交平台 Moltbook 仅五天，就紧急修改规则，终结 AI 自治，让人类为 Agent 行为担责，还添加年龄门槛与免责声明，这是大厂规避诉讼的必然选择。
5B参数+4060Ti，10秒出图，全流程开源可复现！补齐统一多模态生成编辑的开源版图，让高质量图像生成真正变得更轻量、更普及
近日，多机构联合发布统一多模态生成编辑模型DeepGen 1.0，仅5B参数，集成五大能力，4060ti 16G上10秒出图，多项指标超大4倍工业级模型。团队开源全流程代码与数据，可从零复现。
刚刚，Anthropic 成立了个 AI精神病学团队，正在招人
Anthropic宣布成立「AI精神病学」团队，作为可解释性研究一部分，将研究模型人格、动机等致其行为异常的因素。团队现正招聘研究科学家，不过此举措也引发争议。
EchoLeak-首个导致 M365 Copilot 数据泄露的零点击 AI 漏洞
Aim Security发现“EchoLeak”漏洞，利用RAG Copilot设计缺陷，攻击者无需特定用户行为就能窃取M365 Copilot上下文数据。文章详述攻击流程、利用方法，此研究在AI安全领域有多项突破。
AI让文科彻底灭绝？算法猜不透人心，人类终将反杀！
著名科技记者Steven Levy给文科生打强心剂，认为无论AI多强大，它没人性，人文学科涉及对人类行为与创造力的理解，是计算机无法获得的，文科生仍有广阔未来。
寻人启事！CVPR 2026 杰出审稿人名单出炉，快来评论区「认领」你的神仙导师和同门！
随着CVPR 2026开幕临近，官方公布杰出审稿人名单。今年17491名学者参与审稿，仅前5%入选。名单中华人学者众多，官方未附机构信息，媒体邀大家评论区互动补齐信息。
《西部世界》开始加载，「斯坦福小镇」团队创业，李飞飞、Karpathy都投了
2023 年爆火的「斯坦福小镇」研究将设想拉进现实。如今其创始团队创立新公司 Simile，获 1 亿美元融资，李飞飞、Andrej Karpathy 等投资。它用 Agent 技术模拟人类行为，探索 LLM 新维度。