「认知对齐」共找到 525 篇相关文章
AI终于学会「读懂人心」，带飞DeepSeek R1，OpenAI o3等模型
威斯康星大学麦迪逊分校联合清华大学的研究《MetaMind: Modeling Human Social Thoughts with Metacognitive Multi-Agent Systems》，将元认知理论融入LLM架构，让AI“读懂人心”。其框架分三阶段，还有动态社交记忆，在多基准测试表现出色。
MIT：过度依赖ChatGPT会让大脑功能萎缩
MIT完成首个ChatGPT用户脑部扫描研究，发现AI没让我们高效，反而致大脑“认知破产”。研究追踪54人，监测脑电波和神经连接模式，发现过度依赖会让大脑功能萎缩，还探讨了如何正确使用AI。
阿里云CIO首次系统复盘：大模型落地的 RIDE 方法论与 RaaS 实践突破
阿里云智能集团 CIO 蒋林泉分享大模型落地实践，指出企业中业务与 IT 对 AI 认知矛盾突出。他展示阿里云数字人落地成果，提出 RIDE 方法论，还剖析翻译和 Agent 两种应用模式及落地要点。
Stream-Omni：同时支持各种模态组合交互的文本-视觉-语音多模态大模型
中国科学院计算技术研究所团队提出文本-视觉-语音多模态大模型Stream-Omni，能支持多种模态组合交互。它对各模态关系针对性建模，实现高效灵活的模态对齐，仅用少量语音数据就有多种交互能力。
硅基大脑记忆觉醒！会遗忘、会反思、会成长的AI正在到来
哈尔滨工业大学等机构团队发表研究，用认知神经科学视角审视AI记忆系统，探讨如何让AI产生“自我”，构建会遗忘、反思、成长的记忆大脑，还涉及记忆分类、存储、管理、评估、防御及未来演进等内容。
从最优传输角度训练奖励模型：让 RLHF 学会「忽略错误偏好」丨ICML 2026
浙江大学、小红书、北京大学等团队提出SelectiveRM，基于最优传输训练奖励模型。它重构训练目标，通过选择性分布对齐排除噪声偏好，解决了奖励模型训练中监督信号不可靠的问题，实验验证其有效且泛化能力好。
Meta 删邮件事故背后，OpenClaw 为什么会“失忆”？代码库维护者拆解记忆架构
OpenClaw在使用中易“失忆”，如Meta对齐总监用它处理邮件时失去控制。文章从代码库维护者视角，拆解记忆架构，介绍记忆层次、失败模式，给出配置建议和故障排除方法，助用户了解并优化其记忆机制。
卡帕西：强化学习很糟糕，但其他所有方法都更糟
卡帕西在近两小时访谈中解答诸多问题。他认为AGI成熟约需十年，现有的LLM有认知缺陷，强化学习糟糕但其他方法更差，AGI将延续2%GDP增长趋势，还谈及自动驾驶、教育等方面看法。
微软：81% 企业考虑增设 AI 岗位，未来员工会成为智能体的老板
微软发布报告显示，中国企业对 AI 应用认知转变，84%企业决策者将重新评估 AI 影响，81%企业考虑增设 AI 岗位。企业落地 AI 有三阶段，智能体以“数字员工”角色进入企业，员工与 AI 关系重要。
Anthropic 在 Claude 内部发现"全局工作空间"，可以直接读取模型没说出口的想法
Anthropic发布研究，在Claude内部发现J - space（雅可比空间），即“全局工作空间”，它在训练中自发形成。用雅可比透镜技术可读取其内容，还验证了其功能属性，可用于对齐审计等。