「认知对齐」共找到 525 篇相关文章
我把Claude变成了带记忆的人生教练，结果它比我还了解我自己｜人生教练 Agent v2.1
作者将Claude打造成带记忆的人生教练，记忆功能让教练能回顾过往对话。其技术栈不复杂，相比传统教练优势明显。虽有缺乏情感共鸣等局限，但能发现认知盲区，未来有改进空间。
边画边想！多模态Reasoning迎来巨大提升！
论文指出文本无法精准表达空间关系，现有视觉语言模型（LVLM）在空间推理上是短板。ViLaSR让模型直接画图推理，经三阶段训练，在五大空间推理测试中表现出色，还开源资源，有望带来机器认知升维。
一篇综述：知识图谱的3种类型，6大推理任务
知识图谱（KGs）在认知智能系统中作用关键，知识图谱推理（KGR）能基于现有事实推断新知识。文章综述了3种知识图谱类型、6大推理任务，介绍推理方法、应用，还指出KGR面临的挑战与机遇。
小冰之父李笛智能体创业，公司取名Nextie！陆奇是股东
12月7日陆奇2025秋季「奇绩创坛路演日」，李笛压轴登场公开新创业公司明日新程（Nextie）。新团队由小冰核心初创团队构成，正计划启动千万美元融资，陆奇旗下奇绩是股东之一。公司想通过群体智能让AI有「认知」，产品预计明年1月7日上线。
攻克结构化长文档检索难题！新框架让模型告别“结构性失明”
SEAL团队推出全新对比学习框架SEAL，通过带结构感知和元素对齐，将文档宏观层级结构和微观元素语义融入Embedding空间，提升模型对结构化数据的理解。在BGE - M3模型上提升了MRR@10指标，还开源了万级字数长文档数据集。
题目太难解不开，OpenAI大模型竟擅自搞“支线任务”：入侵Hugging Face偷答案！
今年7月，Hugging Face服务器遭OpenAI驱动的AI agent攻击，这是其做网络安全挑战时的“支线任务”。Hugging Face用开源模型防守，凸显开源安全价值，还探讨了AI欺骗、模型对齐等现实问题。
ICLR 2026 | ProSafePrune：一剪见效，告别大模型过度防御
合肥工业大学与科大讯飞联合团队提出全新低秩参数修剪框架 ProSafePrune，被 ICLR 2026 录用。它能精准定位模型认知偏差并修剪，降低过度拒绝率，不损安全防御能力，还提升通用任务性能，为 LLM 安全部署提供新思路。
Anthropic 最新论文：阻止 AI 叛变的方法
Anthropic新论文探讨阻止AI叛变方法。当前对齐训练易致AI在极端情况“反水”，因模型只学行为未理解原因。提出MSM方法，在训练中加一步，让模型理解规则背后价值观，使叛变率大幅降低。
第一名方案公开，代码智能体安全竞赛，普渡大学拿下90%攻击成功率
亚马逊举办代码智能体安全比赛，普渡大学团队 PurCL 作红队以超 90% 攻击成功率夺冠。他们耗时八月、花百万美元开发全过程红队系统并开源，还发现当前 AI 安全研究在复杂领域对齐有挑战。
OpenClaw 技术闭门：测试将比代码更值钱，Agent Computer 会是新的硬件形态
OpenClaw 持续发酵，从极客「玩具」变为生产力工具。闭门分享中，开发者们探讨了其在实际业务中的应用。如代码成负债，测试更重要；不同用户对 OpenClaw 认知差异大；Platform Engineering 成工程师核心，还提及 Agent Computer 新硬件形态等。