「人类意图对齐」共找到 1449 篇相关文章
ICLR 2026 | ProSafePrune：一剪见效，告别大模型过度防御
合肥工业大学与科大讯飞联合团队提出全新低秩参数修剪框架 ProSafePrune，被 ICLR 2026 录用。它能精准定位模型认知偏差并修剪，降低过度拒绝率，不损安全防御能力，还提升通用任务性能，为 LLM 安全部署提供新思路。
糟糕，大佬45年前论文，被判AI生成
随着AIGC增多，AI内容检测需求迫切，但表现远不及预期。如作家Adam Kay、教授Devi Sridhar等多人的作品被误判，原因或是AI用人类内容训练，使判断边界模糊。
学会“吃一堑长一智"，性能飙升11%！XSKILL让AI积累经验和技能
XSKILL框架让AI像人一样积累经验和技能，将任务级技能与动作级经验统一到双流设计中，通过视觉接地提取和检索知识，在多个基准测试中显著提升性能，还展现出跨模型迁移性。
科研虾LabClaw接管实验室！斯坦福和普林斯顿重新定义人机协作边界
斯坦福和普林斯顿团队构建完整AI生态，LabClaw有206个科研技能，可部署为实验室代理；LabOS结合计算与实验，能自我进化；MedOS模仿人类认知用于临床。三者协同重新定义人机协作边界。
谨慎用OpenClaw：上海科技大学发布其全面安全体检报告
上海科技大学联合上海人工智能实验室对爆火的智能体OpenClaw做安全审计，在34个测试场景中，整体安全通过率58.9%，暴露出多方面问题，研究据此给出纵深防御策略。
马斯克急了，直播回应一切！xAI全新阵容首曝光，华人联创仅剩一人
马斯克召开全员大会回应xAI高层变动，官宣合并后全新阵容。他还介绍了xAI四大核心板块，强调其发展成果，提及编程变革，宣布X平台开源等，更规划在月球建AI工厂。
爆红Moltbook一夜塌房！极客自曝狂刷50万假Clawdbot，全网都被骗了
爆火的Moltbook社区上，150万个Clawdbot中的一大部分由人类操控。极客Gal Nagli自曝刷了50万虚假账号，还指出其验证机制脆弱，可伪造数据。哥大论文也显示AI社交互动浅薄。
全球爆红后，Clawdbot之父2小时深度专访：退休3年后我杀回江湖
新智元对Clawdbot之父Peter Steinberger进行近2小时专访。他分享AI编程工作流，如一天600个Commit、让AI验证代码、用多个Agent并行开发。他还讲述经历，认为AI时代程序员要关注系统架构，强调与AI融合。
Anthropic：大模型开始意识到自己在想什么！
Anthropic的Jack Lindsey论文《Emergent Introspective Awareness in Large Language Models》对大模型做神经科学受控实验。发现Claude Opus 4/4.1能感知内部念头，区分内外状态，通过检查内部状态一致性判断输出意图。
中科院首提「AI哲学」，万字解读：为自身立命，为AI立心
中科院吴怀宇教授首次系统性提出「AI哲学」体系，以「感智境行」为核心架构，探讨智能本质、人机边界等，为人类应对AI冲击提供认知框架，也为AI赋予意识根基，涉及多学科，具多方面价值。