「未对齐行为」共找到 1168 篇相关文章
大模型幻觉的源头找到了！清华团队锁定大模型宁愿说谎也要讨好人类的神经元
清华大学研究团队深度解剖大语言模型微观机制，确认幻觉关联神经元存在，揭示其与过度服从行为相关。通过干预神经元激活状态可增减模型幻觉行为，为开发可靠 AI 系统提供靶点。
推理token减少46%！Meta新方法缩短思维链，告别重复推导
Meta等联合提出元认知复用机制，让模型总结解题思路，提炼为“行为”存于“行为手册”。实验显示，该机制在数学基准测试中显著优化，保持准确率时最多减少46%推理token使用量。
ICLR-26腾讯混元：Agent是强大的，但用户是狂野的
现有LLM工具使用基准测试场景理想化，忽视真实用户行为复杂性。腾讯提出WildToolBench，基于真实用户行为构建测试集，对58个模型评估，发现模型准确率低，揭示LLM在真实场景下能力缺口，为模型优化指明方向。
Anthropic 发布最新劳动市场影响报告：AI 已拿下 75% 的程序员工作、且能做的还有很多
Anthropic发布报告，用Claude真实使用数据度量AI对劳动市场的影响。提出‘观测暴露度’指标，显示AI远未达理论上限，高暴露职业集中在白领，目前失业率未升，但年轻人入职放缓。
13 年苦熬到 170 亿市值，一夜间被用户抛弃！一封“AI吹”全员信让网友“不喷不行”
Duolingo是热门教育应用，市值约170亿美元。其CEO发“AI优先”全员信引发网友不满，公司曾依赖人类创作者，后用AI生成内容问题频出，还试图用搞笑视频化解危机，却未奏效。
GPT-6 Astra全面解析 - “欢迎来到AGI时代。”
GPT - 6 Astra在全球AI大宕机后正式亮相，是全球最智能且最对齐的模型。它有诸多新特性，如操作电脑能力强、ARC - AGI - 3跑分高、审美提升等，但也带来思维链难监控等新问题。
代码生成要变天了？被质疑架空后，Yann LeCun携320亿参数开源世界模型“杀回来了”
美国当地时间9月24日，Yann LeCun团队发布320亿参数代码世界模型CWM。它创新训练方式，能模拟代码执行。性能测试表现出色，还开放检查点。Meta AI业务重组，CWM发布或表明未彻底放弃开源。
刚刚，Anthropic开源Claude挑战黎曼猜想的4篇论文
Anthropic开源未公开版本Claude挑战黎曼猜想的4篇论文。Claude虽未证出猜想，但将零点在临界线上的比例下界从41.6%推到67.2%。整个过程由多智能体自主完成，还建立严格验证体系。
3大AI服务接连故障：换模型为什么未必能救你？
昨晚，ChatGPT、Claude、Grok 三大 AI 服务接连故障，公开信息未明确共同根因。文章指出，很多人把换模型当容灾，却未检查备用方案独立性。还介绍故障时间线、可能原因及应对措施，强调可靠性重要性。
Hermes推出Curator功能：自动清理Skill 仓库
Hermes推出Curator功能解决技能仓库膨胀问题。它每7天（可配置）自动运行，检查技能使用频率等数据，将30天未用技能标记为‘stale’，90天未用的移至归档目录，还能建议技能合并方案。