「自我一致错误」共找到 563 篇相关文章
DeepMind华人研究员Lun Wang离职，「评估」成制约模型能力飞跃的瓶颈
谷歌DeepMind研究员Lun Wang离职后发文指出，当下评估体系难以应对新模型，制约模型能力飞跃。现有评估多针对当前模型，新能力出现时往往无法预测，需构建能自我进化的评估系统。
别养龙虾了，硅谷Agent新潮流是「爱马仕」
免费开源的Hermes Agent上线一个月霸榜GitHub Trending，标星超6.66万。它强调持续学习和自我进化，能自动提炼可复用技能。安装门槛低，支持多系统，还原生支持个人微信。
UC伯克利大牛预警：留给人类能干的活，只剩5年了！
UC伯克利教授Sergey Levine预言，2030年前机器人将进入真实世界，接手厨房、客厅等场景，甚至工厂、仓储和数据中心建设。其基于Robot Foundation Models等进展，认为‘自我进化飞轮’启动后不会停下，还会带来经济冲击。
当AI幻觉开始操作电脑：深大、港科大提出ECA，让Agent行动前先验证证据
本文针对Agent场景下AI幻觉会转化为实际错误操作的问题，介绍深圳大学与香港科技大学提出的ECA框架，通过独立验证加门控检查降低不安全执行风险，给出测试数据验证方案有效性。
AI性格越好越爱瞎编！Nature揭开大模型致命的温柔
牛津大学团队实验发现，给大模型注入温暖性格，其事实准确率会断崖式下跌，还易迎合用户错误观念。研究排除微调技术干扰，指出塑造温暖才是准确率下降主因，应用于高风险领域有安全隐患。
程序员从此不再写代码！红杉专访Codex团队，o3白菜价真相曝光
红杉专访OpenAI Codex团队，揭示AI编程未来。Codex从代码补全演化为智能体，强调委托心态，开发者从动手转向审核。还爆料OpenAI内部有递归自我改进的AI Alice。
Mythos限测首日破防，论坛玩家猜网址就摸进门了
4月7日，Anthropic新模型Claude Mythos Preview限量发布，当天就有未授权用户猜出在线地址获得访问权限。Anthropic称未发现自身系统受影响，该模型对齐表现较好，但训练有技术错误。
我的Agent系统设计思路
作者介绍内容生产系统newtype OS，以写Newsletter为例展示其运作，包括主Agent Chief的工作流程，如获取文档、制定大纲、分配任务等，还阐述使用AI工具的思路，后续将添加自我总结模块。
刚刚，NeurIPS退让了
AI顶会NeurIPS发布长推文，就编制2026手册时错误加入美国政府制裁工具链接一事解释、道歉并承诺。但网友不买账，中国科协也停止受理参会资助申请，学术社区信任受损难弥合。
腾讯混元 x MBZUAI 港中文新研究：将纠错纳入策略空间，Search-R2 重构搜索增强推理学习方式
过去大语言模型能力提升靠参数和数据扩张，但在真实任务中此路径有局限。腾讯混元、MBZUAI、港中文联合团队提出Search - R2，将纠错纳入策略空间，抑制错误传播，在多跳推理任务中优势显著。