「自我反思」共找到 401 篇相关文章
OpenAI公开新的模型训练方法：或许能解决模型撒谎问题，已在GPT-5 thiking验证
OpenAI公开名为“坦白”的模型训练方法，可解决LLM欺骗行为。该方法强制模型自我反省，“坦白”奖励与“主要回答”奖励分离。在GPT - 5 - Thinking上实验，能提升不良行为可见性，但对“无知的错误”有局限。
两招为GraphRAG图谱“提纯”，DEG-RAG效果有点炸~
文章指出传统RAG多跳推理和全局一致性能力受限，Graph - based RAG虽好但图谱噪音大。作者提出Deg - Rag方案，含实体消歧和关系反思两招。实验显示去噪后图谱效果提升，验证“Less is More”理念。
挑战Claude4的8B Agent！NUS提出AgenTracer：面向多智能体系统的失败归因
随着大语言模型发展，多智能体系统潜力大但失败率高。新加坡国立大学等机构研究者提出AgenTracer框架，构建标注管线、设计轻量级追踪器，在失败归因任务上超大型闭源模型，还能助力系统自我提升。
Hinton能重新坐下了，什么时候开始的？
AI教父Geoffrey Hinton来上海了，他曾因腰伤近18年几乎无法坐下，如今却能安然坐下。本文讲述他科研生涯，从坐冷板凳到引领深度学习变革，又在AI发展巅峰时反思风险，提醒人们警惕。
谷歌超强 AI Agent 登场：攻克 300 年数学难题、改进芯片设计！编程迎来 AlphaGo 时刻？
谷歌 DeepMind 推出由 Gemini 驱动的 AI 智能体 AlphaEvolve，能自我进化解题。它破数学界 53 年纪录，解决 50 多个数学难题，还应用于谷歌数据中心、芯片设计等，提升效率。其进化方法独特，还能减少幻觉。
AI自己造AI，概率60%，2028年底前！Anthropic联创坐不住了
Anthropic联合创始人Jack Clark读完数百份公开数据后判断，2028年底前AI自己造AI的概率达60%。他依据编程、科研复现等能力曲线，认为AI工程化生产组件基本齐全，不过AI研究的创意突破仍是关键。
AI为啥不懂物理世界？李飞飞、杨立昆：缺个「世界模型」，得学大脑新皮质工作
近来，杨立昆计划离开Meta创立以‘世界模型’为核心的AI公司；此前李飞飞也发文指出大语言模型弊端，强调建立‘世界模型’重要性。该模型源于对大语言模型局限的反思，能让AI理解物理世界。
DeepMind 颠覆机器人学习范式：让机器像人一样 “自由成长”
谷歌DeepMind受大模型微调中强化学习阶段启发，提出面向机器人学的两阶段后训练方法，含监督微调与自我提升。实验显示该方法让机器人自主习得新技能、广泛泛化，但研究也存在标注成本高等局限。
无需外部数据！AI自问自答实现推理能力进化
卡内基梅隆大学团队提出SQLM框架，这是无需外部数据的自我提问模型，含提问者和解答者角色。通过强化学习最大化期望奖励，设计自监督奖励函数。实验显示其能提升Qwen2.5 - 3B - Instruct多任务准确率。
大语言模型离“数学证明高手”还有多远？斯坦福、伯克利、MIT 团队提出 IneqMath 评测标准
现在很多大语言模型常给出看似正确的结论，但推理过程却有问题。斯坦福、伯克利和MIT团队提出新思路，构建IneqMath数据集及‘AI数学裁判系统’，研究发现很多模型推理不严谨，还给出两个提升准确率的办法。