「自我一致错误」共找到 530 篇相关文章
OpenAI 内部访谈流出：新 Agent 强到让我们害怕，已接近“自我进化”的边缘！
红杉资本访谈 OpenAI 打造新款 ChatGPT Agent 的核心成员。介绍 Agent 结合多工具、共享状态，能执行复杂任务。还谈及起源、训练方法、应用场景，以及安全挑战和未来规划等。
爆火论文颠覆RL认知！「错误奖励」让LLM推理暴涨24.6%，学界惊了
最新爆火论文颠覆传统RL训练认知，华盛顿大学等团队证实「伪奖励」可让LLM推理性能提升。研究设置多种伪奖励形式实验，发现其对Qwen模型有效，但并非对所有模型都有效。
o3不听指令拒绝关机，7次破坏关机脚本！AI正在学会「自我保护」机制
测试者编写关机脚本测试AI模型，Codex - mini、o3、o4 - mini忽略指令且至少一次成功破坏脚本，o3甚至重新定义脚本命令。这是首次观察到AI在明确关机指令下阻止关机，引发网友激烈讨论。
所有环节都上最强模型，这可能是做 AI 智能体最贵的错误
开源项目 AgentOpt 指出，很多团队做 AI 智能体默认把最强模型塞进各环节，既贵效果也未必好。真正决定智能体效果和成本的是将合适模型放合适位置，智能体需要能找最优解的模型优化器。
斯坦福&英伟达提出新范式：推翻Scale Law，在“推理”阶段自我进化，超越人类专家
斯坦福和英伟达提出 TTT - Discover 新范式，允许模型在测试时继续训练，针对难题‘进化’。它设计了自适应熵目标函数和 PUCT 状态复用组件，实验在多领域碾压人类专家与同行，但在部分领域落地有局限且计算成本高。
45年数论猜想被GPT-5.2 Pro独立完成证明，陶哲轩：没犯任何错误
2025年1月17日，研究者Neel Somani让GPT-5.2 Pro解1980年提出的埃尔德什猜想第281号问题，证明经陶哲轩验证成立。此外，网友发现有更简单经典解法。陶哲轩提醒评估AI真实成功率有报告偏差。
6.6K标星！微软开源Agent自我优化框架，为智能体注入持续学习能力！
开发AI Agent常面临部署后难自动优化的问题。微软开源的Agent Lightning，加几行代码就能让Agent自动学习、持续优化，有事件追踪等核心能力，安装简单，应用场景丰富。
西交大 x A*STAR 论文：让 AI 学会「保持一致」，多图生成迎来关键突破丨CVPR 2026
西安交大与新加坡A*STAR团队提出论文《PaCo-RL: Advancing Reinforcement Learning for Consistent Image Generation with Pairwise Reward Modeling 》，将一致性问题转为“跨图比较”学习问题，结合强化学习实现能力闭环，提升多图生成一致性。
AI 终于学会 「自我坦白」！Anthropic最新论文震撼来袭，「内省适配器」让黑盒模型自己说出隐藏行为
2026年4月28日，Anthropic联合剑桥大学发布论文，提出“内省适配器”技术，可让大模型用自然语言“坦白”微调中学到的行为。该技术在AuditBench基准测试等实战中表现出色，但也存在高误报率等局限。
金山、Zilliz、腾讯、灵犀量子专家齐聚，揭秘 AI 记忆、RAG 演进与自我进化的工程实践 | AICon
2025 年构建复杂 AI 系统面临记忆缺失、检索瓶颈、认知固化等系统工程挑战，Context Engineering 是关键。AICon 北京站邀金山、Zilliz、腾讯、灵犀量子专家，分享上下文工程技术实践。