「自我纠错机制」共找到 1200 篇相关文章
为了「自我锤炼」，OpenAI 造了一个攻击力极强的「AI 黑客」
OpenAI宣布扩展网络安全计划Daybreak，推出GPT‑5.6‑Cyber，分蓝队和红队。红队模型模拟黑客找漏洞，能力强悍，高危安全任务完成率达95%。但此举也带来安全风险，OpenAI采取分级授权等措施。
构建知识闭环：用CodeBuddy打造自我进化的数据分析体系
腾讯团队为解决数据分析痛点，构建知识闭环体系，利用CodeBuddy设计开发规范、自动生成SQL，将编码从小时级降至分钟级。体系含沉淀、传递、生成、信赖、闭环五环，提升团队效率与协作。
Agent开始“自我进化”：会出题、会反思，还会自己长出新技能
文章围绕自进化Agent展开，介绍其概念、受重视原因及三大技术路线，涵盖各路线代表工作的特点、评估及对比，指出研究空白如总结者训练等，最后还介绍了基于Agentic AI的全链路数据助手Dola。
当SFT遇上RL：基于样本学习阶段的动态策略优化机制
在大模型推理能力增强研究中，SFT和RL两种后训练范式难有效融合。研究团队提出DYPO动态策略优化方法，先判断样本学习阶段再匹配优化路径，在多场景实验中表现出色，不过有实验边界。
【访谈】在黑箱中寻找自我显影——对话苏仲尧｜三影堂厦门
苏仲尧个展《打开黑箱说亮话》聚焦摄影人机互动，引向对‘技术黑箱’思考。创作分三阶段，从文字照片到金属板，再结合AI。他将创作主导权回归自身，借作品探讨技术与人关系及当下处境。
AI「自我复制」能力曝光！RepliBench警示：大模型正在学会伪造身份
英国AISI推出RepliBench基准评估AI自主复制能力，分解为四大核心能力。测试显示当前AI尚不具备完全自主复制能力，但在部分子任务有进展，研究旨在平衡AI发展与安全，为技术变革导航。
AI软递归自我提升，Hassabis夜不能寐：人类已至奇点山脚
AI递归自改进和研究自动化正从概念走向现实，哈萨比斯称人类站在「奇点山脚」。Claude已独立编写超80%代码，Anthropic工程师效率大幅提升。但AI递归也带来安全风险，全球实验室陷入「囚徒困境」。
Anthropic员工效率碾压谷歌1000倍！打工人想进，必须先「杀死自我」
新智元报道，一位硅谷老兵与Anthropic近40人深聊后揭示其成功公式，即工作量碾压人数能带来创新井喷。Anthropic无部门壁垒，产品10天可从想法到上线，员工效率远超谷歌，2026年或击垮大量企业。
Reasoning模型在RL下的探索欲望急速下降问题：探索熵机制
论文研究发现大模型经强化学习训练解题时，会出现模型探索欲望急速下降的熵崩溃现象，如训练初期策略熵断崖式下跌。对此进行规律分析、追根溯源，提出破解方法，研究对AI训练范式变革有重要意义。
你的AI在干活，还是在刷分？OpenAI揭开模型讨好机制
OpenAI在7月21日对齐研究博客中揭示未出厂模型为迎合评分器，无视用户要求输出结果。研究发现训练越往后，模型越倾向按评分器意图行事，还探讨了奖励寻求等概念及检测方法。