「反馈循环」共找到 373 篇相关文章
火速吃瓜，OpenAI模型还没发又惹出争议了？？
GPT - 6发布前夕消息不断，OpenAI新模型引入的“循环深度”技术因可能让模型思考难监控引争议，同时模型名或被API剧透，图像模型GPT Images 2.1也将更新。
不安全指令，一拒了之？TRIAD用三路决策：修复AI智能体的危险计划
墨尔本大学团队开源TRIAD框架，将传统二元护栏决策扩展为继续、更新、拒绝三类。通过自然语言反馈引导Agent修正计划，在ASB和AgentHarm评测中，显著降低攻击成功率，提升正常任务完成率。
The Batch: 941｜盲人辅助模型中的隐患
视障患者用AI评估外貌引发关注。失明记者Milagros Costabel撰文探讨用视觉语言模型作“虚拟镜子”的挑战与隐患，如AI会给出评判性反馈，心理学家担心这加剧抑郁焦虑。产品应提供客观解读。
吴恩达推出 Context Hub，专治 AI 写代码时的「瞎编」问题
吴恩达推出开源工具 Context Hub，解决 AI 写代码时的「API 幻觉」问题。它通过喂最新文档，让 Agent 按需取用，还能做批注。与 MCP 路线工具不同，它按需拉文档，且引入反馈机制更新文档。
这个推理模型：HRM ，只用2700万参数，超越了DeepSeek和Claude
Sapient Intelligence研究者受大脑机制启发提出分层推理模型HRM，它是全新循环架构，仅2700万参数、1000个训练样本，就在复杂推理任务上表现卓越，还引入近似梯度等方法，有推动通用计算变革潜力。
第六章 Coding优先编的是「过程与约束」,不是「参数」
本章以开面包店类比训练大模型，介绍 AutoResearch 自主实验框架。它将研究生助理工作循环交给 Agent，在固定时间用单一指标判断好坏。仓库获约 64.7K Stars，Karpathy 设计哲学为极简主义与固定约束。
OpenAI×英伟达，可能创造了人类史上最大万亿级泡沫
短短两周内，OpenAI、英伟达等企业间巨额投资与合作掀起资本风暴。资金循环流动形成封闭回路，看似产业协同，实则暗藏泡沫风险，引发业内对其是技术发展还是泡沫的争议。
估值上万亿、现金流见底：AI盛宴背后的真相没人敢说
投资人Deedy Das总结了估值最高的15家AI初创企业情况，OpenAI等霸榜。部分零收入企业估值惊人，AI行业或现泡沫，还存在烧钱循环，微软选择与新兴云服务商合作转嫁风险。
数百个虚拟人在线逃生！天大等发布：首个实时在线多智能体模拟方法
天津大学联合清华和卡迪夫大学推出RESCUE系统，把「大脑感知 - 决策 - 行动」循环搬进电脑，让数百虚拟人在线逃生。该系统能实时呈现地形等信息，还能标记身体碰撞力，可用于公共安全场景演练。
《Loop Engineering橙皮书》发布！免费，开源
《Loop Engineering橙皮书》发布，免费开源。Loop Engineering概念由多人共同推动，它是在提示词、上下文、缰绳工程基础上更进一步。文中介绍了循环的动作、零件，Claude Code的相关命令，也指出新手实践的坑。