搜索：循环Transformer

「循环Transformer」共找到 386 篇相关文章

震撼！0人类，16个Claude全自主开发，2万美元十万行代码成功运行Linux

Anthropic研究员用Claude Opus 4.6智能体团队自主编写超十万行代码的C语言编译器，能运行《毁灭战士》、编译Linux内核。团队用拉夫循环等机制让Claude自主开发，虽有局限但全自动软件开发时代已提前降临。

阶跃星辰发布并开源形式化定理证明大模型 StepFun-Prover-Preview-7B 和 32B。采用两阶段监督微调、工具集成强化学习及 RL 与 SFT 迭代循环优化等策略，在基准测试集表现佳，还展示多个证明案例。

Meta发布V-JEPA 2世界模型，参数高达10亿，推理速度比英伟达Cosmos快30倍。它基于Vision Transformer架构，是Yann LeCun倡导多年的JEPA路线成果，仅需62小时机器人数据训练就能执行任务，打脸质疑者。

O家刚免费上线GPT - 4.1，A家新版Claude Sonnet和Claude Opus被曝即将发布，亮点是“极限推理”，能在推理和工具使用间建立动态循环，更智能处理问题，预计未来几周发布，虽有网友质疑，但也有实测证据。

近日，Hermes Agent 在国内爆火，获超 5.2 万 stars 且还在增长。它与 OpenClaw 不同，采用单 Agent 架构，有学习循环和分层记忆系统。背后公司 Nous Research 目标是打造抗衡 OpenAI 的开源模型，还引入区块链解决算力问题。

字节推出端到端多模态人类世界建模框架X - Streamer，能从单张人像构建可无限流式生成的数字人，实现音素级口型同步和长程记忆。其核心是“思考者–行动者”双Transformer架构，在两张A100 GPU上可实时运行。

现代大模型在复杂推理时爱用自我反思词，触发冗余验证循环，拖慢速度、增加算力消耗。NoWait方法零训练成本，通过抓关键词、扩展变体、实时屏蔽，让模型跳过废话，在多任务中表现出色，且颠覆对推理的认知。

本文从`babygpt_v1.py`出发，逐步加入self-attention机制、position嵌入等，实现完整GPT。介绍Transformer结构，讲解位置编码、单头自注意力等机制的代码实现，还阐述后续层的用途、参数调整及训练效果，最后提及模型优化方向。

论文 'Spatial-Agent' 提出地理空间问答应建模为 'concept transformation'，引入 GeoFlow Graph 中间表示。它从自然语言问题构建图结构，再映射到工具调用。实验显示其对地图任务有帮助，还指出构建地图类 agent 需稳定数据源等。

近日，Hermes Agent 在国内爆火，获超 3.9 万 stars。它是单 Agent 架构，核心是学习循环，记忆分层管理。其网关功能强大，状态可跨会话留存。背后的 Nous Research 目标是打造抗衡 OpenAI 的开源模型，还引入区块链解决算力问题。