搜索：循环Transformer

「循环Transformer」共找到 386 篇相关文章

马斯克说到做到：开源X平台核心推荐算法

X（原Twitter）开源内容推荐Feed on X召回、精排推理、策略代码，模型参数配置较小，应是简化Demo版。召回用双塔模型，精排用双层Transformer，还介绍了系统架构、模型细节等。

文章为Cute - DSL第二篇，整理官方notebook介绍基本操作。涵盖数据类型、张量、结构体等基本操作，还介绍了控制流（For、If - Else、While循环等）及TensorSSA的相关操作，如LD/ST、运算、切片等。

9月19日，“RISC-V软件生态研讨会”在珠海举办，会上发布全球首款支持超128核RISC-V RVA23企业级模拟平台LeapEMU及其生态建设计划，提出“两个目标、一个循环”理念，规划三阶段建设路径。

通常提高大语言模型事实准确性需更大模型规模，会增加计算成本。Meta研究人员在transformer架构加可训练记忆层，可高效存储提取信息，提升计算效率，测试显示其能提升模型输出质量。

随着AI编程工具普及和科技大厂裁员，美国计算机领域黯淡，应届生求职梦碎。2025年美国IT就业疲软，失业率创新高。毕业生陷入AI“恶性循环”，AI面试也让求职者体验糟糕，有人担忧信息泄露。

动视暴雪、斯坦福大学和英伟达等研究人员基于职业玩家游戏数据和Transformer架构，开发游戏大模型MLMOVE。在《反恐精英：全球攻势》测试中，它表现出色，性能超现有机器人，还具提前预判移动等创新。

过去大模型生成的游戏虽代码能跑，但常陷入“可玩性黑洞”。Spellcaster让多个专用Agent协同处理，形成“生成—运行—检查—修复”循环。目前能快速生成多种游戏原型，未来将用世界模型直接生成画面。

前OpenAI联合创始人Andrej Karpathy警示业界重视模型框架。Hugging Face实验表明优化模型外层执行机制可大幅提升Agent性能，Karpathy开源项目揭示AI价值在循环迭代。还介绍了搭建持续进化Agent的方法及注意事项。

北大团队提出iFairy方案，将模型权重量化到复数集合，用2比特表示，压缩至原本1/8。推理仅需加减或交换数据位置，成本更低。Transformer架构“复数化”，iFairy模型PPL降10%，性能反超全精度，相关成果已开源。

2025年底英伟达宣布开源全新模型家族Nemotron 3，含Nano、Super和Ultra。它融合Mamba、Transformer和MoE技术，有诸多创新。这不仅是产品更新，更是战略突袭，标志着英伟达想构建AI闭环开放生态。