「整流流Transformer」共找到 386 篇相关文章
Transformer论文作者重造龙虾，Rust搓出钢铁版，告别OpenClaw裸奔漏洞
Transformer作者Illia Polosukhin重造安全版龙虾IronClaw。OpenClaw安全状况差，IronClaw用Rust重写，建立四层防御，还能防提示注入。其背后是NEAR更大构想，目标是用户掌控数据和资产。
Airbnb 的 Mussel V2：下一代的键值存储，以统一流和批处理
Airbnb工程团队推出Mussel v2，对内部键值引擎彻底重构，统一流和批处理，简化运维、扩展工作负载。它结合NewSQL后端与Kubernetes控制平面，解决了v1的局限，迁移虽有挑战但成功完成。
梁文锋署名新论文，DeepSeek V4架构首曝？直击Transformer致命缺陷
新智元报道，梁文锋署名的DeepSeek新论文提出全新Engram模块，解决Transformer记忆难题。论文联手北大提出与MoE互补的“条件记忆”稀疏轴，通过Engram模块实现近似O(1)的确定性知识查找，或成稀疏LLM主流路线，下一代V4可能集成该方法。
DeepSeek 硬核开源 DeepSeek-OCR-2！弃用 CLIP 改用 Qwen，创新视觉因果流！
昨天开源社区热闹非凡，Kimi 发布 K2.5，DeepSeek 则推出 DeepSeek - OCR - 2，用 LLM 架构替换传统 CLIP 视觉编码器。它核心创新是视觉因果流，能智能规划阅读路径，性能高效且全量开源。
微软等提出「模型链」新范式，与Transformer性能相当，扩展性灵活性更好
随着大语言模型发展，扩展 Transformer 架构成趋势，但参数规模增长带来训练负担。微软等研究者提出 CoR 概念，构建模型链学习范式，应用于语言模型得 CoLM 系列，实验显示其性能相当且扩展性、灵活性更好。
马斯克刚刚真把 𝕏 平台推荐算法给开源了，核心也是Transformer
𝕏平台（原Twitter）将全新推荐算法开源，由与xAI的Grok模型相同的Transformer架构驱动。该算法预测用户行为对帖子排序。此前平台因算法问题被调查和罚款，开源或有此原因。
Meta新突破！跨模态生成告别噪声：流匹配实现任意模态无缝流转
Meta与约翰霍普金斯大学联合推出CrossFlow框架，实现跨模态生成新突破。它基于流匹配提出新范式，无需依赖噪声分布等，在多任务上媲美或超最优算法，训练成本低、速度快，还能适配多任务。
Transformer八子初创：AI横扫NP难题竞赛，Top 2%选手竟是智能体！
Transformer作者Llion Jones初创公司测试AI智能体，其在NP难题竞赛中排第21。Sakana AI与AtCoder合作构建ALE - Bench，设计ALE - Agent参赛成绩优异，不过它也有调试难等局限，未来待改进。
OpenAI曝出第一颗芯片叫「辣椒」！AI自己设计，9个月流片
OpenAI首颗自研芯片Jalapeño问世，9个月从白纸到流片，创行业最快纪录。该芯片专为大模型推理设计，由其AI参与设计优化，有望降低推理成本，提升用户体验。OpenAI欲做全栈AI公司。
Transformer学不会多位数乘法？MIT和哈佛的研究指出了一个简单漏洞
MIT、哈佛和谷歌DeepMind团队实验发现，Transformer做4位数乘法有软肋。用‘隐式思维链’（ICoT）训练的模型准确率达100%，传统方法仅1%。研究揭示了问题根源，还给出修复方案，但也引发诸多质疑。