「系统级优化」共找到 3470 篇相关文章
Andrej Karpathy深度解读：强化学习之父为何说大模型违背了「苦涩教训」
Andrej Karpathy深度解读Sutton与Dwarkesh的播客对话。Sutton认为大模型不符合「苦涩教训」，因其训练依赖人类数据集。他追求类似动物通过强化学习与世界交互的系统。Karpathy认可批评，认为找到符合原则算法是突破。
虚拟智库：运用大语言模型获取多元视角
本文探讨如何用大语言模型（LLM）构建虚拟智库。以电商系统架构决策为例，通过让 LLM 扮演不同角色，如 Martin Fowler、David Heinemeier Hansson 等，从多元视角讨论微服务架构利弊，为架构决策提供参考。
宇树新机器狗太猛了！1米高石阶轻松爬，越野快到出残影，网友：这不是AI生成的？？？
宇树新机器狗Unitree A2星际猎影实力惊人，全视频无加速展示跑酷、爬山等技能。它有超广角激光雷达3D感知系统，能自主避障，还很轻、强、快，承载能力佳，官方未公布售价和上市日期。
DeepMind揭示Reasoning内在机制
近年来大型推理模型在复杂任务表现出色，但推理机制成谜。本文提出用推理图解码其‘思考轨迹’，分析环状结构、直径大小和小世界特性，发现蒸馏模型等特点，为理解AI推理及模型优化指明方向。
PRSA 2025 | RPI Nithin Somasekharan、Shaowu Pan（潘韶武）：突破柯尔莫哥洛夫屏障——面向模型降阶的可学习加权混合自编码器
本文将线性POD与非线性Autoencoder通过可学习参数融合，提出可学习加权混合自编码器架构。在多数据集验证中，该方法克服了POD和纯AE的局限，在复杂PDE系统预测中表现出色，或可降低大规模计算成本。
Karpathy用「harness」彻底终结了RAG。
假期时Karpathy提出llm.wiki想法引发关注。它是元框架，定义人类与AI协作管理知识的方式。与RAG不同，它将新材料关键信息编入已有wiki并持续维护。作者用多种数据测试，发现TextIn API解析效果好，还优化处理流程提升质量。
200行python代码实现从Bigram模型到LLM
本文从`babygpt_v1.py`出发，逐步加入self-attention机制、position嵌入等，实现完整GPT。介绍Transformer结构，讲解位置编码、单头自注意力等机制的代码实现，还阐述后续层的用途、参数调整及训练效果，最后提及模型优化方向。
ECCV 2026 | 一段视频，重建一个可仿真的动态世界
机器人走出实验室后，训练数据需覆盖真实世界情况。OVOW由多团队完成，被ECCV 2026接收。它从单目视频出发，输出可编辑、可碰撞的实例级Mesh，串联视觉基础模型完成流水线工作，能用于物理仿真。
OpenAI新模型Day0就被嫌弃！排名拉垮，不如一月底发布的国产模型
OpenAI推出GPT - 5.4 mini和nano模型，主打快速经济，针对编程等优化。但评测中GPT - 5.4 mini排名不佳，不如国产Kimi 2.5，且价格对比有争议。不过与自家旧版比有提升，网友测试有亮点。
震惊海外开发者！BOSS直聘3B小模型比肩80B，怎么做到的？
BOSS直聘楠北阁团队发布3B轻量端侧小模型Nanbeige4.1-3B，性能震惊海外开发者。团队从多方面改进，如优化推理和偏好对齐，重构训练数据，采用多种强化学习算法，使其性能比肩大模型。