「推理框架开发」共找到 4680 篇相关文章
76%的性能提升与模型无关?Karpathy 700次 Loop 实验揭开 Agent 最大误区
前OpenAI联合创始人Andrej Karpathy警示业界重视模型框架。Hugging Face实验表明优化模型外层执行机制可大幅提升Agent性能,Karpathy开源项目揭示AI价值在循环迭代。还介绍了搭建持续进化Agent的方法及注意事项。
拆解大模型几项核心操作背后的数学与 Infra 优化逻辑
文章拆解大模型核心操作(RMSNorm、Softmax、Causal Mask、Sampling)背后的数学与Infra优化逻辑。指出Infra优化是用数学等价变换或精度妥协换硬件利用率和推理速度,还介绍各操作原理、问题及优化方法。
Qwen-Scope:看穿大模型的“小心思”
Qwen-Scope是基于Qwen3和Qwen3.5系列模型训练的可解释性模块,通过在隐藏层插入SAE提取可解释特征。它能分析模型行为、优化模型,应用于推理、数据、训练、评估等场景,可前往Huggingface或魔搭体验。
Cursor:AI编程「第三时代」来了
近日,Cursor CEO Michael Truell 称 AI 编程迈入「第三时代」,特征是 Agent 能在少人工干预下完成大规模任务。Cursor 核心转变,内部超 1/3 代码提交由云端智能体创建,团队预计多数开发工作将由其完成。
Coze 开源 :全整理
字节跳动开源AI Agent开发平台Coze,含核心产品Coze Studio和Coze Loop。前者可零代码或低代码编排AI Agent;后者是运维中心,解决全链路挑战。采用Apache 2.0协议,安装门槛低,意在构建生态闭环。
LLM助力突破尘封60年数学猜想!北大王立威团队大幅刷新斯坦纳比下界
北大王立威团队构建基于 LLM 的框架,聚焦 Gilbert - Pollak 猜想,将二维平面斯坦纳比从 0.824 改进到 0.8559。该进展被陶哲轩收录,工作已被 ICML 2026 接收,代码和证明均已开源。
为训推加速!全新FlashQLA注意力算子库开源
自Qwen3-Next发布,GDN成Qwen主力注意力层,随模型规模扩大开销增大。现开源FlashQLA算子库,融合优化GDN Chunked Prefill前反向算子,在NVIDIA Hopper上多场景加速,提升预训练和端侧推理效率。
谷歌最新发表的Science论文,颠覆了人类对ASI的想象
谷歌等机构研究者在《科学》发文,提出真正智能爆炸已发生,是多元、社会性且与人类深度缠绕。推理模型内部涌现‘思想社会’,当下人机协作进入‘半人马时代’,还探讨了AI扩展、对齐及治理问题。
卡帕西:编程从写文件变成管龙虾!IDE不会凉但得换个用法
AI Coding先锋卡帕西认为,虽AI能生成大部分代码,但IDE不会被淘汰,编程玩法变了,开发工具需进化,功能要从组织文件变为高效协同智能体,还给出了新一代IDE应具备的技能。
智能体时代的人月神话
作者 Wes McKinney 因 AI 打乱睡眠作息,在工程师圈子热烈讨论人类技术优势。他开发 RoboRev 工具,结合《人月神话》探讨软件工程未来,指出智能体虽提升生产力,但面临本质复杂性、范围蔓延等问题,设计与品味仍至关重要。