「高性能框架」共找到 4549 篇相关文章
真·开外挂!MIT新研究:架构0改动,让大模型解锁千万级上下文
MIT CSAIL团队提出递归语言模型RLM,不改动模型架构,让GPT - 5、Qwen - 3等模型具备千万级token超长文本处理能力。它将上下文处理“外包”,实验显示其处理规模超前沿模型,复杂任务优势显著,多数场景性价比高。
记录下SGLang 开发,debug的几个技巧第二弹
作者BBuf继上次分享后,又带来SGLang开发、debug新技巧。包括开启多线程加载模型权重,介绍SGLang Serve模型短期和长期崩溃的调试方法,还提及逐层NVTX Profiling、查看固定batch_size下Decoding性能等技巧。
bootstrap 到十亿美元 ARR:Surge AI 这匹黑马如何颠覆 Scale 霸权 ?
Surge AI 成立于 2020 年,主创团队低调,短短几年业绩爆发。截至 2024 年 ARR 超 10 亿美元,超越 Scale AI。2025 年 7 月启动首次外部融资,其聚焦高质量数据标注,客户多为顶级科技公司。
SCPMA|清华大学 张宇飞团队:基于改进傅里叶神经算子的翼型流场快速预测模型
传统计算流体力学在工程场景计算成本高,深度学习方法预测精度与泛化性不佳。本研究基于傅里叶神经算子构建流场预测模型,经改进能精确预测超临界翼型流场与气动力系数,误差低且泛化能力优。
简单了解下CUDA Green Context
文章基于Flashinfer实现介绍CUDA Green Context,它在CUDA 12.0+引入,能实现资源隔离、降低多线程性能损失、提高GPU使用率。还给出使用方法及代码示例,不过测试性能未达预期,需关注后续发展。
马斯克亲口承认xAI「建废了」,急挖Cursor大牛反击Claude
xAI重组引发创始高管动荡,马斯克承认其一开始就没搭对,不得不推倒重建。2026年1月起大规模裁员,Macrohard和Grok Imagine受冲击大。前Cursor两位核心高管入职,或助力编程方向发展。
129K Star 的 Deepseek Harness,社区已经把桌面版、插件市场都做好了!
AI Agent 框架 Deepseek Harness 在 GitHub 上已达 129K Star。官方定位为编程 Agent 框架,社区则围绕其开发了三个项目,分别是 deepseek - harness - desktop、awesome - dsh - plugin 和 dsh - desktop,拓展了使用场景与功能。
重磅发现!大模型的「aha moment」不是装腔作势,内部信息量暴增数倍!
中国人民大学等联合团队研究发现,大模型推理有“信息脉冲”,特定步骤互信息值飙升形成“互信息峰值”,对应“思考词汇”。基于此提出无需额外训练提升推理性能的方法,代码已开源。
连中摩尔沐曦海光,成都国资赢麻了
摩尔线程与沐曦上市引爆国产GPU赛道热情,其背后均有成都高新区国有资本身影。此前,成都高新区还是海光信息二股东,收获丰厚回报。它通过“以投带引”盘活产业链,推动产业升级。
港大联手月之暗面等开源OpenCUA:人人可造专属电脑智能体
香港大学 XLANG Lab 和月之暗面等多家机构提出用于构建和扩展 CUA 的完全开源框架 OpenCUA,含注释工具、大规模数据集等,还构建旗舰模型 OpenCUA - 32B,公开代码、数据和模型。