高性能框架」共找到 4549 篇相关文章

算法论文8

真·开外挂!MIT新研究:架构0改动,让大模型解锁千万级上下文

MIT CSAIL团队提出递归语言模型RLM,不改动模型架构,让GPT - 5、Qwen - 3等模型具备千万级token超长文本处理能力。它将上下文处理“外包”,实验显示其处理规模超前沿模型,复杂任务优势显著,多数场景性价比

量子位
推荐文章7

记录下SGLang 开发,debug的几个技巧第二弹

作者BBuf继上次分享后,又带来SGLang开发、debug新技巧。包括开启多线程加载模型权重,介绍SGLang Serve模型短期和长期崩溃的调试方法,还提及逐层NVTX Profiling、查看固定batch_size下Decoding性能等技巧。

GiantPandaLLM
推荐文章8

bootstrap 到十亿美元 ARR:Surge AI 这匹黑马如何颠覆 Scale 霸权 ?

Surge AI 成立于 2020 年,主创团队低调,短短几年业绩爆发。截至 2024 年 ARR 超 10 亿美元,超越 Scale AI。2025 年 7 月启动首次外部融资,其聚焦质量数据标注,客户多为顶级科技公司。

海外独角兽
算法论文8

SCPMA|清华大学 张宇飞团队:基于改进傅里叶神经算子的翼型流场快速预测模型

传统计算流体力学在工程场景计算成本,深度学习方法预测精度与泛化性不佳。本研究基于傅里叶神经算子构建流场预测模型,经改进能精确预测超临界翼型流场与气动力系数,误差低且泛化能力优。

力学与人工智能
推荐文章7

简单了解下CUDA Green Context

文章基于Flashinfer实现介绍CUDA Green Context,它在CUDA 12.0+引入,能实现资源隔离、降低多线程性能损失、提GPU使用率。还给出使用方法及代码示例,不过测试性能未达预期,需关注后续发展。

GiantPandaLLM
新闻资讯7

马斯克亲口承认xAI「建废了」,急挖Cursor大牛反击Claude

xAI重组引发创始管动荡,马斯克承认其一开始就没搭对,不得不推倒重建。2026年1月起大规模裁员,Macrohard和Grok Imagine受冲击大。前Cursor两位核心管入职,或助力编程方向发展。

新智元
开源动态8

129K Star 的 Deepseek Harness,社区已经把桌面版、插件市场都做好了!

AI Agent 框架 Deepseek Harness 在 GitHub 上已达 129K Star。官方定位为编程 Agent 框架,社区则围绕其开发了三个项目,分别是 deepseek - harness - desktop、awesome - dsh - plugin 和 dsh - desktop,拓展了使用场景与功能。

开源星探
8

重磅发现!大模型的「aha moment」不是装腔作势,内部信息量暴增数倍!

中国人民大学等联合团队研究发现,大模型推理有“信息脉冲”,特定步骤互信息值飙升形成“互信息峰值”,对应“思考词汇”。基于此提出无需额外训练提升推理性能的方法,代码已开源。

机器之心
新闻资讯8

连中摩尔沐曦海光,成都国资赢麻了

摩尔线程与沐曦上市引爆国产GPU赛道热情,其背后均有成都新区国有资本身影。此前,成都新区还是海光信息二股东,收获丰厚回报。它通过“以投带引”盘活产业链,推动产业升级。

芯师爷
开源动态8

港大联手月之暗面等开源OpenCUA:人人可造专属电脑智能体

香港大学 XLANG Lab 和月之暗面等多家机构提出用于构建和扩展 CUA 的完全开源框架 OpenCUA,含注释工具、大规模数据集等,还构建旗舰模型 OpenCUA - 32B,公开代码、数据和模型。

机器之心