「推理性能」共找到 3441 篇相关文章
图谱检索全面 or 效率？蚂蚁&浙大Deep GraphRAG：全都要
传统 RAG 遇复杂 Query 易失效，GraphRAG 带来新三难。蚂蚁与浙大提出 Deep GraphRAG，有层次化检索、Beam - Search 重排、DW - GRPO 强化学习三板斧，实验显示其性能优、延迟低。
比Transformer更强的架构来了？浙大新作Translution，一统卷积和自注意力
随着大模型发展遇瓶颈，浙大等校学者提出神经网络基础操作Translution，实现自注意力与卷积的融合统一，构建更普适神经计算机制。它性能超Self - attention，为新一代神经网络发展开辟新方向。
刚刚，OpenAI在ICPC 2025编程赛上满分登顶，Gemini也达到金牌水平
在ICPC 2025编程赛上，OpenAI 5小时内解决12个问题满分登顶，其由通用推理模型集成体构成，结合GPT - 5与实验性模型；Gemini解决10个问题达金牌水平，在部分难题表现出色。
Bun 推出内置数据库客户端与零配置前端开发
Bun 发布 1.3 版本，是迄今最大更新，实现全栈开发，推出统一数据库 API 并提升性能。引入零配置前端开发模式，有内置 Redis 客户端，社区反响不一，还扩展包管理功能，性能提升显著。
SGLang｜SGLang Diffusion
来自SGLang开源社区的Yichi介绍SGLang Diffusion，它是面向图像与视频生成的全开源扩散模型推理引擎。基于SGLang机制将能力迁移到扩散模型推理，能显著提速工作流，视频展示了多种功能。
数千大模型全跑「中国芯」！最后一公里已「焊」通
国产芯片运行大模型需额外适配，魔乐社区以开源模型推理适配协作模式破局。它推出‘模型推理适配协作计划’，联合多方力量，打通国产算力与大模型应用‘最后一公里’，还举办赛事激发创新活力。
记录下SGLang 开发，debug的几个技巧第二弹
作者BBuf继上次分享后，又带来SGLang开发、debug新技巧。包括开启多线程加载模型权重，介绍SGLang Serve模型短期和长期崩溃的调试方法，还提及逐层NVTX Profiling、查看固定batch_size下Decoding性能等技巧。
The Batch: 978 | DeepSeek-V4-Pro 更新了
DeepSeek发布旗舰模型DeepSeek-V4-Pro-0813正式版，性能提升，还发布开源agent harness开发者预览版并提价。模型在多指标表现佳，编码能力改进明显，公司公开基准测试框架意义大。
简单了解下CUDA Green Context
文章基于Flashinfer实现介绍CUDA Green Context，它在CUDA 12.0+引入，能实现资源隔离、降低多线程性能损失、提高GPU使用率。还给出使用方法及代码示例，不过测试性能未达预期，需关注后续发展。
Nano Banana Pro或将引爆新安全危机
基于Gemini 3的图像生成模型Nano Banana Pro昨日上线，支持2K/4K分辨率生成，排版和文字控制能力提升。它展现出复杂推理能力，能理解反光、推理指纹，但这或带来隐私危机。