性能跑分」共找到 2639 篇相关文章

产品应用8

微信自研高性能推理计算引擎 XNet-DNN:跨平台 GPU 部署大语言模型及优化实践

本文深入解析微信自研的高性能推理计算引擎 XNet-DNN,介绍其核心技术架构和性能优化策略。该引擎基于 RCI 框架构建跨平台 GPU LLM 推理能力,在多方面超越现有解决方案,还给出了详实对比实验数据。

腾讯技术工程
开源动态7

vLLM 新特性:批量大小不再影响模型输出

vLLM 推出批量不变推理功能,解决大模型推理中相同输入在不同批量大小下结果不同的问题。设置 `VLLM_BATCH_INVARIANT=1` 可保证输出一致,技术实现含三部,虽有性能开销但换来了结果确定性。

AI工程化
8

库克清空弹夹!2nm,韬定律,最强AI电脑

库克退休前火力全开,苹果发布首款2nm制程芯片M6和最强M系芯片M5 Ultra,塞进新款Mac。M6让Mac mini AI性能暴涨,M5 Ultra性能强悍,能大模型。但因内存短缺,高内存版限购且供货晚,价格也涨了。

量子位
新闻资讯7

刚刚,奥特曼发布GPT-5!人人免费用「博士级」智能,基准图错误遭全网吐槽

OpenAI 发布 GPT - 5,奥特曼连发推文介绍看点。它是集成模型,有免费版、Plus 和 Pro 计划,多领域亮眼。不过直播现小 bug,图出错,马斯克拆台,表现未达部人预期。

机器之心
推荐文章7

代码怎么才能的更快

文章围绕让代码更快展开,先介绍调整源代码的方法,如降低循环开销、去除内存引用等,又阐述使用硬件加速指令,像用 SIMD 函数、避免支语句等,还提及多核并行和析瓶颈等要点。

阿里云开发者
算法论文8

Agent也能蒸馏了!性能超好

大模型运行成本高,普通用户用不起。传统小模型模仿大模型解题步骤易出错。论文提出Agent蒸馏,让小模型学会用检索和代码工具,还加首思前缀与自我纠错“外挂”,使小模型性能直逼大模型。

深度学习自然语言处理
产品应用7

AMD服务器上一个诡异的性能问题诊断历程

本文复盘AMD服务器高优故障,从8月底起,集团amd turind机器业务cpi和cpu利用率飙升,影响业务性能。经排查是split lock问题,由python解释器调用__libc_free时出错引发,还析了问题原因、传导路径,并给出应对措施。

阿里云开发者
算法论文8

性能提升400%!AutoResearchClaw自主设计多模态记忆大脑

AI助手积累海量多模态数据,记忆和提取成瓶颈。北卡罗来纳大学等团队用AutoResearchClaw让AI 72小时完成多模态记忆系统设计,性能提升超400%,新系统OMNIMEM全面碾压现有主流系统。

AIGC开放社区
新闻资讯7

奥特曼摊牌:别再比模型了,苹果才是真宿敌

2025年模型发布密集,但方向一致在补短板,更像基础设施建设。2026年各玩家或集体解锁,真正换代要让AI成文明基础设施。奥特曼称OpenAI长期对手是苹果,还拉Jony Ive造秘密设备。

新智元
开源动态7

性能碾压GPT-4.1-mini!Mistral开源Devstral,还能在笔记本上

法国AI初创公司Mistral与All Hands AI合作,发布全新开源语言模型Devstral,有240亿参数,所需算力低,可本地部署。它能解决真实GitHub问题,在SWE基准测试中表现优于多个模型,还能通过API访问。

机器之心