算力性能」共找到 2562 篇相关文章

产品应用7

Codex正在重塑传统推理框架开发流程

作者用Codex完善SGLang Diffusion的SKILLS流程,修复诸多bug。让其做benchmark脚本,发现不同rmsnorm性能差异。应用flashinfer rmsnorm遇问题,Codex找出原因并修复,还提升了模型性能,体现强大生产力。

GiantPandaLLM
推荐文章8

百度端侧大模型安全建设实践:在算力与保障之间找到平衡

在 QCon 全球软件开发大会上,百度李志伟分享端侧大模型安全建设实践。介绍其发展趋势、优势与应用场景,指出面临隐私、内容等安全挑战,阐述云端与端侧安全方案,通过案例展示优化效果,展望未来安全建设方向。

InfoQ
新闻资讯7

不只是卖服务器,中兴通讯想做AI时代的基础设施商

中兴通讯将战略升级为“连接 + 算力”双轮驱动,2025 年算力业务营收大增,营收结构转变。在 2026 生态合作伙伴大会发布 Co - Claw AI 一体机等新品,启动“和合生态行动”,致力于做 AI 时代价值贡献者。

量子位
推荐文章7

破局大模型推理困局!华为张君详解昇腾“融合算力”的优化秘籍

华为高级开发工程师张君在AICon大会演讲,围绕大模型推理优化,从模型、框架、算子层展开,结合案例阐述技术方案。分析大模型推理现状挑战,介绍加速技术,分享昇腾硬件算子优化实践及通算融合算子优化方法。

InfoQ
开源动态8

小红书团队开源dots.ocr:文档解析新王者,性能比肩Gemini!

文档解析领域处理多语言复杂文档需高效能力,传统OCR工具存在不足。小红书HiLab开源多语言文档解析模型dots.ocr,基于1.7B参数视觉语言模型,性能达SOTA,单页PDF处理快,公式识别媲美大模型。

开源星探
新闻资讯7

颠覆无线电常识!新技术把干扰信号变算力,自动驾驶掉线难题有望解决

一项名为空中计算(OAC)的新技术有望颠覆无线网络系统设计标准,它能将无线信号干扰转化为计算能力,降低拥塞和能耗。目前已有原型机实现95%图像识别准确率,预计30年代走向标准化,但面临移动性等挑战。

DeepTech深科技
开源动态7

性能碾压GPT-4.1-mini!Mistral开源Devstral,还能在笔记本上跑

法国AI初创公司Mistral与All Hands AI合作,发布全新开源语言模型Devstral,有240亿参数,所需算力低,可本地部署。它能解决真实GitHub问题,在SWE基准测试中表现优于多个模型,还能通过API访问。

机器之心
新闻资讯8

不换GPU,性能飙升2.8倍!英伟达用软件暴打摩尔定律

2026年1月8日,英伟达官网披露,基于Blackwell架构的推理软件栈升级,让混合专家模型(MoE)推理效率迎「阶跃式」突破,单GPU吞吐飙升2.8倍,显著降低推理成本。其通过软件针对性升级发挥硬件潜力,还进行多项优化。

新智元
算法论文8

刷榜多元时序预测,性能波动0%!打破CI/CD二元对立 | ICLR'26

在多元时间序列预测领域,长期存在通道依赖(CD)与通道独立(CI)路线之争。浙江财经大学团队提出CPiRi框架,结合时空解耦架构与置换不变正则化策略,解决范式矛盾,取得优异效果。

新智元
算法论文8

仅需152个样本,性能提升48%:Memory-R1如何重塑Agent记忆能力?

这篇文章解读论文Memory - R1,其由多所高校研究团队完成,旨在解决LLM在长对话和多轮任务中的‘记忆难题’。通过强化学习让LLM学会管理记忆,用152个问答对训练,大幅超越现有基线模型。

深度学习自然语言处理