性能 - 效率权衡」共找到 2920 篇相关文章

技术文章7

让NCCL性能起飞的NCCL symmetric memory是啥黑科技?— part1

本文是NCCL 2.27新特性系列首篇,介绍symmetric memory。它类似NVSHMEM,现仅支持单节点通信,未来将支持跨节点。其低延迟内核能提升小数据通信性能,还介绍使用示例、CUDA内存管理及Symmetric Memory实现等内容。

GiantPandaLLM
算法论文8

浙大提出Translution:统一Self-attention和Convolution,ViT、GPT架构迎来新一轮性能突破

近日,浙大与新加坡国立大学提出新型深度神经网络基础操作Translution,融合Self - Attention与Convolution优势,实现二者统一。基于它构建的网络在ViT和GPT架构下性能提升,但对算力要求更高。

AI科技大本营
推荐文章8

万赞!别把AI当搜索,10个让AI效率提升10倍的技巧

Greg Isenberg基于Anthropic官方研究拆解10个让Claude效率提升10倍的技巧,解决AI'幻觉'等问题,涵盖协作语气、明确性原则等方面,虽以Claude为例,但对其他AI也适用。

AI工程化
新闻资讯8

Cloudflare 用 Rust 重写核心系统:CDN 性能提升 25%,响应时间缩短 10 毫秒

Cloudflare 宣布用 Rust 重写核心子系统,响应时间缩短 10 毫秒、性能提升 25%。基于代理框架 Oxy 构建 FL2,创建中间层让 Rust 模块在旧系统运行,还制定测试发布策略及回退机制。

InfoQ
新闻资讯7

马斯克脑机接口,靠意念玩游戏只是基操,下一代设备性能翻三倍

近日,马斯克转发帖子,Neuralink植入脑芯片患者能用意念玩游戏。全球21人参与其临床试验,患者借此控制设备,生活改变。下一代设备性能将提升三倍,2026年或推出,还在开发复明设备。

机器之心
推荐文章8

76%的性能提升与模型无关?Karpathy 700次 Loop 实验揭开 Agent 最大误区

前OpenAI联合创始人Andrej Karpathy警示业界重视模型框架。Hugging Face实验表明优化模型外层执行机制可大幅提升Agent性能,Karpathy开源项目揭示AI价值在循环迭代。还介绍了搭建持续进化Agent的方法及注意事项。

InfoQ
算法论文8

推理效率狂飙60倍:DiDi-Instruct让扩散大模型16步超越千步GPT

普渡大学等研究者提出 DiDi-Instruct 后训练方法,可将扩散大语言模型推理加速 60 倍,超越传统 GPT 模型。该方法实现推理效率与效果双提升,为大语言模型落地提供新方案。

机器之心
开源动态7

性能提升 10 倍,零改造实现 DIFY 模式迁移至 Spring AI Alibaba 模式

文章深度讲解如何将 Dify 平台开发的应用导出为 Spring AI Alibaba 工程。先介绍两者特点,后通过示例展示转换过程,还阐述迁移收益,如扩展灵活、性能提升 10 倍,最后提及 Spring AI 后续计划。

阿里云开发者
产品应用8

一文读懂DeepSeek-V3.2核心技术DSA:API疯狂降价性能不减的背后

DeepSeek发布实验模型DeepSeek V3.2,引入自研稀疏注意力机制DSA,API价格最高降75%。DSA先筛选后计算,含闪电索引器和稀疏多潜在注意力两组件,分四步工作,权衡了精确性与速度。

AI寒武纪
产品应用8

Claude Sonnet 4.5发布,多领域性能超越GPT-5和Gemini 2.5 Pro

Anthropic发布Claude Sonnet 4.5,是目前最强编程模型,在多领域性能超GPT - 5和Gemini 2.5 Pro。操作电脑、数学推理能力提升,产品更新功能丰富,安全性增强,价格不变,获多家公司认可。

AI工程化