性能 - 效率权衡」共找到 2920 篇相关文章

产品应用8

首钢园社群•邻里Station实战活动课:让AIGC掀起效率革命

7月16日晚,首钢园社群•邻里Station举办“AI视频生成与应用”实战活动课,聚焦AIGC前沿趋势。授课达人展示前沿AI平台案例,还进行多环节教学,剖析行业趋势,首钢园为学习实践提供好环境。

首钢园
推荐文章7

性能最高提升7倍?探究大语言模型推理之缓存优化

文章探讨大语言模型推理缓存优化技术演进与未来展望,介绍了主流推理框架vLLM、SGLang,分析KV Cache、Paged Attention、Prefix Caching等技术的优化点,还提及LMCache、DeepSeek的缓存技术,最后提到MCP赋能可视化OLAP智能体应用。

阿里云开发者
开源动态8

告别天价API账单!开源Chatterbox语音服务器上线,隐私与效率双赢!

第三方语音合成API成本高、有隐私风险,直接部署开源模型配置复杂。开源的Chatterbox-TTS-Server基于Chatterbox TTS模型,有Web界面、声音克隆等功能,支持GPU和Docker,可解决部署难题。

开源星探
产品应用8

DeepSeek睁开眼了!Opus-4.8的性能,1000张图不到20美分

DeepSeek首个多模态视觉模型deepseek-v4-flash-vision-exp上线DeepSeek API平台。文本能力与V4-Flash持平,多模态Agent能力逼近Opus-4.8,分析1000张图成本不到20美分,还上线免费Files API。

AIGC开放社区
新闻资讯8

同一天两件大事!小模型直接掀翻千亿参数,走向效率为王

5月13日AI圈有两件大事,何恺明团队发布语言模型ELF,面壁智能开源MiniCPM-V 4.6。二者显示AI正从‘堆算力’转向‘省算力’,拉开AI轻量化浪潮序幕,未来小模型或成关注方向。

AI科技评论
产品应用7

Qoder @database功能上线!自动关联数据库 Schema,后端 AI Coding 效率拉满

Qoder JetBrains插件上线@database功能,将数据库能力内置为核心上下文,可一键让AI结合真实业务表结构处理SQL编写等任务。它是JetBrains上唯一深度支持“数据库原生感知”的AI Coding插件,还介绍了使用方法、场景及注意事项。

阿里云开发者
产品应用8

GPT-5.2技术炸场!6大核心突破,办公效率拉满

OpenAI凌晨发布GPT-5.2,把专业级AI门槛拉到新高度。它有6大核心技术突破,精准戳中职场痛点。在GDPval基准测试中表现出色,有三级模型矩阵,不同版本满足不同需求,各方面能力均有显著提升。

CourseAI
开源动态8

单卡跑出集群效率!Hugging Face TRL 与 RapidFire AI 的超并行革命

Hugging Face宣布其核心微调库TRL集成RapidFire AI,重构大模型后训练阶段工作流。RapidFire引入超并行实验引擎,提升实验验证速度,解决算力受限团队的调参难题,带来效能质变。

AIGC开放社区
新闻资讯8

马斯克用恐怖算力,堆出6万亿参数性能怪兽Grok 5!剑指AGI

马斯克以Grok为核心推进xAI,从算力、数据到产品生态全面布局通往AGI的道路。Grok迭代迅速,有独特研发哲学。X平台数据、特斯拉算力成资源护城河,Grok还将进入特斯拉汽车。但Grok成长中也有争议,xAI在探索中前行。

新智元
推荐文章7

如何为 GPU 提供充足存储:AI 训练中的存储性能与扩展性

文章分析 MLPerf Storage v2.0 测试结果,探讨不同存储系统在 AI 训练中表现。在满足 GPU 利用率阈值下,能支撑更多 GPU 的存储系统扩展性与稳定性更强,还需关注资源利用率。以太网存储方案灵活且成本效益高。

AI前线