「GPU加速」共找到 964 篇相关文章
单张显卡跑出15倍推理速度，aiX-apply-4B小模型加速企业AI研发落地
3月25日，硅心科技发布专为代码变更应用场景设计的轻量级模型aiX - apply - 4B。该模型在准确率、推理速度等方面表现出色，超越部分千亿级大模型，还推出“大模型+小模型”协同架构释放企业算力价值。
AI视频进入“加速度”时代：30%加速＋细节随手P，等等党和抽卡党都有救了！
AI视频进入“加速度”时代，拍我AI（PixVerse）V5 Fast上线。其生成速度提升超30%，还推出Modify精修功能，支持万物替换、局部修改、人物编辑等，让AI视频从一次性生成走向可反复打磨。
安谋科技Arm China闪耀2025全球计算大会｜赋能绿色算力，加速AI普惠
安谋科技Arm China受邀出席2025全球计算大会，参与多项活动。深度参与撰写《算力经济绿色研究发展报告》，推进本地化标准建设，还在具身智能领域发力，其“周易”NPU IP将助力具身智能落地。
马斯克20亿送Grok 4上火星！20万GPU造宇宙大脑，一句话生成3D黑洞
发布72小时，Grok 4爆红硅谷，2分钟可部署游戏，一句话直出完整动画。xAI成立两周年，马斯克SpaceX将投20亿，或把模型送上火星。Grok 4算力强，多项基准测试刷新SOTA。
揭秘千卡 GPU 集群如何高效训练多模态大模型：vivo AI 团队实战经验分享｜AICon
在 InfoQ 举办的 AICon 大会上，vivo AI 架构师王兆雄分享多模态大模型训练经验。介绍了 LLaVA 和 DiT 模型训练挑战，从数据处理、模型计算等方面提出优化策略，还展望 AI Infra 未来发展方向。
PD 分离推理的加速大招，百度智能云网络基础设施和通信组件的优化实践
为适应PD分离式推理部署架构，百度智能云从物理网络、网络流量、通信组件和算子层面优化，提升上层推理服务性能，展现了网络、组件与业务特征融合的重要性。
亿级日活App的“算力生死劫”：推理成本倒挂，他们靠跨云架构砍掉75% GPU集群
一家AI穿搭+购物推荐的出海应用DAU破亿，但算力和传输成本高，ARPU远低于成本。该企业转向Akamai推理云，换用RTX PRO 6000，缩减服务器集群，降低成本，采用跨云架构过渡，实现零阵痛平替。
学界大佬吵架金句不断，智谱和MiniMax太优秀被点名，Agent竟然能写GPU内核了？！
卡内基梅隆大学助理教授蒂姆·德特默斯与加州大学圣地亚哥分校助理教授丹·傅，就AGI是否会实现展开争论。他们还谈到算力、Agent应用等话题，看好小模型、开源模型等发展，认可中国大模型进步。
通过零开销逐层权重卸载技术将SGLang Diffusion wan2.2的推理速度加速60%
文章介绍在优化SGLang对Wan2.2视频生成模型支持时，发现双Transformer架构下第1步和第19步推理慢的问题。通过零开销逐层权重卸载技术，将整体推理速度提升60%，还突破显存墙，且该优化可扩展到其他模型。
还在拼命加 GPU？AI 应用规模化的下半场，拼的是这五大软件“新基建”
文章指出 AI 应用规模化下半场，拼的是五大软件“新基建”。从云原生到 AI 原生，应用基础设施面临诸多挑战，如从代码中心到智能体管理等。作者提出构建智能体协作网格、认知记忆平台等五座技术灯塔，助力 AI 原生应用发展。