「GPU推理」共找到 2448 篇相关文章
华尔街彻夜难眠！Gemini 3屠榜金融「最难考试」，AI砸了「金饭碗」？
被誉为「黄金职业通行证」的CFA考试被AI攻陷，推理模型不仅全部通过三级考试，部分科目接近满分。如Gemini 3.0 Pro在一级考试创97.6%最高纪录。不过AI仍有局限，还不能完全替代分析师。
赢家诅咒？英伟达暴跌背后的泡沫之辩
11月3日至28日，英伟达股价跌幅近15%，黄仁勋有危机意识。同时谷歌股价涨超13%，Gemini3.0重建投资者信心。行业面临‘Scaling时代终结’论断，围绕英伟达GPU折旧周期有争议，TPU路线现曙光，国产算力加速替代。
OpenAI拉响红色警报！暂停广告和Agent，下周发布新模型硬刚Gemini 3
面对Google等对手的竞争，OpenAI宣布进入‘红色警报’状态，下周将发布新推理模型硬刚Gemini 3 pro。Altman暂停部分项目，调配资源升级ChatGPT，重点修补‘模型行为’，提升产品体验，还注重图像生成。背后是融资需求压力。
俩“中国英伟达”，给了FA信心
国产替代和AI浪潮下，摩尔线程和沐曦股份同日递交招股书引发热议。招股书显示，二者Pre - IPO轮融资给FA数千万甚至上亿顾问费。这或因GPU研发烧钱、市场竞争激烈，快速融资对企业很重要。
180亿深圳芯片黑马，华为猛下单
4月25日晚，云天励飞公告2024年营收超9亿，同比增81.3%，截至4月28日收盘市值超180亿。该公司以‘算法芯片化’为基础，在推理算力、行业赋能、消费级业务均有布局，还与华为等合作。
面向 Qwen 系列模型线性注意力的高性能优化实践
本文整理自阿里巴巴Qwen团队工程师在AICon 2026深圳站的技术分享，针对大模型长序列下线性注意力原实现并行度不足、访存冗余、SFU负载过高等痛点，推出FlashQLA高性能GPU算子库，实现最高3倍性能提升，现已开源并成为FLA官方后端。
智谱公布“降智”的秘密：Scaling不可避免的痛
智谱最新技术博客大倒苦水，称从GLM - 5以来遭遇「Scaling Pain」。团队排查出高负载下推理状态管理等问题致异常，还给出避坑指南，如在线异常监控策略，优化后系统更稳定，吞吐量提升。
Snapchat提出Canvas-to-Image：一张画布集成 ID、姿态与布局
Canvas-to-Image 是面向组合式图像创作的全新框架，将不同控制信息整合在同一画布，简化图像生成控制流程。它解决了传统生成流程中控制方式分散的问题，能在推理阶段组合多种控制信号，实验效果良好。
高性能计算群星闪耀时
文章介绍高性能计算（HPC）对大模型的重要性，回顾中国HPC发展历程，讲述清华高性能所郑纬民等学者贡献，还提及团队在大模型训练、推理、存储等方面成果，以及类脑计算等新探索。
手机也能跑，腾讯混元一口气开源4款小模型
腾讯混元团队开源4款小模型，最大7B。可在低功耗场景运行，支持微调。是融合推理模型，有快、慢思考模式，在多领域表现出色，亮点是agent和长文能力，已落地多元业务场景。