「GPU加速」共找到 982 篇相关文章
让大模型异步地增强推理能力
在大模型推理时代，Test - Time Scaling成提升能力重要方向，但面临效率问题。ATTS提出异步框架，加入共形预测筛选候选路径，实验显示其加速显著，将测试时扩展推进到‘有原则加速’阶段。
AI 医疗全景更新：为什么硅谷 healthcare 领域出现了最多的 AI 独角兽？
本文基于对全美700余位医疗行业高管的调研及关键人物访谈，梳理AI医疗落地路径与商业化逻辑。指出医疗行业正推动AI商业化，投资增长催生独角兽，落地呈现“非线性加速”，还介绍了投资格局、应用场景等情况。
阿里云飞天企业版X平头哥“真武”芯片，推理性能跃迁13倍，底层逻辑是什么？| Q推荐
过去几年，模型虽强但使用成本高，阻碍企业级AI深度应用。今年‘模型推理’成AI关键词，4月13日19:00，InfoQ联合阿里云邀专家围绕推理加速底层破局展开对话，探讨算力博弈、芯片性能跃迁等问题。
国产英伟达，离上市越来越近了
国产GPU明星企业摩尔线程申报不足3个月即上会，刷新科创板上会速度。它由前英伟达中国区总裁创立，获众多资本支持，虽营收增长快但累计亏损53亿，预计2027年或盈利，监管关注其盈利能力等问题。
OpenAI转向谷歌TPU：宿敌也能变朋友？
据路透社等报道，OpenAI 开始租用谷歌 AI 芯片支持产品。它本是英伟达 GPU 大买家，现面临 GPU 紧缺且想降低对微软绑定。此举或使 TPU 成替代，也提升谷歌在高端 AI 云市场话语权。
吴恩达：AI 将最先杀死前端
AI 对程序员的影响引发热议，吴恩达在 Newsletter 中给出加速排序：前端 > 后端 > 基础设施 > 科研。他认为前端开发被加速最厉害，后端需更多人工引导，基础设施和科研领域 AI 作用有限。同时指出初级、缺乏协作和创造性的工作易被取代。
沐曦上市背后：那些陪它穿越“死亡谷”的投资人｜甲子光年
沐曦股份在上海证券交易所科创板挂牌上市，发行价104.66元/股，上市首日高开。早期投资人陪其穿越‘死亡谷’，上市验证‘陪跑型投资’价值，也标志国产GPU进入‘资本验证期’，但仍面临生态和制程挑战。
“AI 在一线：开发人员如何重塑软件开发流程” ｜圆桌讨论
文章是关于“AI在一线：开发人员如何重塑软件开发流程”的圆桌讨论，多位嘉宾分享了AI辅助工具对软件开发的影响，包括加速原型设计、缩短项目时间等，也提到了局限性和需注意的问题，如信任和度量标准。
华为版CUDA，全面开源了
华为宣布为昇腾AI GPU开源CANN软件工具包及Mind系列套件、工具链，让昇腾更好用。CANN类似华为版CUDA，目前到8.0版，支持多深度学习框架。同日，传奇GPU架构师创业公司浮出水面，挑战英伟达。
分享2个模型省钱大法
文章分享两个大模型API省钱技巧。一是文本转截图，适用于输入长输出短、费用花在输入token的任务；二是音频加速识别，OpenAI语音识别模型Whisper按音频时长收费，加速音频可省钱，还可包装成API服务盈利。