「并行推理加速」共找到 2704 篇相关文章
内存股集体大跌，原因竟是谷歌这篇一年前的论文
美国内存股集体暴跌，诱因是谷歌新博客介绍一年前公布的技术 TurboQuant。它是压缩算法，可大幅减少 LLM KV 缓存内存占用、提升速度且精度零损失，有望打乱市场对内存芯片增长预期。
英伟达GPU全系列硬核科普手册：一文读懂NVIDIA芯片的定位、规格与应用场景
这是英伟达GPU全系列硬核科普手册，覆盖消费级、工作站、推理卡、训练卡及中国特供版五大产品线，讲清区别与用法，还介绍架构演进、命名规则等，助读者秒变选型高手。
卡奥斯奔赴港交所，工业AI开启新征途｜甲子光年
中国工业互联网迎来智能化加速阶段，卡奥斯递表港交所，为观察工业智能走向产业基础设施提供了样本。它脱胎于海尔，已实现产业规模化落地并盈利，在中国基于平台的工业数据智能解决方案市场位居第一。
Kimi新架构让马斯克叹服！17岁高中生作者一战成名
17岁高中生陈广宇作为共同一作的论文提出Attention Residuals技术，将注意力机制“旋转90度”。该技术可让模型“回头看”，经Kimi Linear 48B大模型验证，训练效率提升25%，推理延迟增加不到2%。
GPT-5.4发布：OpenAI首个大一统模型，简直是龙虾原生
OpenAI发布GPT - 5.4，这是其首个大一统模型，将推理、编程等能力融合，且单项性能领先。它在知识工作、计算机使用、编程调试等能力提升，定位AI数字员工，虽单价高但有省钱机制。
AI x 大前端性能稳定性：快手亿级 DAU 下的智能诊断实践
本文整理自快手移动端稳定性负责人李锐在 2025 年 QCon 大会的分享。介绍快手大前端性能稳定性挑战，阐述借助「柯南 AI」赋能排障的实践，含根因排障和应急处置案例，还谈了开发中思维切换等认知。
华为重金押注的世界模型公司，新融了10个亿！
具身基模和通用机器人企业极佳视界完成近10亿元Pre - B轮融资。其具身基模全球领先，国内首家布局世界模型，原生本体开启量产，在多场景有开创性应用，获产业巨头和顶尖资本认可。
国产模型编程能力卷到这个程度了？MiniMax-M2.5 深度实测
文章深度实测MiniMax-M2.5编程能力，用其开发多款游戏和点名工具，结果出色。还分析其底层技术，如原生Agent RL框架、过程奖励机制等，指出它性价比高，虽有不足但值得关注。
BigQuery 新功能：SQL 直调 17 万 + AI 模型，3800 万行数据处理成本仅 2 美元
Google为BigQuery推出面向开源模型的第三方生成式AI推理功能，允许数据团队用SQL语句部署运行Hugging Face或Vertex AI Model Garden的模型，消除对独立ML基础设施的需求，解决数据团队痛点。
0.005%参数量超越SOTA！提升模型能力无需庞大奖励模型
上海交通大学等校联合团队提出轻量级奖励模型SWIFT，利用大模型隐藏状态线性特征，仅训练极小线性层，在推理任务中超越主流奖励模型，实现计算效率与准确率双提升，且在多领域表现出色。