通信计算重叠」共找到 779 篇相关文章

产品应用7

PDL 在 SGLang Kimi K3 中的应用

文章介绍 PDL 在 SGLang Kimi K3 中的应用,K3 内核优化接入 PDL 以缩短相邻内核间隙。分析 PDL 原理、在 bs=1 decode 中解决的问题,阐述计算链和通信链上的应用,还提及性能数据和实现问题。

GiantPandaLLM
7

华科校友在港冲刺AI infra第一股!已是中国最能赚的独立边缘云服务商,王小川天使轮就投了

PPIO派欧云作为独立分布式云计算服务商,是AI云计算服务先行者,近期在港交所递交招股书。它由华科校友创立,获王小川等投资,业务分边缘云与AI云计算,虽亏损但现金储备足,看好分布式云计算市场。

量子位
开源动态8

大部分token根本不该重复计算,不止于KVCache

斯坦福研究显示,AI Agent每次调用62%内容重复,现有前缀缓存虽有优化但天花板低,阿里云数据表明多数缓存块利用率低。LMCache将缓存管理独立,解决性能问题,其CacheBlend技术复用缓存,适配多引擎和存储后端。

AI工程化
产品应用8

计算到存储,阿里云打通AI落地的“任督二脉”

在8月14日飞天发布时刻,阿里云发布通用计算、容器计算及存储服务三项产品更新,串联出AI落地业务场景完整路径,引导行业重新思考AI时代云基础设施的本质。

AI前线
新闻资讯8

计算“活教科书”语出惊人,指明程序员的进化方向

亚马逊云科技副总裁Jeff Barr被称云计算“活教科书”。他认为AI编程工具放大开发者技能,开发者应提升沟通能力,未来“短命应用”将涌现,云与AI结合是趋势,还见证了中国云计算发展的巨大进步。

量子位
推荐文章8

万字长文 | 异构算力技术架构与核心组件解析

文章聚焦异构算力技术架构与核心组件,解析主流AI芯片特点、国产芯片技术路线;介绍高速互联技术、网络拓扑结构及优化方法;阐述大模型存储需求、分布式存储技术及数据预处理与加载技术,为AI计算提供全面方案。

AIGC开放社区
算法论文8

加州理工用AI攻克量子化学60年难题,1块显卡做完7800块的活!

加州理工学院Anima Anandkumar团队8月24日发文,用AI模型将量子化学计算复杂度从立方级压到近线性级。单块GPU就能完成含82500个电子的金属缺陷模拟,而2019年同类计算用了约7800块GPU。

新智元
新闻资讯8

OpenAI 3000亿美元大单!甲骨文股价一夜飙升35%

OpenAI与甲骨文官宣签下3000亿美元云计算合同,消息一出甲骨文股价飙升35%。这笔交易刷新云计算领域记录,其将助力OpenAI的“Stargate”计划,虽能耗高,但也会带来经济回报,还改变了云计算市场格局。

AIGC开放社区
推荐文章7

2025 年 InfoQ 趋势报告:云计算和 DevOps 篇

InfoQ 2025 年云计算和 DevOps 趋势报告展示技术采用阶段趋势图,介绍新增或更新技术。涉及 AI Agent、MCP、平台工程等趋势,指出云 DevOps 生态成熟有新挑战,新阶段需整合多种要素。

InfoQ
新闻资讯7

英伟达和AMD,开始争夺AI制药的计算入口

每年的 Advancing AI 大会,AMD 都要回答 Instinct GPU 除训练大模型外的应用问题。今年大会上,AMD 把一个位置留给 AI 制药公司 MindWalk。而其对手英伟达已在生命科学领域布局多年,生命科学成两家竞争新战场。

DeepTech深科技