「TPU硬件」共找到 557 篇相关文章

产品应用8

阿里云 Tair 基于 3FS 工程化落地 KVCache:企业级部署、高可用运维与性能调优实践

本文介绍阿里云 Tair KVCache 团队与服务器研发存储软硬件结合团队对 3FS 的工程化升级实践。从性能、产品、运维维度优化,为高性能 KVCache 在企业级 AI 场景落地提供范式,还提及未来 3FS 产品化及服务器硬件升级方向。

阿里云开发者
新闻资讯7

对话 Plaud 莫子皓:你还记得 PMF 的感觉吗?

本文是对Plaud中国区CEO莫子皓的采访。Plaud是全球成功的AI硬件Startup,产品大卖。莫子皓分享业务、增长原因,探讨PMF、产品形态迭代、功能亮点,还谈及产品定位、人群、未来计划及进入中国市场决策等。

Founder Park
算法论文7

MOE RL实战:统一FP8全流程训练

SGLang RL团队等联合完成工作,实现RL中全流程FP8训练与采样。介绍FP8训练硬件基础、格式、scale选择等,指出训练难点,分析KL Loss异常归因,验证其在MoE模型RL应用效果,还探究模型规模对训推不一致性的影响。

GiantPandaLLM
开源动态8

AGI新技术路线:下一代稀疏注意力机制Monte Carlo Attention开源

超对称技术公司开源了 Monte Carlo 注意力机制,用于新版基座模型 BigBang - Proton。它在二进制块编码技术上,用块间代表交流机制实现线性复杂度,解决了传统方法的缺点,可实现理论上无限的上下文长度,对现有预训练技术和硬件设计影响深远。

InfoQ
算法论文8

斯坦福洗碗机器人新作!灵巧手跟人学采茶做早餐,CoRL 2025提名最佳论文

斯坦福等机构提出DexUMI框架,利用人手将操作技能迁移至灵巧手。该框架通过软硬件创新缩小人手与灵巧手具身差异,在两款灵巧手硬件平台验证,平均任务成功率达86%,数据采集效率提升3.2倍,被CoRL 2025提名最佳论文。

量子位
产品应用8

0.3B参数,600MB内存!腾讯混元实现产业级2Bit量化,端侧模型小如手机App

腾讯混元团队推出面向消费级硬件的“极小”模型HY-1.8B-2Bit,参数量仅0.3B,内存占用600MB。它基于产业级2Bit端侧量化方案,生成速度提升,还通过多种方法提升能力,未来将探索新技术缩小与全精度模型差距。

量子位
开源动态8

AI零帧起手写算子,反超DeepSeek人类手写巅峰:快了9.8%!

面壁智能开源 ForgeKernel。在英伟达 B200 上耗时 22.5 小时,把 DeepSeek 核心算子 FlashMLA 运行速度提升了 9.8%。

量子位
新闻资讯7

Claude仅用3天撬开英伟达20年的CUDA护城河?藏在Anthropic路演里的芯片变局

Anthropic 披露,其模型仅用约三天自主重写底层计算内核,跑通 AMD 芯片推理。以往此类迁移通常需要团队攻坚 6 到 12 个月。

AI前线
开源动态6

从100行代码到AI高手:Karpathy留给普通人的硬核AI进阶路线

Karpathy 开源的 7 个极简项目串起完整 AI 进阶路线,从 100 行代码实现自动求导,到几十美元复现类 ChatGPT 模型及自主科研智能体。

GitHubStore
新闻资讯7

大基金或将领投DeepSeek?算力拐点将至

5月6日报道国家大基金正洽谈领投DeepSeek首轮融资,估值约450亿美元。大基金此前未公开投资大模型公司,此次若落地是从“半导体硬件”向“AI应用端”延伸。2025年是中国AI芯片出货量关键年份,DeepSeek-V4发布,多家国产芯片品牌完成适配,但国产芯片仍面临性能、软件生态等挑战。

芯师爷