算法论文8
中科院提出15万tokens/s晶圆级芯片方案
量子位
AI 摘要
中科院计算所团队:提出Ouroboros晶圆级芯片方案,实现存算一体。虽面临SRAM容量、调度和共生优化难题,但性能和能效表现亮眼,单晶圆推理Llama 13B吞吐量达15万tokens/s。
阅读原文 · 量子位
晶圆级芯片和存算一体结合:中科院提出15万tokens/s晶圆级芯片方案丨ASPLOS'26
当前大模型发展对计算硬件需求增长,数据搬运成隐性开销。中科院团队成果Ouroboros实现晶圆级芯片,解决数据搬运问题,虽面临挑战,但性能与能效表现显著,验证了“存算一体+晶圆级集成”路线可行性。

关注公众号
扫码关注
第一时间收到每日精选
相关文章
产品应用9
阶跃发布首款Agent手机STEPX Neo
本文作者实测体验阶跃终端推出的首款大模型原生Agent手机STEPX Neo,介绍了产品设计、原生Agent系统能力、创客开发生态与系统级安全方案,公布了产品定价与用户福利。
量子位
新闻资讯8
Kimi K3 DeepRSI夺国产第一
本文报道Jeff Dean投资的AI初创公司推出DeepRSI新基准,测试大模型递归自我改进能力,设置48小时无网络自主科研挑战,最终Kimi K3拿下国产第一、开源第一,成果引发行业关注。
量子位
算法论文8
Token压缩率飙升60% 大模型分词革新
当前大模型效率优化多聚焦降低单位Token计算存储开销,本文解读arXiv新预印论文,针对传统BPE分词的固有局限,提出CNF-MCE分词框架,可大幅提升Token压缩率,开辟大模型效率优化新路径。
InfoQ
新闻资讯8
Anthropic封禁1140万个账号
本文爆料Anthropic风控动态,上半年封禁1140万疑似数据蒸馏账号,申诉胜诉率仅10%,大量正常用户被误杀,同时对比了中外大模型的使用体验差距。
探索AGI