新闻资讯7
曦望启望S3:死磕AI推理成本
甲子光年
AI 摘要
曦望发布启望S3芯片及相关方案。启望S3系统级重构,单位Token推理成本大降。曦望目标是极致推理性价比,要解决资源利用率低等问题,把大模型推理做到极致。
阅读原文 · 甲子光年
曦望,死磕AI推理成本|甲子光年
1月27日,国产GPU厂商曦望发布新一代推理GPU芯片启望S3等。启望S3面向大模型推理定制,设计系统级重构,单位Token推理成本降约90%。曦望还推出超节点方案及推理云计划,目标是极致推理性价比。

关注公众号
扫码关注
第一时间收到每日精选
相关文章
推荐文章9
腾讯15年工程师转战大模型推理
本文是腾讯15年资深后台工程师吴银光的转型自述,分享了他从零切入大模型推理工程的抉择过程,给出了清晰的入门路径与自检方法,分析了AI Infra与传统Infra的异同,为有意转型AI的技术人提供了实用参考。
腾讯技术工程
产品应用8
启邦泽益:推理算力性价比突围
本文整理自启邦泽益联席CEO马冠华在2026芯算力创新峰会上的演讲,针对大模型推理爆发、算力成本高企的行业痛点,介绍启邦泽益从芯片到集群的全栈高性价比推理算力方案。
芯师爷
产品应用8
AI缓存不该困在单台服务器
本文分析大模型推理阶段KV缓存的行业痛点,指出传统单机缓存孤立无法跨节点复用的问题,介绍焱融科技的分层共享缓存方案,公开了方案的实测性能数据,展现AI存储的新发展方向。
InfoQ
推荐文章9
GPT-6破多项数学难题引学界争议
OpenAI推出GPT-6 Astra,接连在埃尔德什单位距离猜想、纳维-斯托克斯方程等多个顶级数学难题上取得突破性进展,引发顶尖数学家对学术伦理与传统研究模式的争议,本文为OpenAI内部研究员的深度对谈编译,拆解AI数学推理的核心逻辑。
AI科技大本营