FP8算力」共找到 1306 篇相关文章

新闻资讯7

AI开始替人类调用AI!token用量已是人类5.2倍

据OpenRouter统计,截至8月10日,Agent类token用量半年涨14倍,人类仅2.8倍。差距源于用法差异,虽智能体部分token计价低,但用量大仍烧钱。省钱关键在配套,且智能体任务验收缺人手。

新智元
产品应用8

华为超节点:用「一台机器」的逻辑,驱动AI万卡集群

在华为全联接大会2025上,华为基于自研灵衢互联协议创新超节点架构,重新定义大规模有效算力新范式。它能解决传统集群通信问题,还推出覆盖全场景的产品组合,并强调‘硬件开放、软件开源’生态战略。

机器之心
产品应用7

LLM加速利器LMCache,极大降低GPU资源消耗

LMCache是大语言模型服务引擎扩展组件,能降低首次响应延迟、提升吞吐量,适用于长上下文场景。它将KV缓存存于多级存储,跨服务实例复用任意重复文本的KV缓存,节省GPU算力,与vLLM结合优化显著。

GitHubStore
新闻资讯8

5Y News | 祝贺曦智科技今日登陆港交所!

4月28日,曦智科技-P在港交所主板挂牌上市,成全球AI硅光芯片第一股。上市首日股价涨幅大,市值达813亿港元。其由沈亦晨创立,在光电混合算力领域领先,募资将聚焦主业研发。

五源资本 5Y Capital
新闻资讯7

100亿美元联姻,Meta与Google的AI云计算豪赌

近日,Meta与Google签署超100亿美元、为期六年的云计算协议,Meta用Google Cloud支持AI基建。该交易规模大,源于Meta算力需求迫切与Google TPU优势,也反映AI军备竞赛现状,预示行业新格局。

AIGC开放社区
新闻资讯8

字节 AI 卷出新高度:豆包试水“上下文定价”,Trae 覆盖内部80%工程师,战略瞄定三主线

近日字节分享 AI 技术发展三主线,6 月 11 日火山引擎有系列发布更新。豆包 1.6 实行上下文定价,成本降低;超 80% 字节工程师用 Trae;视频生成模型 Seedance 1.0 Pro 具性价比;智能体带动强化学习算力攀升。

AI前线
新闻资讯7

2026,我们倾尽所有,想为大家办一场万人AI大会丨AIFUT。

作者计划在2026年4月8 - 9日于北京亦庄举办AIFUT大会,曾因规模大而顾虑,经罗振宇鼓励、政府支持后推进。嘉宾阵容强大,主论坛门票收费,展区免费,会全程直播,活动选在工作日是为不占大家周末。

数字生命卡兹克
新闻资讯8

菲尔兹奖成果首次被AI完整形式化,Gauss20万行代码改写数学史?

Math, Inc. 公司用 Gauss 智能体完成 8 维和 24 维空间最优球体堆积定理形式化证明,代码约 20 万行。该定理最初由 Maryna Viazovska 及其合作者证明,这是本世纪首个被完全形式化证明的菲尔兹奖成果。

机器之心
新闻资讯7

Claude 急了!模型降智,官方长文用 bug 搪塞?开发者怒怼“太晚了”:承认不达标为何不退钱?

8 - 9 月初Claude模型质量下降,Anthropic发文解释是因三项基础设施漏洞。介绍了三个bug及处理办法,也分析检测难的原因并给出改进方案,但很多用户已不再买账,Claude用户流失问题持续。

AI前线
新闻资讯7

重要!LiteLLM 供应链攻击:你的 API 密钥可能已经泄露

3月24日,LiteLLM的PyPI发布页面出现恶意版本,1.82.7和1.82.8被嵌入恶意代码。恶意代码会收集敏感文件、外传信息、进行横向移动。文章还给出检查、处理方法,此事件给开发者提了醒。

AI工程化