「算力平衡」共找到 959 篇相关文章
KV-Cache 实战策略:生产环境中的分页、固定与复用技术解析
在大语言模型推理场景中,KV - Cache 是平衡性能与成本的核心技术,但生产环境中面临诸多问题。本文聚焦其分页、固定与复用三大战术,结合原理、实践与案例,为开发者提供解决方案,还探讨了未来演进方向。
杭州跑出的AI独角兽,突围大模型的“第二战场” | 甲子光年
2025年AI行业有转变,算力堆叠对大语言模型性能提升放缓,空间智能成“第二战场”。谷歌、英伟达等巨头纷纷布局,群核科技作为杭州“变量”,发布业界首个3D室内空间大模型,构建数据飞轮,技术有望落地多领域。
英伟达最新芯片B30A曝光
最新消息,英伟达正开发代号B30A的AI芯片,性能超H20,基于Blackwell架构,单芯片配置,原始算力或为B300 GPU双芯片一半,下月交付测试。此外还将开发RTX6000D用于AI推理,9月小批量交付。
996 工作制席卷硅谷!招聘启事惊现“加班警告”:接受就是年薪翻倍+股权暴增,不接受就滚蛋
996工作制正席卷硅谷,尤其在AI等高速迭代领域。过去美国强调工作与生活平衡,如今为追求速度,加班成刚需。部分公司用996筛选员工,也有公司分层推进。但此举引发争议,还存在法律风险。
谷歌前CEO深度专访:AI、智能体会重塑世界
谷歌前CEO Eric Schmidt在Ted专访中,从AI起点AlphaGo说起,阐述其从大模型到自主决策智能体的发展,还提及算力电力需求增长、监管、开源等问题,虽挑战多,但他对AI重塑世界充满信心。
伏曦量子完成天使及天使+轮融资,五源资本、启盈同创等跟投
近日,伏曦量子宣布完成天使及天使+轮融资,由全球动力电池行业龙头领投,多家机构跟投。该公司由赵琦博士创立,定位是帮助产业客户理解和使用量子算力,其核心价值是优化算法,让问题可在近期硬件测试。
3B激活参数!商汤绝影Sage登顶PinchBench,端侧第一
商汤绝影Sage端侧大模型在PinchBench评测中,以94%任务完成率超越Claude、GPT - 5.4等主流大模型。它激活参数仅3B,算力需求低,还具备多项实用场景能力,靠SCOUT和ERL两项自研技术提升性能。
Node.js之父官宣:人类手写代码时代真的结束了!
Node.js之父Ryan Dahl称人类手写代码时代终结,Stability AI创始人Emad Mostaque预测AI编程成本将暴跌,现在每月200美元的体验两年后不到1美元。AI编程虽需大量算力,但成本正快速下降,未来编程或更民主化。
天孚通信市值1600亿,小镇青年如何逆袭江西宜春首富?
A股市场上,由新易盛、中际旭创、天孚通信组成的光模块“易中天”走红。天孚通信市值达1600亿,其创始人邹支农出身农村,带领公司造出国产陶瓷套管并上市。公司前瞻性布局契合AI算力需求,深度绑定英伟达,业绩增长显著。
杨植麟带 Kimi 团队深夜回应:关于 K2 Thinking 爆火后的一切争议
上周,月之暗面发布并开源 Kimi K2 Thinking,主打“模型即 Agent”,引发广泛关注。今日凌晨,杨植麟等团队成员在 Reddit 开展 AMA 活动,回应 K2 Thinking 相关问题,如 KDA 机制应用、训练成本、速度与准确性平衡等。