「计算基础设施」共找到 1022 篇相关文章
100亿美元联姻,Meta与Google的AI云计算豪赌
近日,Meta与Google签署超100亿美元、为期六年的云计算协议,Meta用Google Cloud支持AI基建。该交易规模大,源于Meta算力需求迫切与Google TPU优势,也反映AI军备竞赛现状,预示行业新格局。
20瓦就能运行下一代AI?科学家瞄上了神经形态计算
当前AI面临“能源危机”,耗电量成沉重负担。科学家正尝试打造占地小、神经元数量堪比人脑皮层的神经形态计算机,其运行快、功耗低。神经形态计算模拟人脑,或成下一代AI关键。
强化学习之父:LLM主导只是暂时,扩展计算才是正解
新晋图灵奖得主、强化学习之父Richard Sutton在新加坡国立大学演讲时预测,大模型主导是暂时的,未来五年甚至十年内不是技术前沿。他认为AI应从依赖人类数据转向体验学习,强化学习潜力需靠扩展计算支撑。
刚刚,OpenAI牵手亚马逊,7年380亿美元AI云计算大单到手
OpenAI与AWS官宣建立多年战略合作伙伴关系,合作总额达380亿美元,是史上最大云服务交易之一。AWS将为OpenAI提供基础设施支持,助其扩展AI工作负载,双方CEO均表期许。
别再迷信大模型!吴恩达亲授AI秘籍:小模型+边缘计算=财富密码
吴恩达指出,AI创业真机遇不在大模型,而在智能体。智能体市场潜力大,创业者可发挥其专业化优势。还建议忽略AGI,用AI解决日常问题,关注小模型边缘计算、军民两用场景,构建可信AI应用。
1.3万人收藏的 OpenHarness!港大开源轻量级 Agent 基础设施,兼容性拉满!
近期,香港大学数据科学学院团队开源项目 OpenHarness,它是 Agent 基础设施,有 Agent Loop、工具箱等亮点,功能特性丰富,支持多种大模型提供商,还提供多种安装和配置方式。
重塑注意力机制:GTA登场,KV缓存缩减70%、计算量削减62.5%
GTA由多所高校联合研发,提出大模型框架,解决传统多头注意力机制弊端。通过分组共享注意力矩阵和压缩潜在值表示,削减计算量、缩减KV缓存,实验验证其性能优、效率高,虽有局限但前景好。
这种“半光半物质”粒子,有望补上AI光计算最后一块拼图
宾大物理学家 Bo Zhen 团队造出激子-极化激元,用约 4 飞焦能量完成光信号全光开关切换。光子计算在非线性环节依赖电子器件,该成果有望补上缺失环节,但距商用还有关卡。
谷歌提出破局Self-Consistency计算瓶颈!LLM推理效率革命,推理加速不牺牲精度
Google Research等团队提出CISC,通过给推理路径赋予置信度权重,少量样本即可超越传统自洽性效果,平均减少40%计算成本,还提出WQD指标揭示模型自评估能力本质。
Anthropic 今天发了一个新产品,可能会让一批做 AI 智能体基础设施的团队失业
Anthropic 发布新产品 Claude Managed Agents,基础设施全包按用量收费。其年经常性收入破 300 亿美元。该产品与 Claude Code 有别,能解决企业痛点,已有不少企业使用,也存在局限性。