「计算集群」共找到 808 篇相关文章

新闻资讯7

Meta将推出闭源模型,并砸数千亿美元打造超算集群

Meta正在酝酿大转向,扎克伯格宣布砸数千亿美元建超算集群,还考虑将强大AI模型Behemoth从开源转闭源。此前Meta一直高举开源大旗,如今因模型内部表现不佳等因素动摇开源信仰。

AGI Hunt
7

强化学习之父:LLM主导只是暂时,扩展计算才是正解

新晋图灵奖得主、强化学习之父Richard Sutton在新加坡国立大学演讲时预测,大模型主导是暂时的,未来五年甚至十年内不是技术前沿。他认为AI应从依赖人类数据转向体验学习,强化学习潜力需靠扩展计算支撑。

量子位
推荐文章8

别再迷信大模型!吴恩达亲授AI秘籍:小模型+边缘计算=财富密码

吴恩达指出,AI创业真机遇不在大模型,而在智能体。智能体市场潜力大,创业者可发挥其专业化优势。还建议忽略AGI,用AI解决日常问题,关注小模型边缘计算、军民两用场景,构建可信AI应用。

新智元
算法论文8

重塑注意力机制:GTA登场,KV缓存缩减70%、计算量削减62.5%

GTA由多所高校联合研发,提出大模型框架,解决传统多头注意力机制弊端。通过分组共享注意力矩阵和压缩潜在值表示,削减计算量、缩减KV缓存,实验验证其性能优、效率高,虽有局限但前景好。

机器之心
产品应用8

从日志学习到风洞验证:构建 GPU 集群的 AI Native 稳定性闭环

文章介绍了面向新引入GPU芯片稳定性验证的AI Native治理体系“算力风洞”。其通过厂商环境自动复刻等手段,将新芯片适配效率提升10倍以上。体系分认知、验证、进化三层,形成完整闭环,推动智算集群稳定性建设升级。

阿里云开发者
算法论文7

这种“半光半物质”粒子,有望补上AI光计算最后一块拼图

宾大物理学家 Bo Zhen 团队造出激子-极化激元,用约 4 飞焦能量完成光信号全光开关切换。光子计算在非线性环节依赖电子器件,该成果有望补上缺失环节,但距商用还有关卡。

DeepTech深科技
算法论文8

谷歌提出破局Self-Consistency计算瓶颈!LLM推理效率革命,推理加速不牺牲精度

Google Research等团队提出CISC,通过给推理路径赋予置信度权重,少量样本即可超越传统自洽性效果,平均减少40%计算成本,还提出WQD指标揭示模型自评估能力本质。

深度学习自然语言处理
新闻资讯8

semianalysis 长文 | 关于Meta 砸钱、抢人、领导力、建帐篷、计算、数据和超级智能

Meta在基础模型性能落后,扎克伯格亲自挂帅开启AI军备竞赛。他砸钱收购、挖人、堆算力,建GPU集群,还面临Llama 4失败问题,试图通过一系列举措追赶超级智能。

AGI Hunt
产品应用8

华为版《黑客帝国》首次亮相:训推复杂AI前先“彩排”,小时级预演万卡集群

华为首次亮相数字化风洞虚拟环境平台,可在训推复杂AI模型前“彩排”,小时级预演万卡集群。其包含Sim2Train、Sim2Infer、Sim2Availability,分别解决训练、推理、高可用问题。

量子位
算法论文8

Qwen突破:用「并行计算」代替「堆参数」,新方法内存降22倍、延迟降6倍

LLM进化依赖「堆参数」,存在训练成本高、推理慢等问题。论文提出ParScale,用「并行计算」代替「堆参数」,让模型「分头思考」,推理效率提升22倍,旧模型也能改造,落地价值大。

深度学习自然语言处理