「计算规模」共找到 1129 篇相关文章

算法论文7

The Batch:826 | 提高输出准确性的记忆层

通常提高大语言模型事实准确性需更大模型规模,会增加计算成本。Meta研究人员在transformer架构加可训练记忆层,可高效存储提取信息,提升计算效率,测试显示其能提升模型输出质量。

DeeplearningAI
推荐文章8

10万引普林斯顿刘壮最新访谈:架构没那么重要,数据才是王道

普林斯顿大学助理教授刘壮在访谈中指出,架构没那么重要,数据、规模和记忆才是决定AI成败的关键。他认为ConvNet和Transformer性能差异源于训练细节;当前数据集远不够多样;大语言模型有语言空间的世界模型,但视觉空间的还缺失;记忆是瓶颈,智能体只是权宜之计;AI目前还替代不了研究生。

量子位
算法论文8

加州理工用AI攻克量子化学60年难题,1块显卡做完7800块的活!

加州理工学院Anima Anandkumar团队8月24日发文,用AI模型将量子化学计算复杂度从立方级压到近线性级。单块GPU就能完成含82500个电子的金属缺陷模拟,而2019年同类计算用了约7800块GPU。

新智元
算法论文7

Megatron 1F1B流水线并行中的负载不均衡问题研究

文章分析Megatron 1F1B流水线并行中负载不均衡问题。通过实验发现通信时间‘一短一长’,原因是最后一个Stage计算慢致不同步,额外计算引发通信延迟,还梳理了流水线各阶段执行过程。

GiantPandaLLM
新闻资讯8

OpenAI 3000亿美元大单!甲骨文股价一夜飙升35%

OpenAI与甲骨文官宣签下3000亿美元云计算合同,消息一出甲骨文股价飙升35%。这笔交易刷新云计算领域记录,其将助力OpenAI的“Stargate”计划,虽能耗高,但也会带来经济回报,还改变了云计算市场格局。

AIGC开放社区
推荐文章7

2025 年 InfoQ 趋势报告:云计算和 DevOps 篇

InfoQ 2025 年云计算和 DevOps 趋势报告展示技术采用阶段趋势图,介绍新增或更新技术。涉及 AI Agent、MCP、平台工程等趋势,指出云 DevOps 生态成熟有新挑战,新阶段需整合多种要素。

InfoQ
新闻资讯7

英伟达和AMD,开始争夺AI制药的计算入口

每年的 Advancing AI 大会,AMD 都要回答 Instinct GPU 除训练大模型外的应用问题。今年大会上,AMD 把一个位置留给 AI 制药公司 MindWalk。而其对手英伟达已在生命科学领域布局多年,生命科学成两家竞争新战场。

DeepTech深科技
新闻资讯7

十分钟破解加密货币!谷歌在量子计算领域发现了什么?

谷歌提前后量子密码迁移截止日期至2029年,两篇论文从不同层面优化Shor算法,显示量子计算机破解现有密码体系所需资源比预想少。以太坊架构使其面临更广攻击面,比特币也有局部隐患。

机器之心
新闻资讯8

马斯克官宣:SpaceX正式收购xAI!目标太空计算,要造一个知觉太阳

SpaceX已收购xAI,将融合人工智能、火箭等多领域。因地面数据中心资源需求大,天基AI成规模化唯一途径。星舰将驱动天基数据中心发展,未来还能支持月球制造,助力人类宇宙扩张。

AI寒武纪
算法论文8

MetaAI解锁Transformer潜意识,仅额外3%计算开销,性能提升最高55%

Meta FAIR研究员François Fleuret提出《The Free Transformer》,对解码器Transformer扩展。它通过引入随机变量,让模型先计划后执行,用约3%计算开销,在编程等任务上性能提升最高达55%。

AIGC开放社区