缩放定律Scaling」共找到 278 篇相关文章

推荐文章8

SemiAnalysis 创始人解析万亿美元 AI 竞争:算力是 AI 世界的货币,Nvidia 是“中央银行”

SemiAnalysis 创始人 Dylan Patel 在访谈中指出,AI 是算力、资金与地缘政治驱动的产业迁徙。算力成新货币,Nvidia 似央行。还谈到 AI 竞争格局、技术路线、算力人才能源问题,以及对传统软件和各玩家的影响。

海外独角兽
产品应用8

训练MoE足足提速70%!华为只用了3招

Scaling Law下,MoE成扩展模型能力法宝,但训练难题凸显。华为构建Adaptive Pipe & EDPB优化方案,还打造DeployMind仿真平台,解决了MoE训练中通信等待、负载不均等问题,使训练吞吐提升72.6%。

量子位
开源动态8

全球首个!10万小时人类数据全开源,Hugging Face罕见站台

上周Dyna Robotics公司用超100万小时人类第一视角视频训练DYNA - 2模型,发现物理AI有Scaling Law。8月20日光轮智能宣布10万小时全模态人类行为数据EgoSuite - Open100K开源,与Hugging Face联合发布。

新智元
推荐文章8

拆解 Anthropic:最好的 AI 公司,可能也都是一种组织发明

过去一年,Anthropic 是 AI 行业最值得研究的公司,创造了最快爆发性增长,估值反超 OpenAI。文章从战略判断和组织文化两方面拆解其成功原因,分析与 OpenAI 的差异,还指出 AI 竞争中组织文化的重要性。

海外独角兽
算法论文8

让大模型异步地增强推理能力

在大模型推理时代,Test - Time Scaling成提升能力重要方向,但面临效率问题。ATTS提出异步框架,加入共形预测筛选候选路径,实验显示其加速显著,将测试时扩展推进到‘有原则加速’阶段。

深度学习自然语言处理
开源动态8

原生3D-VAEs,1536³三维分辨率,清华与微软TRELLIS 2开启3D全能生成新纪元

清华与微软团队推出TRELLIS 2系统,用全新O-Voxel表示法,1分钟生成1536³分辨率3D资产。它解决拓扑灵活性与存储效率矛盾,结合SC-VAE和流匹配模型,在多方面超越现有模型,还能适应不同场景。

AIGC开放社区
新闻资讯7

忘掉大模型,微软实证:小模型才是Agentic AI的未来!

过去两年大模型在数学竞赛题上靠Test - Time Scaling发展遇天花板。微软rStar2 - Agent让14B小模型学会‘写代码→跑结果→改思路’,表现出色。还介绍了其基础设施、算法、训练配方等方法。

PaperAgent
算法论文7

震撼实锤!清华姚班校友揭「1.4×加速」陷阱:AI优化器为何名不符实?

为降低大模型预训练成本,近年新优化器频出,宣称加速1.4×到2×却难落地。斯坦福研究指出方法学缺陷,对比不同缩放范式加速差异,给出优化器设计见解,证实严格基准评测必要。

新智元
新闻资讯7

1亿美元买不走梦想!但只因奥特曼这句话,他离开了OpenAI

全球AI军备竞赛烧掉3000亿美元,但真正研究「对齐问题」的人不足千人。Anthropic核心成员Benjamin Mann揭秘,2020年底OpenAI安全团队因安全优先级降低集体出走。他拒绝扎克伯格1亿美元邀约,强调AI要把安全放首位。

新智元
新闻资讯8

小扎官宣Meta超级智能实验室!97年小孩哥带队,11人名单7位是华人

今天凌晨,小扎发内部信宣布成立Meta超级智能实验室(MSL),由Scale AI前CEO、华人Alexandr Wang带队。MSL首批11人名单出炉,7位是华人,前东家包括Anthropic、谷歌DeepMind和OpenAI等。

量子位