缩放律」共找到 42 篇相关文章

算法论文7

AMS| 西工大史子颉,高传强,王旭,林海涛,张伟伟:数据驱动的涡激振动标度发现

涡激振动最大振幅是评估结构安全的关键指标,现有理论模型有局限,常用数据驱动方法也面临挑战。本文提出两次应用符号回归的“白箱”标度参数VIV建模方法,验证了其鲁棒性与泛化能力,还给出物理层面解释。

力学与人工智能
算法论文8

梁文锋署名!DeepSeek再发炸裂论文:提出“条件记忆”新范式,彻底打破GPU推理显存墙

来自DeepSeek的新论文提出“条件记忆(Conditional Memory)”新范式,推出Engram模块,实现可扩展知识查找。研究揭示U形缩放,构建的Engram模型性能超越纯MoE基线,还打破了GPU显存瓶颈。

AI寒武纪
算法论文8

创智突破:AI首次自主发现106个超越人类设计的神经网络架构

创智学院团队发布的AI超智能系统ASI - ARCH,自主发现106个超越人类设计的神经网络架构,建立“科学发现缩放”,实现从“自动化优化”到“自动化创新”转变,还将成果开源推动研究发展。

机器之心
新闻资讯7

靠 AI起飞的千亿市值公司,如今要被AI“卷死”了?股价因GPT-5瞬间逆转、CEO亲承:我负有责任

语言学习平台 Duolingo 推行‘AI 优先’战略,虽遭反对但营收增长、股价上涨。不过 OpenAI 推出 GPT - 5 后,其股价急转直下,CEO 称对公众困惑负责,还被所调查。

AI前线
算法论文8

性能不减,吞吐量提升6.4倍!英伟达用混合算子和架构定义小模型新标准

NVIDIA研究团队通过Nemotron - Flash系列模型,打破对‘深而瘦’架构迷信,修正缩放,用进化算法搜索混合算子、改进训练策略。该模型在性能、延迟和吞吐量上表现出色,远超同类产品。

AIGC开放社区
新闻资讯8

刚刚,全球首个AI科学家登上Nature!包揽提出idea到写论文全流程,已通过人类盲审

历经一年半研发,Sakana AI联合多高校打造的AI科学家系统登上Nature杂志。该系统能自主完成科研全流程,代码和论文已开源。还介绍了自动审稿人、缩放,也指出其局限,引发伦理探讨。

AI寒武纪
推荐文章8

翁荔最新博文深度拆解Scaling Laws:AI行业最信赖的公式,没有那么可靠

6月24日,前OpenAI安全研究副总裁翁荔在博客发表长文,对缩放进行系统梳理,指出该理论在实际拟合和外推过程有易被忽视的陷阱,还讨论了数据有限时定是否成立等问题。

DeepTech深科技
算法论文8

「Thinking with Images」推理速度太慢?「Zooming without Zooming」 让AI不调用工具也能「明察秋毫」!

上海交通大学与蚂蚁集团联合团队发布多模态大模型成果“Zooming without Zooming”。该研究提出R2I方法,将“缩放”转为训练目标,使模型单次前向传播实现细粒度感知,团队开源的ZwZ模型家族达开源SOTA性能。

AI科技评论
算法论文8

Nature重磅!清华团队揭秘大模型新规:告别参数内卷,智能密度每3.5个月翻一番

清华和面壁智能团队研究揭示大语言模型进化的致密,指出为获同等智能,模型参数量呈指数级下降,最大能力密度约每3.5个月翻一番,还探讨模型压缩、边缘智能等内容。

AIGC开放社区
算法论文8

Temperature Scaling可大幅提高Test-Time Scaling瓶颈!

大型语言模型解决复杂推理问题时,测试时扩展(TTS)是提升性能的途径之一。但传统TTS依赖增加样本数量,性能提升有瓶颈。本文提出温度缩放新思路,实验表明其能大幅提升性能,还给出降低成本方法。

深度学习自然语言处理