「梯度下降法」共找到 551 篇相关文章
用第一性原理超越AlphaFold:告别蛋白质工程的「碰运气」时代
在‘AI生物制造专场’中,杨晓锋副教授指出AI4S重塑蛋白质全生命周期,但面临维度鸿沟挑战。其认为AI需有外推能力,还展示可切割自聚集标签法简化流程,推动生物制造发展。
DeepSeek-GRPO重要性权重设计错误?详解Qwen3新强化学习算法GSPO
论文指出GRPO在大语言模型训练中不稳定,因其重要性权重设计错误易引入高方差噪声。为此提出GSPO算法,从序列维度计算梯度,解决了MoE模型RL训练的稳定性问题,在Qwen3上效率更高。
LSTM之父向何恺明开炮:我学生才是残差学习奠基人
LSTM之父Jürgen Schmidhuber替学生Sepp Hochreiter发声,称残差学习30年前已诞生,1991年Sepp就用循环残差连接解决梯度消失问题,为残差思想奠基。他觉得将成果全归何恺明团队有失偏颇。
AI工程vs传统工程 —「道法术」中的变与不变
本文从“道、法、术”三个层面对比AI工程与传统软件工程异同,指出AI工程是在传统工程基础上,为应对大模型不确定性进行的架构升级,还结合淘宝AI搜索实践提出AI工程应对策略。
Claude 急了!模型降智,官方长文用 bug 搪塞?开发者怒怼“太晚了”:承认不达标为何不退钱?
8 - 9 月初Claude模型质量下降,Anthropic发文解释是因三项基础设施漏洞。介绍了三个bug及处理办法,也分析检测难的原因并给出改进方案,但很多用户已不再买账,Claude用户流失问题持续。
人工智能研究者如何意外发现:我们对“学习”的理解,可能全是错的
传统理论认为大模型会过拟合,而如今大模型却驱动了诸多应用。2019年研究者突破传统扩大模型规模,出现‘双下降’现象。‘彩票假说’解释其成功原因,还重新定义了‘智能’,揭示科学进步规律。
谷歌深夜打假!27页论文全公开,揭秘Gemini如何碾压OpenAI,拿下IMO真金牌
OpenAI高调庆祝自家模型获IMO金牌,谷歌DeepMind携官方认证和27页论文官宣Gemini碾压夺金。谷歌公开解题方法论,介绍三步思考法及相关Prompt,还对比批评了OpenAI的做法。
Claude翻车:Opus 4.1白天退化,Anthropic承认并回滚更新
发布即拿下各项SOTA的Claude Opus 4.1翻车,用户反馈其变得迟钝,官方承认处理某些请求时质量退化,如白天推理性能下降,使用限制不明确,还会暴露API密钥,官方已回滚版本。
Cache Me If You Can:陈丹琦团队如何「抓住」关键缓存,解放LLM内存?
普林斯顿大学陈丹琦团队新论文聚焦长上下文语言模型 KV 缓存问题。传统 KV 缓存大小随输入文本长度线性增长,此前方法难公平比较。团队提出「KV 足迹」指标,改进方法并推出 PruLong 优化内存,节省空间且保性能。
千元手机也能离线爽跑谷歌Gemma 4,太酷了!
谷歌推出开源APP `Google AI Edge Gallery`,可在手机离线运行开源大模型,如Gemma 4。它数据不出本地,玩法多,支持中文交互。虽有局限,但已超模型演示范畴,展示AI本地智能趋势。