「梯度下降法」共找到 547 篇相关文章
手残党跪了，Pi 0.6机器人15分钟学会拧螺丝，能进厂边干边学了
具身智能领域 Physical Intelligence 公布新进展，借助「RL token」法，让机器人短时间掌握精细操作。该方法给 VLA 加「外挂」，使机器人进化快、学习效率高，在多项任务测试中表现出色。
DeepSeek们越来越聪明，却也越来越不听话了。
论文《When Thinking Fails: The Pitfalls of Reasoning for Instruction - Following in LLMs》用实验验证，模型推理能力变强时，提示词遵循能力变差。研究团队对15个模型测试，发现用CoT推理后执行准确率下降，还提出4种提升指令遵循效果的方案。
VLM剪枝新SOTA：无需重训练，注意力去偏置超越6大主流方案
常用的attention机制存在位置偏置和padding异常，影响剪枝效果。上海大学曾丹团队提出无需重新训练的attention去偏方法，在多模型、剪枝策略及基准上验证有效，为多模态模型部署提供新思路。
1万tokens是检验长文本的新基准，超过后18款大模型集体失智
Chroma团队研究发现，将上下文扩展至1万tokens，18款主流大模型集体“失智”，“智商”非均匀下降，在一些节点会断崖式下跌。研究还设计四项对照实验，证明LLMs性能随输入长度增加显著且非均匀下降。
基于离散扩散模型的高效音频修复方法
数字音频时代音频易损坏丢失，传统修复法处理长间隙不佳。本古里安大学研究人员提出基于离散扩散模型的音频修复法，经MusicNet数据集实验验证，该方法在各间隙长度上表现优异。
中学生就能看懂：从零开始理解LLM内部原理【八】｜ 什么是残差连接？
本系列是对长篇文章《Understanding LLMs from Scratch Using Middle School Math》的解读笔记。本篇介绍残差连接，指出传统多层模型有网络退化和梯度传导困难问题，而残差连接能缓解，还说明了其工作原理和可行性。
“最强具身VLA大模型”，究竟强在哪儿？
机器人基础模型π*0.6刷屏，能让机器人高效完成多项任务。它引入Recap学习法，突破传统模仿模式。其核心方法RECAP让VLA用奖励反馈和人类介入训练，还能从异构数据学习，实现自我进化。
meta收购manus的几点看法
探讨Meta收购Manus双方视角。Meta认为Manus有销售前景，想全吃利润；Manus因无流量属性、壁垒低、天花板低等因素，被收购或是好选择，还提及编程工具效用问题。
InfoQ 2025 年趋势报告：文化与方法
InfoQ 2025 年趋势报告指出，AI 虽提升开发速度，但带来质量问题，需新测试方法；团队协作重要，工程师依赖 AI 或破坏协作；初级工程师价值仍在，可借 AI 学习；可观测性成本攀升，应视为战略投资；平台工程是未来方向。
Qwen2.5VL新玩法，看电影讲故事
本公众号关注AI前沿技术，分享实战案例与课程。介绍视觉叙事技术及挑战，基于Qwen2.5 - VL 7B模型微调Qwen Storyteller，构建StoryReasoning数据集，还给出实战代码及相关链接。