科学发现缩放定律」共找到 1277 篇相关文章

算法论文8

其实,扩散语言模型在最终解码之前很久,就已确定最终答案

随着扩散语言模型(DLM)发展,它成自回归(AR)模型有力替代。但实际推理慢于 AR 模型。研究者发现早期答案收敛现象,提出 Prophet 策略,实验显示其能在保持高质量生成时显著加速推理。

机器之心
新闻资讯7

一个Bug改通宵!用AI写超50%代码,只有32%资深开发者敢这么干

Fastly对美国开发者做AI生产力调研,发现高级开发者用AI交付代码量是初学者2.5倍,也揭示AI编码隐形成本。高级开发者更信任AI,而初级开发者因经验不足更谨慎,同时调研还涉及绿色编码认知。

新智元
推荐文章8

李国杰院士:AI4S里程碑式重大成果综述

本文由李国杰院士撰写,对AI for Science近年里程碑式突破做全面综述,涵盖数学、物理、化学等多领域成果,如李雅普诺夫函数构造、AI辅助核聚变等,还探讨了AI4S潜力与挑战。

力学与人工智能
推荐文章8

用系统架构思维,告别“意大利面条式”系统提示词

本文作者分享编写系统级提示词经历,指出‘规则清单式’设计有规则打架、维护难、价值稀释问题。引入系统架构思维,构建四层设计框架,给出编译原则与模板,还重构‘AI编程助手’提示词,实现从‘规则管理者’到‘系统设计师’转变。

阿里云开发者
算法论文8

隐形束缚:RLVR为何无法突破LLM的推理边界?

大型推理模型进展依赖带可验证奖励的强化学习(RLVR),但它能否扩展模型推理能力存疑。本文通过理论证明与实验,揭示RLVR存在“隐形束缚”,只能在基座模型初始能力内优化,难以发现新解。

深度学习自然语言处理
推荐文章7

深度学习中Batch Size对训练过程如何影响?

文章分析深度学习中batch size对训练过程的影响,探讨超大batch优缺点及应对方法。用面试、通俗、科学三种方式解答问题,还通过MNIST实验,从迭代速度、梯度平滑程度、收敛速度等指标对比不同batch size情况。

海边的拾遗者
新闻资讯7

AI七个月突破数学家“围剿”反超人类!14位数学家深挖原始推理token:不靠死记硬背靠直觉

大模型o3 - mini - high在7个月内,于FrontierMath基准测试中,答题得分从2%提升到22%,超人类团队平均水平。数学家分析其推理记录,发现它靠直觉而非死记硬背解题,但也存在缺乏创造力等局限。

量子位
新闻资讯8

开源·开放·开创,2025张江具身智能开发者大会暨国际人形机器人技能大赛即将启幕

5月29日,2025张江具身智能开发者大会暨国际人形机器人技能大赛将在张江科学会堂启幕,集“峰会+大赛+展览”于一体。现场将发布政策、成立联盟、启动平台与基金,推动产业发展。大赛设五大赛道,展示创新活力。

机器之心
算法论文8

LoRA中到底有多少参数冗余?新研究:砍掉95%都能保持高性能

这篇创新研究介绍了LoRI技术,证明即使大幅减少LoRA的可训练参数,模型性能依然强劲。研究团队在多个任务上测试了LoRI,发现仅训练LoRA参数的5%,LoRI就能匹配或超越其他方法的性能。

机器之心
新闻资讯7

Claude Fable 5解禁,Sonnet 5发布,但各种骚操作封禁中国用户

6月30日深夜到7月1日凌晨,Anthropic宣布Claude Fable 5出口管制解除,7月2日恢复访问,还发布Sonnet 5。但此前安全研究者发现Claude Code在系统提示词里给中国时区和代理域名请求打暗号,Anthropic还收紧对中国账号封锁。

AIGC开放社区