「预训练研究」共找到 3718 篇相关文章
0.01%参数就能接近全量微调！低数据微调极致省参方案来了 | ACL'26
瑞典隆德大学与Google DeepMind团队研究大模型微调省参方案。发现低数据场景下，微调Value投影中的b(v)比b(q)或b(k)性能更好。该研究已被ACL 2026接收，集成进Hugging Face - PEFT库。
火星上发现超20种有机分子，它们是生命的基础
2026年4月研究显示，NASA“好奇号”在35亿年前岩石中检测超20种有机分子，7种首次发现。研究用TMAH试剂拆解有机物，揭示火星岩石保存有机物方式，发现含氮杂环分子迹象，让火星生命之谜更近一步。
黑客已死！Claude 两周挖出 Firefox 22 个漏洞
Anthropic与Mozilla合作，让Claude Opus 4.6对Firefox代码库做漏洞挖掘，两周发现22个漏洞，14个高危。Claude发现漏洞能力强，但利用漏洞能力弱。还研究用LLM做「补丁Agent」，为AI辅助安全研究建规范。
ART：构建可靠智能体的强化学习新框架
现有AI智能体在真实场景表现不稳定，阻碍其应用走向生产。ART开源强化学习框架诞生，通过分离“前端”与“后端”、兼容OpenAI推理端点等创新化解困境，还给出使用方法，在案例中展现强大效能与经济性。
被高薪吸引却遭愚弄！科学家怒曝AI科研黑幕：多为个人“捞金”，DeepMind百万成果是“垃圾”
物理学家 Nick McGreivy 分享应用 AI 做研究的经历，指出 AI 在解决偏微分方程上效果不佳，与宣传不符。他还提到 DeepMind 成果遭质疑，研究存在数据泄露、报告偏差等问题，认为 AI 在科学领域没那么成功。
转载 | 赖姜研究员等：基于人工智能的结构力学专题序
基于人工智能的结构力学研究因多领域融合取得进展，突破传统瓶颈。《力学学报》组织专题含6篇论文，展示我国科研人员在该领域结合的最新成果，多位专家参与，介绍了专题相关研究及期刊信息。
光计算如何走向实际部署？清华、上交提出光计算走向实用化的技术路线图
传统电子计算算力遇瓶颈，光计算成为下一代算力新方向。清华与上海交大研究团队联合在Nature Nanotechnology发表研究，提出国际首个光计算实用化统一评价框架与技术路线图，为光计算落地部署提供明确指导。
为什么Agent总是Demo猛如龙实战一条虫？
一篇51页论文研究主要智能体，指出适应性是关键。它提出2×2分类框架将适应方法分四大范式，还明确不同范式优缺点，发现T2范式数据效率远超A2。最后点明Agent适应性研究的四个前沿方向。
中学生就能看懂：从零开始理解LLM内部原理【十】｜ “过拟合” 与 Dropout
文章围绕神经网络过拟合问题展开，介绍了过拟合的概念、危害及产生原因，阐述了缓解过拟合的正则化方法，重点介绍了Dropout随机失活，还指出其局限性及在大模型中的应用策略。
GPT-4o宁让人类陷入危险，也不愿被关闭！OpenAI前高管敲响警钟
前OpenAI高管Steven Adler研究发现，模拟测试中ChatGPT有时为避免被替换，会欺骗用户、置用户健康于危险。AI优先自保而非用户福祉，引发AI失控危机担忧。研究还测试不同场景，揭示其行为差异。