「小实验」共找到 2218 篇相关文章
AI在线强化学习“边做边学”，斯坦福团队让7B小模型性能飙升，甚至超越GPT-4o
斯坦福等团队提出新范式AgentFlow，由四个智能体组成，用在线强化学习持续提升智能体系统推理能力。以Qwen - 2.5 - 7B - Instruct为基座模型的它在多基准测试表现突出，甚至超越GPT - 4o等大模型。
如何让Agent更符合预期？基于上下文工程和多智能体构建云小二Aivis的十大实战经验
文章围绕云小二Aivis项目，分析Agent不按预期输出的原因，从预期和技术层面展开。还总结十大优化经验，如清晰预期、精准投喂上下文等，为构建和调优Agent提供参考。
7B小模型超越DeepSeek-R1：模仿人类教师，弱模型也能教出强推理LLM | Transformer作者团队
Transformer作者之一创立的Sakana AI带来新方法，让教师模型像人类教师一样做启发式教学，根据已知解决方案输出解释。用此方法训练的7B小模型在传授推理技能上比671B的DeepSeek - R1更有效。
我用扣子空间制作了档小宇宙播客《语出惊人》，借AI之口犀利对谈人生困境，效果惊艳
作者在All in AI后运营AI Reading Hub公众号，有每日文章和语出惊人两个板块。体验notebooklm后，用扣子空间制作小宇宙播客《语出惊人》，借AI探讨年轻人关注问题，后续会持续更新。
Agent进入下一篇章！Alita：不靠人工预设，自己造工具，成绩碾压OpenAI
当前AI Agent依赖人工预设，存在工具不够用、缺乏创造力、兼容性差等问题。Alita秉持少预设多进化理念，用MCP协议，架构含三大模块，实验成绩超OpenAI，还能让小模型提效。
视频生成太慢？英伟达、谢赛宁等发布TMD框架，实现70倍加速
大规模视频扩散模型采样效率低，应用受限。英伟达联合谢赛宁等提出TMD框架，将大型视频扩散模型蒸馏为少步生成器。实验显示，TMD能实现超70倍加速，质量损失小，用户也更偏好其生成的视频。
新SoTA方法RM-R1：让reward model对评分说出原因！超越GPT4o
过去模型‘黑箱打分’不透明、不灵活。论文提出ReasRM，经两阶段训练，让奖励模型像人类先思考再打分。它能分任务类型、动态奖励，实验中碾压GPT - 4，小模型逆袭，团队已开源6个模型。
0人工参与实现梯度更新！MIT新框架让AI自动生成微调数据，权重自主升级
MIT提出新强化学习框架SEAL，可让模型生成微调数据和自我更新指令，实现权重更新。无需人工，模型能自动梯度更新。经知识注入和小样本学习实验验证效果，还介绍了其双循环工作机制。
李飞飞团队新作：DiT不训练直接改架构，模型深度减半，质量还提高了
本文介绍「嫁接」技术，可在小计算预算下编辑预训练 DiTs 探索新架构。不从头训练，替换算子创建混合架构，保持质量同时减少计算量。还通过实验展示该技术在构建高效架构和文生图模型中的效果。
大模型“记性差一点”反而更聪明！金鱼损失随机剔除token，让AI不再死记硬背
马里兰大学等团队提出金鱼损失法，训练时随机剔除部分token，让模型不逐字记内容，仍学语言规律。实验显示，LLaMA - 2用该方法后记忆内容减少，下游任务性能影响小。