「对齐微调」共找到 513 篇相关文章
「熟悉的陌生人」才是「好老师」？复旦提出简单指标，找出推理蒸馏中真正有教学价值的数据
复旦大学和上海人工智能实验室研究者提出 Rank - Surprisal Ratio (RSR) 度量方法，综合考虑样本信息量与对齐程度，在蒸馏实验中与学生模型后训练性能相关性高，可用于筛选推理轨迹和选择教师模型。
性能飙升42%！人大&字节开源10万级 SWE数据集 Scale-SWE
近期，人大和字节开源10万级软件工程数据集Scale - SWE，用首创工作流从GitHub构建真实数据。基于此微调的Qwen3 - 30A3B - Instruct模型测试表现佳，其数据相比合成数据优势明显。
微软深夜发布SambaY架构，Phi-4min加速10倍推理
微软基于Phi - 4 - mini微调出Phi - 4 - mini - Flash - Reasoning 3B模型，扩展到200064 tokens。采用新型SambaY架构，支持64K token上下文长度，运行速度比前代快10倍，有诸多优点。
Karpathy刚刚敲响警钟：大模型的“终极之战”打响！Agent大军即将全面接管研发
Andrej Karpathy发布新项目autoresearch，人改提示词，AI改训练代码。经约2天微调，找到约20个降低验证损失的修改，提升排行榜成绩。Agent还发现多项重要改进点，未来前沿LLM实验室或走此路。
让机器人看视频学操作技能，清华等全新发布的CLAP框架做到了
近日，清华联合星尘智能、港大、MIT提出 CLAP 框架，能将视频运动空间与机器人动作空间对齐，解决‘数据饥荒’‘视觉纠缠’等问题，可让机器人从视频学技能，还缓解知识迁移难题，推动机器人产业化。
Sam Altman最新博文！温和的奇点
OpenAI CEO Sam Altman在新博客《The Gentle Singularity》中探讨AI进步远超想象时世界的变化，提及AI将在多方面做贡献，还给出未来几年AI发展预测，指出要解决安全和对齐问题。
CVPR2025｜MCA-Ctrl：多方协同注意力控制助力AIGC时代图像精准定制化
中国科学院计算技术研究所团队提出无需微调的通用图像定制方法 MCA - Ctrl，利用扩散模型内部知识，结合条件语义与主体内容。实验显示其在编辑和生成任务表现优，解决了现有技术瓶颈。
人类画了100年的脑图，AI仅用几小时！还绘制出新脑区
加州大学旧金山分校团队提出CellTransformer算法，几小时完成5只小鼠脑图谱绘制，还绘出新脑区。该算法能准确对齐已知脑区，可扩展到多动物数据集，未来有望用于人类大脑及其他器官研究。
听说，大家都在梭后训练？最佳指南来了
大模型时代，Scaling Law 边际效益递减，业界转向后训练。《Post-training 101》博客可助初学者入门，涵盖从预训练到指令微调、SFT 原理、多种强化学习技术及模型评测方法等内容。
数据减少超千倍，500 美金就可训练一流视频模型，港城、华为Pusa来了
香港城市大学与华为香港研究所合作推出 Pusa 项目，它基于 FVDM 理论，可极低成本微调大规模预训练视频模型，成本降超 200 倍、数据减少超 2500 倍，代码已开源。