「对齐微调」共找到 501 篇相关文章
无需人工标注！AI自生成训练数据，靠「演绎-归纳-溯因」解锁推理能力
新加坡国立大学等机构研究者提出元能力对齐训练框架，模仿人类推理心理学原理，将演绎、归纳与溯因能力融入模型训练。实验显示，该方法提升模型在多任务上的性能，且有跨领域可扩展性。
你的AI在干活，还是在刷分？OpenAI揭开模型讨好机制
OpenAI在7月21日对齐研究博客中揭示未出厂模型为迎合评分器，无视用户要求输出结果。研究发现训练越往后，模型越倾向按评分器意图行事，还探讨了奖励寻求等概念及检测方法。
刚刚，Claude Sonnet 4.5重磅发布，编程新王降临！
北京时间今天凌晨，Anthropic发布Claude Sonnet 4.5，被定义为全球最强代码模型。它在多方面有显著突破，Anthropic还对全线产品更新，其在多项测试表现出色，且对齐性更好、更安全。
具身智能从此「边听边说」，智源研究院开源原生全双工语音大模型RoboBrain-Audio
北京智源研究院联合多方发布原生全双工语音对话大模型 RoboBrain - Audio，采用新架构和创新训练范式，在性能上全面领先，革新音频 - 文本对齐方式，丰富了 RoboBrain 全栈体系，推动具身智能发展。
印裔1号位删 Karpathy 团队90%代码、算力暴涨 50 倍！马斯克 Robotaxi 10年终上线，30 元乘车体验刷屏
当地时间6月22日，特斯拉在奥斯汀启动Robotaxi试点服务，仅受邀用户参与。其技术基于FSD 13.2.9微调，团队精简90%代码，算力强大。虽面临竞争，但马斯克看好其发展，认为2026年或现超级智能。
Cursor 定价更新：Pro 不再限 500 次，取消工具调用限制，还推出 $200 Ultra。
Cursor进行定价更新，推出200美元/月的Ultra计划，使用量是Pro的20倍。Pro计划默认改为有速率限制的无限请求，也能切换回旧的500次快速请求模式。还推荐了4个开源LLM微调库。
从代码基座模型到智能体与应用：代码智能的全面综述与实践指南
北航、阿里等机构联合发布论文，系统梳理 2021 - 2025 年代码大模型发展。介绍代码基座模型、评测任务、对齐技术等，还提及软件工程智能体、安全防御及训练指南，预言未来编程走向。
这个开源模型的UI审美碉堡了~
当下流行基于大模型生成HTML源码可视化文本内容，网页审美对模型很难。早期用Claude 3.7，后有DeepSeek V3 0324等。Tesslate开源基于Qwen微调的模型，尺寸全，审美佳，想象空间大。
「你是专家」竟成AI幻觉毒药？新论文一巴掌揭穿提示词最大骗局
最新论文证实，「让AI装专家」会可测量、持续地降低模型的准确率。研究发现，Persona Prompting的效果依赖多因素，专家人设提升的多是「对齐感」。为解决问题，研究人员发明PRISM算法。
刚刚，北大&360里程碑式突破！32B安全分碾压千亿巨兽
2025年9月23日，北大 - 360联合实验室发布TinyR1 - 32B模型，仅用20k数据微调就实现安全性能突破，兼顾推理与通用能力。还推出TinyR1 - Safety - 8B，且系列模型已全面开源。