有监督微调」共找到 6428 篇相关文章

开源动态8

RLinf上新πRL:在线强化学习微调π0和π0.5

近年来,基于流匹配的VLA模型成机器人领域前沿技术,但训练依赖大量人类演示数据。清华等机构联合推出在线强化学习微调框架πRL,提出两种微调方案,在测试平台验证了效性,目前代码等已开源。

机器之心
算法论文8

单卡即可微调大模型!内存占用仅1/8,性能依然拉满 | ICML 2025

基础大模型应用于下游任务时微调成本高,低秩适应(LoRA)方法虽降低成本,但性能不及全量微调。华中科技大学和香港中文大学团队提出GOAT框架,在25个多领域任务验证效果好,内存占用仅1/8。

量子位
开源动态8

秋招超强助攻:零基础1小时上手GPT微调!全流程教程免费开源

新一年秋招季,岗位对AI能力要求提升。OpenAI发布新开源大模型GPT - OSS,博主Lorentz Yeung开源本地部署和微调训练GPT - OSS的教程,助零基础者上手,还介绍环境搭建、代码和训练前后效果对比。

新智元
算法论文8

大模型是否对问题难度预判?最新研究揭示 LLM 内部的“难度感知机制”

近期论文《Probing the Difficulty Perception Mechanism of Large Language Models》系统性解答大模型能否感知问题难度等问题。研究基于数据集在主流 LLM 上训练轻量线性探针,定位负责难度感知的注意力头,还发现不同模型表现差异。

深度学习自然语言处理
开源动态8

2张4090竟能本地微调万亿参数Kimi K2!趋境联合清华北航把算力门槛击穿了

仅需2 - 4张消费级显卡(4090),就能在本地对DeepSeek 671B乃至Kimi K2 1TB这样的超大模型进行微调。这得益于KTransformers和LLaMA - Factory两个国产明星项目联动,大幅降低成本,开启AI个性化定制时代。

量子位
算法论文8

突破单token预测局限!南洋理工首次将多token预测引入微调,编程任务准确率提升11.67%

当前主流大语言模型依赖下一token预测训练,难理解跨多token完整概念。南洋理工大学提出概念感知微调(CAFT)技术,首次将多token预测引入微调,能让模型理解完整概念,多领域实验显示其可显著提升模型性能。

量子位
新闻资讯7

硅谷AI大佬都在造末日地堡:小扎夏威夷修了465平米,奥特曼承认加固地下室

科技巨头奥特曼和扎克伯格是末日堡垒建造者。小扎在夏威夷考艾岛买地建含465平米地下避难所的园区,奥特曼加固地下室,他们都否认是避难所。此前彼得·蒂尔造地堡计划告吹。

量子位
开源动态8

VoxCPM2:无tokenizer语音合成,高保真声音克隆

VoxCPM2突破传统TTS系统局限,直接操作连续声学特征,保留音色纹理更完整。基于扩散自回归架构,硬核技术指标,提供三种克隆模式,性能佳,生态完善,微调便捷,但也存在安全风险。

AI工程化
新闻资讯8

被员工怒怼“磕了”,追觅CEO:我肚量;AI恋人陪聊涉黄被判刑,2.4万人付费;马斯克、奥特曼又开撕|AI周报

本周AI热点众多,AI恋人陪聊涉黄案二审,追觅CEO回应员工怒怼,携程涉垄断被查等行业事件;还文心大模型5.0登顶国内文本榜、字节跳动发布SeedFold等大模型进展;以及苹果、谷歌等企业的应用合作动态。

AI前线
新闻资讯7

Redis 之父:哪怕被喷我也得说,AI 远远落后于人类程序员!开发者跟评:用大模型气得我自己写代码都劲儿了

Redis之父Antirez分享开发经历称人类程序员仍比大模型出色,举例说明在解决Redis复杂bug时,人类的创造力能想出奇特效的解法,而大模型较难做到。开发者看法不一,将其当助手,也认为它会干扰思路。

InfoQ