「后训练阶段」共找到 4141 篇相关文章
何恺明改进了谢赛宁的REPA:极大简化但性能依旧强悍
扩散生成模型在建模复杂数据分布表现出色,但与表征学习领域关联不大。谢赛宁团队提出REPA,不过较麻烦。何恺明团队提出Dispersive Loss,简化且性能强,无需预训练等,适用于多种模型。
视觉感知RAG × 多模态推理 × 强化学习 = VRAG-RL
数字化时代视觉信息愈发重要,传统RAG方法处理视觉信息面临挑战。阿里巴巴通义实验室的VRAG - RL将强化学习引入多模态智能体训练,革新检索生成范式,提升视觉语言模型多方面能力,代码已开源。
通义实验室新研究:大模型自己「扮演」搜索引擎,提升推理能力无需搜索API
阿里通义实验室开源ZeroSearch,提供无需与真实搜索引擎交互的强化学习框架。它用模拟搜索环境和渐进式抗噪训练,让LLM自给自足,节省API成本,在多问答数据集表现优,为智能化检索提供新思路。
一个提示攻破所有模型,OpenAI谷歌无一幸免!
HiddenLayer研究发现一种「策略傀儡」提示,将危险指令伪装成配置片段,配上角色扮演,能让ChatGPT等主流大模型开启「无限制模式」。此策略利用训练弱点,难修复且可扩展,厂商需智能监控。
统一视觉多模态与多任务!快手可灵与港科大团队发布视频生成模型,加速真实世界理解
港科大、港中文、清华和快手可灵团队提出全新视觉框架UnityVideo,统一训练多种视觉模态,让模型更懂物理规律,视频生成更真实可控,还实现零样本泛化,在多任务表现优异。
Perplexity的终极野心:一个域名,暴露一切
AI搜索新秀Perplexity AI从HubSpot联合创始人处收购os.ai域名,其CEO曾被Chrome拒绝合作后,打造Comet浏览器。Comet有强大AI助手,而OpenAI也将推AI浏览器,AI浏览战争一触即发。
5090将被秘密定位?美或强制植入「地理追踪」,锁定英伟达高端GPU
美参议员Tom Cotton提出法案,要求英伟达、AMD等高端GPU和AI芯片植入「地理追踪」功能,6个月后生效。法案覆盖多种产品,对芯片制造商是挑战,还为未来监管升级做铺垫。
VDC+VBench双榜第一!强化学习打磨的国产视频大模型,超越Sora、Pika
复旦大学等机构将强化学习引入视频生成领域。提出的Cockatiel方法在VDC榜单夺冠,IPO方法在VBench登顶,超越Sora、Pika等模型,优化后视频生成效果在多方面显著提升。
用Codex做跨境电商:第九章
文章讲述用Codex做跨境电商时,五条工作流跑通后业务仍会遇问题,而业务系统能让前后任务相连。其是持续经营机制,通过五步让本周之事影响下周做法,还结合案例说明如何操作。
第六章 Coding优先编的是「过程与约束」,不是「参数」
本章以开面包店类比训练大模型,介绍 AutoResearch 自主实验框架。它将研究生助理工作循环交给 Agent,在固定时间用单一指标判断好坏。仓库获约 64.7K Stars,Karpathy 设计哲学为极简主义与固定约束。